傘でドローンを捕獲？AIの盲点を突く「FlyTrap攻撃」の衝撃と教訓

カリフォルニア大学アーバイン校の研究チームが、身近なアイテムである「傘」を使って、自律飛行ドローンを意のままに操り、捕獲あるいは墜落させるという驚きの実験結果を発表しました。一見するとローテクな手法が、最先端のドローン技術がいかに脆弱であるかを浮き彫りにしています。

AIの盲点を突く「FlyTrap」攻撃の仕組み

研究チームが開発した「FlyTrap（ハエトリグサ）」攻撃は、ドローンに搭載された自律追跡技術（Active Track等）の視覚認識機能の欠陥を逆手に取ったものです。この攻撃の主要なポイントは以下の通りです。

特殊パターンを施した傘の利用

研究チームは、特定の幾何学模様をプリントした「敵対的傘」を作成しました。この模様は、ドローンのAIが「ターゲットが遠ざかっている」と誤認するように計算されており、人間の目にはただの傘に見えても、ドローンにとっては攻撃のトリガーとなります。

物理的距離を欺く「引き寄せ」技術

ドローンが人間を追跡している際にこの傘を広げると、AIはパターンを解析して対象物が遠くに離れたと判断します。その結果、ドローンは被写体を捉え直そうとして自動的に傘（＝ターゲット）に接近し、撮影距離を詰めてしまいます。

捕獲や墜落を誘発する実効性

接近したドローンは、網などで簡単に捕獲できる位置まで誘導されます。また、追跡対象との距離感を失わせることで、操縦不能に陥らせて墜落させることも可能です。実験では、DJI Mini 4 Pro、DJI Neo、HoverAir X1といった商用ドローンで有効性が確認されました。

AIセキュリティの脆弱性が突きつける今後の展望

今回の実験は、ドローン技術の急速な普及の裏で、基礎的なセキュリティ対策が置き去りにされている現状を強く示唆しています。今後、社会実装が進む中でどのような課題と向き合うべきかを考察します。

AI信頼性の限界と物理的防御の必要性

画像認識AIは、今回のように少し工夫されたパターンを提示するだけで、容易に誤動作を起こす可能性があります。これは、現在のコンピュータビジョン技術が「文脈」や「現実の物体」を完全には理解していないことを示しています。ドローンが警備や物流などのクリティカルなインフラで使われる場合、視覚情報だけに頼らないバックアップシステムや、こうした敵対的攻撃への耐性を高めるアルゴリズムの強化が急務です。

セキュリティアップデートの責務

研究チームはDJIやHoverAirなどのメーカーにこの脆弱性を通知しており、責任ある開示を行いました。今後は、ソフトウェアのアップデートによってAIの誤認識を軽減するだけでなく、ドローンメーカーが「ハッキングされる前提」での設計思想を取り入れる必要があります。特に、公共の場でのドローン飛行が増える中、プライバシーや安全を守るための技術開発と法整備のバランスをどう取るかが、業界全体の喫緊の課題となるでしょう。