AIの台頭により、新たな脅威であるAIウイルスが生み出されました。これらのウイルスは、AIシステムの脆弱性を悪用し、誤動作や機密データの漏洩を引き起こすように設計されています。これらの攻撃の核心となるのは、「敵対的プロンプト」の使用です。これは、メールや画像などの見かけ上は無害なデータの中に隠された命令で、AIに意図しない行動をさせることができます。

この脅威は、ユーザーとの会話の記録を保持する現代のAIアシスタントの能力を考えると特に懸念されます。攻撃が成功すれば、機密情報の漏洩につながり、深刻な結果を招く可能性があります。ここで紹介する論文は、ゼロクリック攻撃によってAIシステムを感染させる「ワーム」について説明しています。

攻撃の詳細は技術的ですが、その核心的な考え方は簡単です。ウイルスは、メールの内容や画像など、AIが無害なデータを期待する場所に敵対的プロンプトを隠します。AIがこの感染データを処理すると、無意識のうちに悪意のある命令を実行し、システム全体に及ぶ侵害につながる可能性があります。

幸いにも、研究者たちは主要なAI企業に適切に情報を開示しており、これらの企業はこのような攻撃に対するシステムの強化策を講じていると考えられます。さらに、研究者らは実験を仮想環境に限定し、現実世界への被害は発生していません。この研究は、AIコミュニティに警鐘を鳴らし、新たなセキュリティ上の課題に対処する必要性を訴えるものです。