本文介紹的研究發現了現代人工智慧系統(尤其是聊天機器人和電子郵件助手)存在令人擔憂的漏洞。作者展示了創造一種自我複製的「蠕蟲」的能力,該蠕蟲可以通過零點擊攻擊注入對抗性提示,可能導致敏感用戶數據洩露。

然而,值得注意的是,作者已經負責任地向相關公司OpenAI和Google披露了這些發現。這表明這些系統可能已經加強了防禦,降低了實際危害的風險。

此外,作者強調,這項研究的目的純粹是學術性的,旨在了解這些系統的弱點,並幫助提高其安全性。作為學者,他們的目標是為知識的進步和更強大、更安全的人工智慧技術的發展做出貢獻。

總之,這篇論文為人工智慧漏洞的潛在風險提供了寶貴的警示,同時也強調了負責任的研究以及學術界和產業界合作解決這些挑戰的重要性。