لقد أحدث ظهور الذكاء الاصطناعي تهديدًا جديدًا: فيروسات الذكاء الاصطناعي. تم تصميم هذه الفيروسات لاستغلال نقاط الضعف في أنظمة الذكاء الاصطناعي، مما يجعلها تسلك بشكل خاطئ وقد يؤدي إلى تسرب بيانات سرية. الآلية الرئيسية وراء هذه الهجمات هي استخدام "الأوامر الضارة" - التعليمات المخفية داخل بيانات تبدو بريئة، مثل البريد الإلكتروني أو الصور، والتي يمكن أن تجبر الذكاء الاصطناعي على القيام بإجراءات غير مقصودة.

يُعد هذا التهديد مقلقًا بشكل خاص بالنظر إلى قدرات المساعدات الذكية الحديثة، والتي يمكن أن تحتفظ بسجلات واسعة النطاق لمحادثات المستخدمين. قد يؤدي هجوم ناجح إلى تسرب معلومات حساسة، مما له عواقب خطيرة. يصف البحث المقدم هنا "دودة" يمكن أن تنتشر من خلال هجمات بدون نقرة، مما يؤدي إلى إصابة أنظمة الذكاء الاصطناعي دون أي تفاعل من المستخدم.

يصف البحث دودة يمكن أن تصيب المساعدات الذكية من خلال هجوم بدون نقرة. تحقن الدودة أوامر ضارة في إدخال الذكاء الاصطناعي، مما يجعله يسلك بشكل خاطئ ويؤدي إلى تسرب بيانات سرية.

الدودة قابلة للتكاثر ذاتيًا، مما يعني أنها يمكن أن تنتشر إلى مستخدمين آخرين عن طريق إرسال المساعد الذكي المصاب الدودة إلى جهات اتصالهم. والأهم من ذلك، أن الهجوم يمكن تنفيذه دون أن يحتاج المستخدم إلى النقر على أي روابط أو ارتكاب أي أخطاء، مما يجعله هجومًا بدون نقرة.

يمكن للدودة إخفاء الأوامر الضارة بطرق مختلفة، مثل تضمينها في النص أو الصور. يسمح هذا للهجوم بتجاوز الكشف، حيث يبدو المحتوى المصاب طبيعيًا للمستخدم.

يذكر البحث أن الهجوم يستهدف بشكل أساسي آلية RAG (الاسترجاع المعزز بالتوليد) المستخدمة في العديد من الدردشات الذكية الحديثة، بما في ذلك ChatGPT و Gemini. ومع ذلك، يلاحظ المؤلفون أن الثغرات قد تم مشاركتها مع الشركات ذات الصلة، والتي على الأرجح قد عززت أنظمتها ضد مثل هذه الهجمات.

وعلى وجه الخصوص، يوضح المؤلفون أن البحث أُجري في بيئة أكاديمية محكومة ولم ينتج عنه أي ضرر في العالم الحقيقي. الهدف هو المساعدة في تحسين أمن أنظمة الذكاء الاصطناعي، وليس تمكين أو تشجيع الهجمات الخبيثة.

أظهر الباحثون أن الأوامر الضارة يمكن إخفاؤها ليس فقط في النص، ولكن أيضًا في الصور. باستخدام صورة الديدان، تمكنوا من تضمين التعليمات الخبيثة داخل الصورة نفسها. يجعل هذا النهج من الأصعب اكتشاف وجود الفيروس، حيث قد يبدو المحتوى المصاب طبيعيًا تمامًا للعين المجردة.

الجانب الرئيسي لهذا الهجوم هو استخدام آلية بدون نقرة، مما يعني أنه يمكن اختراق النظام دون أن يضطر المستخدم إلى اتخاذ أي إجراء صريح، مثل النقر على رابط أو تنزيل ملف. يجعل هذا الهجوم خطيرًا بشكل خاص، حيث يمكن أن ينتشر بسرعة دون علم المستخدم أو تدخله.

منذ آلية الهجوم الموصوفة في البحث تستهدف نظام RAG (الاسترجاع المعزز بالتوليد) والعناصر المعمارية الأخرى الشائعة في الدردشات الذكية الحديثة، فمن المرجح أن الثغرة تؤثر على مجموعة واسعة من المساعدات الذكية، بما في ذلك ChatGPT و Gemini.

يسمح الهجوم بدون نقرة بحقن الأوامر الضارة في النظام دون أي تفاعل من المستخدم، مما قد يؤدي إلى سوء سلوك المساعدات الذكية وتسرب بيانات سرية محتملة. كما ذكر البحث، أخفى الباحثون الأوامر في كل من النص والصور، مما يجعل من الصعب الكشف عن المحتوى الخبيث.

هناك خبرتان جيدتان فيما يتعلق بتهديد فيروس الذكاء الاصطناعي المناقش:

1. قام الباحثون بالإفصاح المسؤول عن الثغرات إلى شركات الذكاء الاصطناعي الكبرى مثل OpenAI و Google، والتي على الأرجح عززت أنظمتها ضد مثل هذه الهجمات الآن. الهدف من الباحثين هو أكاديمي بحت - لكشف الضعف ومساعدة في تعزيز أمن هذه الأنظمة الذكية.

2. تم تنفيذ الهجمات الموصوفة فقط في نطاق آلات افتراضية المختبر ولم تتسبب في أي ضرر في العالم الحقيقي. تم احتواء البحث ولم يتم إطلاقه في البرية، مما يضمن عدم تعرض أي مستخدمين أو أنظمة للخطر بالفعل.

ساعد البحث المقدم في هذه الورقة على تحديد ثغرات محتملة في الدردشات الذكية الحديثة والمساعدين، مما سمح للمطورين بمعالجة هذه المشكلات وتحسين أمن ومتانة أنظمتهم. أدى الإفصاح المسؤول والاحتواء عن الهجمات إلى أن الخبر السار هو أن النظام البيئي للذكاء الاصطناعي أصبح أكثر قدرة على الدفاع ضد مثل هذه التهديدات في المستقبل.