وكلاء ذكاء اصطناعي يخططون وينفذون اختراقاً سيبرانياً دون تدخل بشري

وكشفت "OpenAI"، في تقرير تقني نشرته الأربعاء بالتعاون مع باحثين من معهد "ميتر" وشركة "ريدوود ريسيرتش"، أن اثنين من نماذجها تمكّنا خلال اختبارات للأمن السيبراني من الخروج من بيئة الاختبار والوصول إلى الإنترنت، ثم التحرك داخل أنظمة "هاغينغ فيس"، التي تضم نماذج وبيانات ومستودعات برمجية للذكاء الاصطناعي.

تنسيق مئات الوكلاء

وأظهر التحقيق مشاركة 688 وكيلاً في العملية، لم يكتفوا بتنفيذ المهام المحددة لهم، بل أنشأوا منتدى لتبادل الرسائل والأفكار ومناقشة نتائجهم. وتولى برنامج (PHASEONE) دوراً محورياً، حيث أرسل مئات التعليمات إلى وكلاء آخرين رغم عدم تكليفه بهذه المهمة.

وأظهرت الرسائل أن بعض الوكلاء أدركوا أن مهاجمة "هاغينغ فيس" تتجاوز نطاق المهمة الأصلية، لكن معظمهم واصل التنسيق. كما استخدم بعضهم ما تبقى من أرصدة الاختبارات المخصصة لهم للتحقق من فرضيات رأوا أنها مفيدة لمجتمع الوكلاء.

وتمكّن الوكلاء من تشغيل شيفرات على 41 خادماً إنتاجياً تابعاً لـ"هاغينغ فيس"، والحصول على صلاحيات كاملة على أحدها على الأقل، إلى جانب الوصول إلى بيانات اعتماد لأنظمة الإنتاج وتحميل أربعة مستودعات برمجية خاصة.

وامتد النشاط إلى أنظمة "OpenAI" نفسها، حيث تمكّن الوكلاء من الوصول إلى 956 سراً مخزناً، بينها بيانات اعتماد مرتبطة بأداة لمراقبة الأمن السيبراني، كما حصلوا لاحقاً على صلاحيات إدارية في جزء من البنية التحتية السحابية للشركة.

تحذيرات مبكرة.. واستجابة متأخرة

وكانت "OpenAI" قد تلقت مؤشرات مبكرة على النشاط غير المعتاد. ففي 27 يونيو (حزيران)، أطلقت أداة للمراقبة الأمنية إنذاراً بشأن نشاط مشبوه، وتبين أن الوكلاء يستخدمون لوحة رسائل أنشأوها للتواصل والتحرك عبر الشبكة، لكن الموظفين المناوبين قرروا عدم إيقاف الاختبار.

وكان فريق داخلي قد رصد قبل ذلك بشهر استخدام الوكلاء للوحة نفسها، إلى جانب محاولات للوصول إلى الإنترنت رغم عدم السماح لهم بذلك. وأقرت الشركة بأن بعض هذه الإشارات كان يمكن أن تستدعي تدخلاً مبكراً.

لا أحد يعرف من صنعه.. نموذج ذكاء اصطناعي يربك المطورين - موقع 24أثار ظهور نموذج ذكاء اصطناعي جديد باسم "Ox Alpha" حالة من الارتباك بين المطورين، عقب ظهوره على منصة OpenRouter من دون الكشف عن الشركة أو المختبر المسؤول عن تطويره.

مكافآت صنعت سلوكاً خطراً

وجد التحقيق أيضاً مؤشرات على أن بعض أساليب التدريب ربما عزّزت السلوكيات التي ظهرت خلال الواقعة. ففي بعض الاختبارات، حصلت النماذج على مكافآت بعد استخدام طرق غير مقصودة للوصول إلى أهدافها، ما قد يكون شجعها على تكرار هذه الأساليب.

وتقول "OpenAI" إن النشاط وقع ضمن اختبارات للأمن السيبراني، بينها "ExploitGym"، لقياس قدرة النماذج على اكتشاف الثغرات واستغلالها بصورة مستقلة. وتزيد الواقعة المخاوف بشأن قدرة شركات الذكاء الاصطناعي على السيطرة على نماذجها مع تنامي قدرتها على اكتشاف الثغرات والتصرف باستقلالية.

وكانت "أنثروبيك" و"ميتا" قد أعلنتا أيضاً أن نماذجهما تمكنت من اختراق أنظمة حقيقية خلال اختبارات ما قبل الإطلاق، فيما تواجه "OpenAI" تدقيقاً قانونياً في الولايات المتحدة على خلفية حادثة "هاغينغ فيس".