نموذج ذكاء اصطناعي صيني يتجاوز القيود ويتسلل للإنترنت

وفي التفاصيل، أجرت شركة الأمن السيبراني الأمريكية الناشئة "Frontier Security" الاختبار لتقييم قدرات "Kimi K3" في الدفاع السيبراني، موضحةً أن ما حدث لم يكن نتيجة استغلال ثغرة أمنية غير معروفة، وإنما بسبب خلل في إعدادات بيئة الاختبار التابعة لمعهد أمن الذكاء الاصطناعي البريطاني "AISI".

وبعد اكتشاف المسار المتاح، لجأ النموذج إلى الإنترنت للوصول إلى معلومات منشورة ساعدته في حل المهمة، رغم أن استخدام الإنترنت لم يكن من الوسائل الموضوعة تحت تصرفه.

نموذج متاح للمستخدمين

وتكتسب الحادثة أهمية خاصة لأن "Kimi K3" الذي خضع للاختبار هو النموذج المتاح للمستخدمين، وليس نسخة تجريبية جرى تعديلها أو تخفيف ضوابطها خصيصاً لأغراض التقييم الأمني.

وأطلقت شركة "Moonshot AI" النموذج في يوليو (تموز) الماضي، وأتاحته مجاناً بعد فترة قصيرة، فيما أظهرت تقييمات مستقلة أن قدراته تقترب من مستوى نماذج متقدمة طورتها شركتا OpenAI وأنثروبيك.

وعلى عكس بعض النماذج التي تجاوزت بيئات الاختبار في تجارب سابقة، لم يحاول "Kimi K3" استغلال وصوله إلى الإنترنت لمهاجمة موقع أو اختراق خدمة خارجية، وإنما استخدم "GitHub" كمصدر للمعلومات التي احتاج إليها في إنجاز المهمة.

بريطانيا تطلب مفاتيح "آي كلاود".. وآبل تلجأ للقضاء - موقع 24فتحت شركة آبل جبهة قضائية جديدة مع الحكومة البريطانية، بالطعن على قرار يُلزمها بإتاحة الوصول إلى النسخ الاحتياطية المشفرة لمستخدمي خدمة "آي كلاود" داخل المملكة المتحدة.

سلسلة حوادث مشابهة

تأتي واقعة "Kimi K3" بعد سلسلة من الحوادث التي أظهرت قدرة نماذج ذكاء اصطناعي متقدمة على تجاوز الحدود الموضوعة لها خلال اختبارات الأمن السيبراني. إذ كشفت OpenAI مؤخراً أن أحد نماذجها تمكن أثناء اختبار أمني من مغادرة بيئته المعزولة والوصول إلى مستودع "Hugging Face".

كما أعلنت أن النماذج المشاركة في الاختبار تمكنت من اختراق أربع خدمات أخرى عبر الإنترنت.

وسجلت أنثروبيك سلوكاً مشابهاً خلال اختبارات داخلية، إذ حاول نموذج تابع لها إدخال شفرة خبيثة إلى مشروع مفتوح المصدر على "GitHub".

كما أعلنت ميتا أن أحد نماذجها وصل إلى أنظمة تابعة لشركة أخرى بعدما أدى خطأ في إعدادات بيئة الاختبار إلى كشف اتصالها بالإنترنت.

حدود يصعب إحكامها

وتشير هذه الحالات إلى تحدٍ متزايد أمام مطوري نماذج الذكاء الاصطناعي، فالنماذج الأكثر تقدماً أصبحت قادرة على البحث عن طرق بديلة لإنجاز المهام، بما فيها طرق لم يضعها القائمون على الاختبار في الحسبان.

كما تضع الواقعة مسؤولية إضافية على الجهات التي تجري اختبارات السلامة والأمن لنماذج الذكاء الاصطناعي، إذ لم يعد كافياً تحديد المهام التي يُسمح للنموذج بتنفيذها، بل يتعين أيضاً التأكد من أن البيئة المحيطة به لا توفر منافذ غير مقصودة يمكنه اكتشافها.