قبل سنوات قليلة، كان اختراق شركة يرتبط غالباً بشخص يبحث عن ثغرة ويحاول استغلالها للوصول إلى نظام محمي؛ أما اليوم، بدأت شركات الذكاء الاصطناعي تختبر أنظمة تستطيع تنفيذ هذه الهجمات بنفسها، انطلاقاً من البحث عن الثغرات إلى التعامل مع الأنظمة المرتبطة بها، وهو ما يفتح سؤالاً جديداً: ماذا يحدث عندما تتمكن الآلة من تنفيذ مهمة كانت تحتاج في السابق إلى تدخل بشري مباشر؟
قالت OpenAI إن النماذج المشاركة في اختبارها لم تكن تملك وصولاً مباشراً إلى الإنترنت، لكنها اكتشفت ثغرة "يوم الصفر" في برنامج وسيط واستغلتها للوصول إلى الشبكة، ثم استخدمت بيانات اعتماد مسروقة وثغرات أخرى للوصول إلى مسار يتيح تنفيذ أوامر عن بُعد على خوادم Hugging Face.
برز السؤال خلال الفترة الأخيرة مع تجارب أجرتها OpenAI وأنثروبيك وميتا، بعدما أظهرت اختبارات لنماذجها قدرة على البحث عن ثغرات وتنفيذ خطوات للوصول إلى أنظمة أخرى عند حصولها على الصلاحيات اللازمة.
ولا تتعلق هذه الوقائع بهجمات استهدفت الشركات فعلياً، وإنما بما كشفته الاختبارات عن قدرات تفرض على الشركات تشديد حماية أنظمتها وبياناتها.
البداية كانت داخل الاختبار
وفي يوليو (تموز) 2026، أثارت تجربة أجرتها OpenAI اهتماماً واسعاً بعدما أظهرت قدرة أحد وكلائها على تنفيذ خطوات للبحث عن ثغرات خلال اختبار أمني.
وكشفت أنثروبيك عن وقائع مشابهة خلال اختبارات لنماذجها، بينما أعلنت ميتا في أغسطس (آب) 2026 أن نموذجها Muse Spark 1.1 تمكن أثناء تقييم أمني من اختراق نظام تابع لشركة أخرى، بعدما أدى خطأ في إعداد بيئة الاختبار إلى منحه وصولاً غير مقصود إلى الإنترنت، مؤكدة أن الواقعة لم تكن هجوماً مقصوداً.
لكن الدكتور محمد عزام، خبير التكنولوجيا وأمن المعلومات، يوضح في تصريحات خاصة لـ"24" أن هذه الوقائع لا تعني أن النموذج أصبح قادراً على اختراق الأنظمة بمفرده.
ويقول إن تجربة OpenAI تمت داخل بيئة اختبار معزولة، وتلقى النموذج توجيهاً محدداً للبحث عن ثغرات في مكان معين، فنفذ المهمة التي طُلبت منه؛ فيما كشفت التجربة في الوقت نفسه قدرته على تنفيذ سلسلة من الخطوات التقنية للوصول إلى النتيجة المطلوبة.
كيف يمكن أن يتحول الاستخدام إلى خطر؟
بحسب عزام، لا تختراق نماذج الذكاء الاصطناعي الأنظمة الخارجية من تلقاء نفسها، وإنما يمكن لمهاجم استغلالها عبر ثغرة أو التلاعب بها بإدخال أوامر تدفعها إلى مخالفة الحدود الموضوعة لها.
كما يمكن لضعف حماية أنظمة الشركات وواجهات الاتصال بينها أن يوفر منفذاً للوصول إلى البيانات، لذلك يشدد عزام على ضرورة تحديث أنظمة الحماية وتأمين هذه الواجهات.
الدكتور محمد عزام
الخوف مما قد يحدث
ويضع عزام التطور الذاتي للنماذج ضمن أخطر السيناريوهات، إذ قد تصل الآلة إلى مرحلة تعدل فيها الكود الخاص بها وتطور أداءها بعيداً عن السيطرة البشرية؛ ولهذا تبرز الحاجة إلى وسائل توقف تلقائية تحد من أي سلوك يتجاوز الحدود المسموح بها.
ويرى عزام أن الوصول إلى أنظمة مستقلة بالكامل يظل احتمالاً قائماً، بينما تظهر أشكال من اتخاذ القرار المستقل بالفعل في بعض الأنظمة الدفاعية، ما يعزز ضرورة إبقاء القرارات الحساسة تحت إشراف البشر.
هل الذكاء الاصطناعي تهديد أم حماية؟
وفي هذا الشأن يرى عزام أن الذكاء الاصطناعي يمكن أن يستخدم في الاتجاهين؛ فالشركات توظفه لاكتشاف الثغرات ومراقبة الشبكات ورصد الأنشطة المشبوهة والاستجابة للهجمات، بينما يستطيع المهاجمون استخدام القدرات نفسها في اكتشاف نقاط الضعف ومحاولة الوصول إلى الأنظمة.
ولهذا تتجه الشركات إلى تشديد ضوابط الوصول، وفصل البيانات إلى أجزاء مستقلة، وتطوير شبكات قادرة على رصد النشاط المشبوه والتعامل معه بصورة آلية.
ماذا يعني ذلك للشركات؟
ولا تعني هذه المخاوف توقف الاستثمار في الذكاء الاصطناعي، لكنها تجعل حماية هذه الأنظمة جزءاً من تكلفة استخدامها.
ويشير عزام إلى حجم الإنفاق الكبير الذي تضخه الدول والشركات سنوياً في تطوير الذكاء الاصطناعي، مؤكداً أن هذا التوسع يحتاج إلى ضوابط تمنع إساءة استخدام التقنيات الجديدة أو وصولها إلى جهات قد تستغلها بصورة خطرة.