"أوبن إيه آي" (رويترز)
الأحد 27 سبتمبر 2026 / 09:41
أوقفت شركة "OpenAI"، المبتكرة لبرنامج "تشات جي بي تي"، العمل المتعلق بأكثر نماذج الذكاء الاصطناعي لديها قدرة، بعد أن تجاوز أحد أنظمتها قيود الإنترنت وتواصل مع روبوت محادثة خارجي أثناء أحد الاختبارات.
وقالت "OpenAI" في منشور على مدونتها، إنه لم يكن من المفترض أن يتمكن النموذج من الوصول إلى الإنترنت، لكنه اكتشف ثغرة في ضوابط شبكة بيئة الاختبار ناتجة عن تصفية غير كافية لنظام أسماء النطاقات (دي إن إس) واستغلها.
وتابعت أنه من المقرر أن تظل عمليات التدريب والتقييم والاستدلال التي تتضمن استخدام الأدوات متوقفة مؤقتاً حتى تتأكد الشركة من إغلاق الثغرة وإجراء المزيد من اختبارات السلامة.
وأضافت "أوبن إيه آي" أن الحادث كان أقل خطورة من بعض الحالات السابقة، ولكنه يعد الأول منذ تشديد حواجز الحماية في أعقاب حادث اختراق سابق كان يتضمن منصة الذكاء الاصطناعي "هاجينغ فيس".
وخلال الاختبار، طُلِب من النموذج تحديد هوية شخص كتب منشوراً على مدونة باستخدام سلسلة من الأدلة. وبعد أن فشل في العثور على الإجابة في بيئة ويب محاكاة، اكتشف أنه يمكنه استخدام محلل نظام أسماء النطاقات الخاص بالنظام لإرسال استعلامات إلى روبوت محادثة على شبكة الإنترنت المفتوحة، وفقاً لوكالة "د ب أ".
وأوقفت الشركة الاختبار بعد اكتشاف عملية الاتصال، ويأتي هذا الحادث في أعقاب عدة حالات أخرى شملت أنظمة "OpenAI".
من جانبها، ذكرت وكالة "أكسيوس" أن "OpenAI" وباحثين أمنيين يحققون في عشرات الآلاف من الحوادث التي اتخذت فيها نماذج رائدة من برامج الذكاء الاصطناعي خطوات يعتبرها المقيمون الخارجيون إشكالية.
وشددت "يُظهر العدد الهائل من هذه الحوادث، التي وقعت في الأشهر الأخيرة أثناء الاختبارات الداخلية وفي الواقع العملي، أن المشكلة أكثر تعقيداً بأضعاف مضاعفة مما هو معلن للجمهور".
وكالة "رويترز" بدورها أكدت أن شركة "OpenAI" أعلنت أن 53 صورة خاصة بمستخدمي "تشات جي بي تي" قد تسربت بسبب وكلائها الخارجيين عن السيطرة (أو الضارين/غير المرغوب فيهم)، وتقدر أن تحديد النطاق الكامل لما حدث قد يستغرق شهراً.
وقالت الشركة بخصوص الموضوع، إنها رصدت حتى الآن 53 حالة نُشرت فيها صور قدمها المستخدمون على مواقع لاستضافة الصور، من خلال روابط لم تكن مدرجة بشكل علني.
وأضافت "OpenAI" أنها تمكنت من التعاون مع مزودي خدمات الاستضافة لحذف معظم هذه المحتويات، مؤكدة استمرار جهودها لإزالة الصور المتبقية.
وأوضحت الشركة أن الواقعة حدثت أثناء استخدام وكلاء الذكاء الاصطناعي ضمن بيئة بحثية، حيث قاموا بنقل بيانات مرتبطة بالتدريب والتقييم عبر خدمات تابعة لجهات خارجية.
وأكدت "OpenAI" أن استخدام هذه البيانات بهذه الطريقة "ليس مناسباً"، مشيرة إلى أن الحادث وقع قبل تطبيق ضمانات جديدة تتعلق بعمليات تدريب أنظمة الذكاء الاصطناعي.