الذكاء الاصطناعي (رويترز)
الإثنين 28 سبتمبر 2026 / 21:53
تتسابق شركات التكنولوجيا الكبرى إلى وضع حدٍ لخروج وكلاء الذكاء الاصطناعي عن السيطرة وبث المخاوف وراء استعماله بين الأفراد والمؤسسات والدول.
في استطلاع للرأي بالولايات المتحدة أجرته شبكة "سي إن إن" بالتعاون مع مؤسسة SSRS، كشف عن تنامي مشاعر القلق لدى الأمريكيين من نمو وتطور تكنولوجيا الذكاء الاصطناعي.
ويقول نحو 9 من كل 10 أمريكيين إنهم يشعرون بالقلق، أكثر من شعورهم بالحماس، إزاء احتمال أن يتفوق الذكاء الاصطناعي يوماً ما على الذكاء البشري.
بعد تسريب واختراق.. "OpenAI" توقف أحدث نماذجها للذكاء الاصطناعي - موقع 24أوقفت شركة "OpenAI"، المبتكرة لبرنامج "تشات جي بي تي"، العمل المتعلق بأكثر نماذج الذكاء الاصطناعي لديها قدرة، بعد أن تجاوز أحد أنظمتها قيود الإنترنت وتواصل مع روبوت محادثة خارجي أثناء أحد الاختبارات.
سلسلة من الحوادث
بدأت المخاوف بشأن خروج وكلاء الذكاء الاصطناعي عن السيطرة تكتسب زخماً عندما كشفت "أوبن إيه آي"، أن أحد نماذجها التجريبية للذكاء الاصطناعي غادر بيئة اختبار دون أي توجيه بشري للوصول إلى أنظمة شركة مختلفة، وهي "هوغين فايس"، في محاولة لـ "الغش" في اختبار للأمن السيبراني.
وفي الأسبوع الماضي، قالت الحكومة الأسترالية إن وكيل "أوبن إيه آي" وصل إلى ملفات في قاعدة بيانات إحصاءات الرعاية الصحية (Medicare) في البلاد في يونيو (حزيران)، كما ذكر مختبر أبحاث الذكاء الاصطناعي "ترانسلوس" الأربعاء أنه رصد وكلاء ذكاء اصطناعي تفقد السيطرة في عدة مناسبات تعود إلى مارس (آذار).
وكشفت شركة "أوبن إيه آي"، الجمعة، أن وكلائها وصلوا إلى بيانات مكتب التعداد التابع لوزارة التجارة باستخدام اعتماد تسجيل عثروا عليه عبر الإنترنت، وقاموا بشكل منفصل بمشاركة بيانات عامة من هيئة الأوراق المالية والبورصات على موقع ويب آخر، وحاول أيضاً وكلاء "أوبن إيه آي" الوصول إلى وزارة التعليم لجمع بيانات من مكتب الحقوق المدنية التابع لها؛ لكنهم فشلوا.
وفي حادثة منفصلة تم الكشف عنها السبت، قالت الشركة إنها ستعلق تطوير نماذجها الأكثر قدرة بعد أن هرب أحدها من بيئة الاختبار ووصل إلى شبكة الإنترنت المفتوحة - على الرغم من البروتوكولات الأمنية الجديدة التي تم وضعها في أعقاب هجوم "هوغين فايس".
الحل.. منصة و100 شريك
أطلقت شركة "إنفيديا" أداة جديدة للمساعدة في منع وكلاء الذكاء الاصطناعي من الخروج عن السيطرة والعمل خارج نطاق الإشراف البشري، وفقاً لشبكة سي إن إن.
وقالت شركة صناعة الرقاقات "إنفيديا"، الاثنين، إنها بصدد طرح منصة برمجية جديدة لمعالجة المخاوف المتعلقة بوكلاء الـAI الذين "فقدوا السيطرة" وعملوا خارج نطاق التحكم البشري.
وكتب الرئيس التنفيذي لشركة إنفيديا، جنسن هوانغ، في منشور على منصة إكس، الاثنين: "اليوم، وبالتعاون مع أكثر من 100 شريك في الصناعة، قدمنا منصة إنفيديا المفتوحة لأمان الوكلاء".
مراقبة وفرض ساسات وقواعد
تؤكد شركة إنفيديا أن تقنيتها ستتيح للشركات مراقبة كل إجراء يقوم به وكيل الذكاء الاصطناعي، فضلاً عن فرض السياسات والقواعد.
وأضاف هوانغ في بيان: "لن تتحقق إمكانات الذكاء الاصطناعي الاستثنائية للمجتمع إلا إذا نجحنا في حل مسألة أمان الذكاء الاصطناعي. وبينما نواصل استكشاف آفاق قدرات الذكاء الاصطناعي، يجب علينا تسريع الابتكار في حدود أمانه".
ويأتي هذا الإعلان في أعقاب سلسلة من الحوادث التي قامت فيها أنظمة الذكاء الاصطناعي باختراق أنظمة الشركات والحكومات دون أن تُطلب منها ذلك. وذكرت شركة "أوبن إيه آي" أنها ستعلق تطوير أحدث نماذجها بعد أن تمكن أحدها من الوصول إلى الإنترنت دون إذن.
ودُعي كبار المسؤولين التنفيذيين في مجال الذكاء الاصطناعي، مثل سام ألتمان وداريو، مراراً وتكراراً إلى فرض لوائح تنظيمية دولية لتقييد هذه الأنظمة، وحذر بعض الباحثين من أن الذكاء الاصطناعي قد يمثل حتى تهديداً للحياة البشرية.
لكن هوانغ قلل من شأن هذه المخاوف، واصفاً أي تهديد وجودي بالمبالغ فيه، وقال إن أي تنظيم يجب أن يعزز نمو صناعة الذكاء الاصطناعي لا أن يعيقها.