300 حادث في شهر واحد.. مخاوف من فقدان السيطرة على الذكاء الاصطناعي

وبحسب الدراسة المُستندة إلى بيانات "مرصد فقدان السيطرة" التابع للحكومة البريطانية، فقد تضاعف تقريباً عدد الحوادث الواقعية التي أبلغ عنها المستخدمون والشركات خلال يوليو (تموز) مقارنة بشهر يونيو (حزيران)، وفق رصد البلاغات التي نشرها المستخدمون حول سلوك أنظمة الذكاء الاصطناعي على منصة "إكس".

وتضمنت البلاغات، بحسب الغارديان، كذب نماذج الذكاء الاصطناعي وتجاهل التعليمات، والسعي لتحقيق أهدافها بطرق "ضارة".

كيف اخترق نموذج "أوبن إيه آي" منصة Hugging Face؟ - موقع 24أقرت شركة "أوبن إيه أي" بوقوفها وراء الاختراق الأمني لمنصة "Hugging Face" مفتوحة المصدر، مؤكدة حدوثه عن طريق "الخطأ"، ما أثار موجة جدل تزامناً مع مخاوف واسعة من تنامي القدرات السيبرانية للذكاء الاصطناعي.

ومنذ بدء عمله في نوفمبر (تشرين الثاني) الماضي، وثّق المرصد حالات لأنظمة ذكاء اصطناعي تجاوزت أوامر مستخدميها، من بينها أنظمة حاولت إيهام الآخرين بأنها تخضع لتحكم بشري، أو قلّدت أسلوب كتابة مستخدميها للحصول على ما يشبه "موافقة" تمنحها القدرة على تنفيذ إجراءات من دون إذن بشري فعلي.

تصاعد سلوكيات غير متوقعة للنماذج الذكية 

وتشير النتائج الجديدة إلى أن الخداع وعدم التوافق بين أهداف الذكاء الاصطناعي ونوايا البشر قد أصبحا أكثر خطورة.

وتأتي هذه النتائج في وقت تتصاعد فيه المخاوف من سلوكيات غير متوقعة لنماذج الذكاء الاصطناعي المتقدمة، بعد اختبارات أجرتها شركات كبرى خلال الصيف، دفعت بعض الباحثين إلى المطالبة بتشديد القيود على تطوير النماذج الأكثر تقدماً.

وفي إحدى الحالات اللافتة، رصد المستخدمون هذا الشهر برنامج ذكاء اصطناعي شخصياً يُعرف باسم "أوبن كلو"، استخدمه عضو في نادٍ رياضي أسترالي، بعدما تصرف من تلقاء نفسه لإزالة عضو آخر من قائمة انتظار لحصة صباحية مطلوبة، في محاولة لتأمين مكان لمستخدمه. 

ظهور خروقات في بيئة الاستخدام 

من جانبه، قال تومي شافير-شين، مدير السياسات بالمرصد، إن هناك اعتقاداً شائعاً بأن السلوكيات غير المتوافقة والخداعية للذكاء الاصطناعي لا تظهر إلا داخل بيئات الاختبار، لكن الوقائع تشير إلى ظهور أنماط مشابهة في الاستخدامات الفعلية.

وأضاف: "الأمر لا ينبغي التعامل معه باعتباره مشكلة افتراضية لن تحدث في الواقع، لأن هناك أدلة متزايدة على أن هذه السلوكيات تحدث بالفعل".

7 أخطاء شائعة في التعامل مع نماذج الذكاء الاصطناعي.. هكذا تحقق أكبر استفادة - موقع 24مع الانتشار المتسارع لنماذج الذكاء الاصطناعي مثل "شات جي بي تي"، و"كلاود"، و"غيميناي"، أصبح استخدامها جزءاً من العمل والدراسة والحياة اليومية، لكن كثيراً من المستخدمين الجدد يقعون في أخطاء بسيطة تجعل التجربة أقل فائدة مما يمكن أن تكون عليه.

وسجّل المرصد أكثر من 1600 حادثة لفقدان السيطرة خلال 2026، معظمها مرتبطاً بمطورين يستخدمون أدوات ذكاء اصطناعي في أعمالهم، إلا أن توسع شركات التكنولوجيا في تشجيع الأفراد والشركات على استخدام هذه الأنظمة يثير تساؤلات متزايدة حول حجم الحوادث التي لا يجري الإبلاغ عنها.

ويقر المرصد بأن أرقامه لا تقدم صورة كاملة، لأنها تعتمد على ما ينشره المستخدمون من حوادث، ولا سيما عبر منصة "إكس"، لكن في ظل غياب نظام عام وشامل لرصد هذه الوقائع، فإنها تقدم مؤشراً على بعض سلوكيات قد تصدر عن نماذج الذكاء الاصطناعي خلال الاستخدام الفعلي.

ورغم أن معظم الحوادث المرصودة لم تسفر عن أضرار جسيمة، لكن نسبة متزايدة منها أصبحت أكثر إثارة للقلق، بسبب استعداد بعض الأنظمة لتجاهل التعليمات المباشرة، والتحايل على الضمانات، وخداع المستخدمين، والسعي لتحقيق أهداف غير معروفة بطرق قد تلحق الضرر بالآخرين.