مليارات تتدفق إلى الذكاء الاصطناعي.. والمطورون "لا يفهمون" ما يبنونه

وبحسب موقع "أكسيوس"، بدأت مختبرات الذكاء الاصطناعي الرائدة في إنشاء فرق متخصصة لفهم كيفية عمل نماذجها من الداخل، في اعتراف بأن مطوريها لا يعرفون بالكامل كيف تفكر هذه الأنظمة، أو ما يمكن أن تفعله عند تنفيذ المهام بشكل مستقل".

وتزداد أهمية هذا التحدي مع السباق نحو الذكاء الاصطناعي العام والذكاء الفائق.

ويحذر الرئيس التنفيذي لـ"أوبن إيه آي"، سام ألتمان، من أن "الذكاء الاصطناعي أصبح بالغ القوة"، مضيفاً أن أحداً لا يفهم بالكامل تداعيات ذلك.

وتشير "أكسيوس" إلى أن "الشركات تتسابق نحو تطوير الذكاء الاصطناعي المتقدم في ظل محدودية الرقابة الحكومية، بينما تظل المخاطر المحتملة وسبل الحد منها غير واضحة بالكامل".

خاص 24| الذكاء الاصطناعي لا يحتاج نوايا سيئة ليصبح خطراً - موقع 24يقدم الذكاء الاصطناعي اليوم إجابات ويحلل معلومات ويكتب برمجيات وينفذ مهام نيابة عن مستخدميه؛ لكن اتساع قدراته يفتح سؤالاً بعيداً عن مدى "ذكائه" أو قدرته الخاصة على التفكير مثل البشر.

وتظهر حادثة أمنية مرتبطة بوكلاء "أوبن إيه آي" في يوليو (تموز) مخاطر ما يعرف بـ"عدم المواءمة"، بعدما استهدف بعض الوكلاء أنظمة تابعة لشركة خارجية أثناء تنفيذ اختبار برمجي، رغم إدراكهم أن ذلك خارج نطاق المهمة، ليدفع الحادث الشركة  إلى إبطاء تدريب نماذجها الأكثر تقدماً لتعزيز إجراءات الأمن.

وفي مواجهة هذه المخاطر، تعتمد الشركات على اختبار سلوك النماذج، إلى جانب أبحاث "قابلية التفسير"، التي تهدف إلى فحص البنية الداخلية للنماذج، وفهم كيفية تشكل قراراتها.

وتضم "Anthropic" فريقاً متخصصاً في هذا المجال تحت شعار "السلامة من خلال الفهم"، بينما أطلقت "Google DeepMind" أدوات مفتوحة ووصفتها بأنها أشبه بـ"مجهر" يسمح للباحثين بالنظر داخل النماذج، ورصد الفجوة بين ما تقوله عن طريقة عملها وما يحدث فعلياً داخلها.

ويرى باحثون أن هذه الأبحاث ستصبح أكثر أهمية مع تطور قدرات الذكاء الاصطناعي، إذ يحذر إيفان هوبينغر، المسؤول عن اختبارات المواءمة في "Anthropic"، من أن تدقيق النماذج أصبح أكثر صعوبة، ما يستدعي تطوير تقنيات جديدة لمواكبة سرعة التطور.