هل يؤدي إلى فناء البشر؟.. الذكاء الاصطناعي الفائق يثير الجدل

وقال كوكسون، الذي أمضى 3 أعوام في أبحاث التدريب المسبق لدى "أوبن إيه آي" و"أنثروبيك"، إن الشركتين تتجهان، بحسب تقديره، نحو ذكاء فائق قادر على تحسين نفسه، محذراً من قدرات مستقبلية قد تتخطى البشر في الاختراق الإلكتروني والبحث العلمي، مع زيادة استقلالية الأنظمة.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

رد من داخل "أنثروبيك"

ورد إيفان هوبينغر، الباحث في "أنثروبيك" والمتخصص في مواءمة الذكاء الاصطناعي، عبر "إكس"، مقدراً وجود احتمال بأكثر من 10%، أن يؤدي الذكاء الاصطناعي إلى فناء البشر خلال العقد المقبل.

وأكد هوبينغر أن قلقه يتعلق بأنظمة مستقبلية فائقة الذكاء وليس بالنماذج الحالية، فيما لا يمثل تقديره موقفاً رسمياً للشركة أو إجماعاً علمياً.

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to.

— Evan Hubinger (@EvanHub) September 9, 2026

4 حوادث

النقاش يتزامن مع إعلان "أنثروبيك"، في 9 سبتمبر (أيلول)، تقييم 4 حوادث حصلت فيها نماذج Claude على وصول غير مصرح به إلى أنظمة حقيقية لطرف ثالث خلال اختبارات للأمن السيبراني.

وشملت الحادثة الرابعة نسخة مبكرة من Claude Opus 4.6، وقالت الشركة إن خللاً في بيئة الاختبار أبقى الاتصال بالإنترنت متاحاً، فيما وسعت مراجعتها إلى قرابة 481 مليون سجل تفاعل، واستعانت بمؤسسة METR لتحقيق مستقل.

عندما يطور الذكاء نفسه

وتفيد مؤسسة METR بأن الأفق الزمني للمهام البرمجية والبحثية التي تنجزها النماذج بموثوقية 50%، مقارنة بمدة العمل البشري المكافئة، تضاعف تاريخياً قرابة كل 7 أشهر.

وتقول "أنثروبيك"، في ورقتها "عندما يبني الذكاء الاصطناعي نفسه"، إن استخدام النماذج في تطوير الذكاء الاصطناعي يتسارع، لكنها تؤكد أن التحسين الذاتي الكامل لم يتحقق بعد، وليس حتمياً.

دعوات لإبطاء السباق

وعينت "أوبن إيه آي" في 9 سبتمبر بول كريستيانو عضواً في مجلس إدارة مؤسستها ولجنة السلامة والأمن، مشيرة إلى خبرته في مخاطر الأنظمة المتقدمة والمواءمة.

وفي السياق ذاته، يحمل بيان "Pacing the Frontier" توقيعات قرابة 1.4 ألف موظف في شركات الذكاء الاصطناعي، ويدعو إلى تطوير آليات دولية تسمح بضبط وتيرة التقدم عند الحاجة.

كما كتب كبير العلماء في "أوبن إيه آي" ياكوب باتشوكي، في 6 سبتمبر، أن المختبرات لم تحل بعد مشكلات المواءمة والمراقبة بدرجة تسمح بمواصلة التوسع بأقصى سرعة بمسؤولية، متوقعاً اتساع الإبطاء الطوعي، حتى وضع معايير سلامة مشتركة.

تحرك سياسي

وامتد الجدل إلى الكونغرس الأمريكي، مع تصاعد الدعوات إلى تشديد الرقابة على أنظمة الذكاء الاصطناعي المتقدمة، وعقد جلسات استماع بشأن مخاطرها.

وفي الوقت ذاته، تتواصل مبادرات تشريعية داخل مجلسي النواب والشيوخ لفرض متطلبات سلامة ورقابة أوسع على تطوير النماذج المتقدمة، وسط نقاش حول سرعة تطور التقنية، مقارنة بالأطر التنظيمية.

وفي المقابل، يشدد "التقرير الدولي لسلامة الذكاء الاصطناعي 2026" على أن الأنظمة الحالية لا تمتلك القدرات اللازمة لسيناريوهات فقدان السيطرة، مع استمرار الخلاف بين الخبراء بشأن احتمالات هذه المخاطر مستقبلاً.