خاص 24| كيف دمرت استشارة ذكاء اصطناعي 25 فدان سمسم لمزارع بين ليلة وضحاها؟

تردد المزارع "وو" (67 عاماً) في البداية بشأن استخدام برامج الدردشة الآلية للتعامل مع محاصيله، لكن بعد استشارة الذكاء الاصطناعي قبل عام وتلقيه نتائج مشجعة، زاد اعتماده عليها، دون الرجوع للمتخصصين، فأصبح يستشيرها في كل شيء تقريباً، بدءاً من جدولة الأنشطة الزراعية والأسمدة وصولًا إلى استخدام المبيدات. 

نتائج كارثية 

في 10 يوليو (تموز) 2026، سأل المزارع نموذج الذكاء الاصطناعي عن كيفية مكافحة "الحشائش الضارة والآفات في محصول السمسم"، ليرد الروبوت الذكي بضرورة استخدام مبيدات حشرية عالية الفعالية تضمنت "فلوبيريميثالين عالي الكفاءة"، و"فلوسلفاسلفاإيثر" لمكافحة الحشائش، إلى جانب "ثياميثوكسازين" و"ملح الميثيل".

اعتمد "وو"، نصائح الذكاء الاصطناعي على الفور، وأقبل على رش محصول السمسم بالمواد الكميائية، ليُفاجئ بنتائج كارثية، قائلاً: "لم تنجو الشتلات في اليوم التالي، العشب بدأ يموت، والشتلات انهارت بشكل سريع".

بعد ذلك، استشار المزارع الذكاء الاصطناعي مرة أخرى عن سبب التحول المفاجئ والكارثي للمحصول، فأجابه بأن "المبيدات الحشرية الكيميائية السبب الرئيسي لتدمير محصول السمسم"، وهو ما زاد من حسرته.

ماذا حدث؟

من جانبه، يوضح المهندس محمود فرج، خبير أمن المعلومات والذكاء الاصطناعي  لـ"24"، أن النماذج الذكية تُدرب على كميات ضخمة ومتنوعة من البيانات، وتعمل على تجميع المعلومات من مصادر متعددة لتقديم إجابة عن السؤال المطروح، لكنها لا تمتلك بالضرورة القدرة على تقييم ملاءمة هذه المعلومات لكل حالة على حدة.

ويفسر فرج، في حديثه لـ "24"، واقعة المزارع الصيني، بأنه أدخل "أوامر ومُطالبات" خاطئة إلى النموذج حينما طالبه بالقضاء على "حشائش السمسم" فجمع النموذج بين القضاء على الحشائش الضارة ومحصول السمسم، مُستحضراً المعلومات المُخزنة لديه، دون مراعاة طبيعة المحصول، ما أثر كلياً على الشتلات التي لم تستحمل المواد الكيمائية شديدة المفعول.

ويشير خبير الذكاء الاصطناعي، إلى أن الخطأ الكارثي الذي وقع فيه المُزارع اعتماده النتائج باعتبارها شيء موثوق دون استشارة متخصص، ضارباً المثل بواقعة أخرى في مصر، حينما أقبل أحد الأشخاص على الاستعانة بـ"شات جي بي تي"، لصنع تركيبة تدخل في إنتاج "الصابون"، لكنها انفجرت فيه جراء تفاعل المواد الكيميائية مع بعضها بناء على المعلومات التي قدمها النموذج.

ويُشدد فرج، على أن الذكاء الاصطناعي قد يؤدي دوراً مساعداً للخبير في بعض الحالات، لكنه لا يمكن أن يحل محل المتخصصين في المجالات التي تنطوي على مخاطر مرتفعة، قائلًا إن "استخدامه في مجالات الطب والكيمياء والزراعة يجب أن يخضع لمراجعة بشرية متخصصة، هذا فضلاً عن ضرورة اختبار أي توصية أو نتيجة صادرة عن النموذج قبل تطبيقها على أرض الواقع".

نصائح:

في هذا الشأن، ينصح خبير الذكاء الاصطناعي بالتالي:

• التعامل مع الذكاء الاصطناعي باعتباره أداة حوار، وشريك في التفكير، لا بديل للإنسان لاتخاذ قرارات.
• لا تثق في إجابات النماذج الآلية بشكل أعمى، وتفحص كل إجابة وتحقق من مصادرها وتواريخها وروابطها.
• لا تجعل الذكاء الاصطناعي بديلًا عن قدراتك وخبرتك، استخدمه كاختصار دائم أو كمرحلة نهائية من العمل قد يؤدي إلى إضعاف قدراتك الإبداعية والتفكير المستقل.
• الرجوع إلى المختصين أصحاب الخبرة، لاسيما في مجالات مثل الزراعة والطب والغذاء.
• رفع مستوى المخاطر تدريجياً، على أن تبدأ بالمهام التي تستطيع التحقق من نتائجها بنفسك، ولا تستخدم الذكاء الاصطناعي في قرارات عالية المخاطر دون قدرة حقيقية على مراجعة نتائجه.