فقاعة الرهان على الذكاء الاصطناعي تصل أبعد من أسواق المال

عند الحديث عن مخاطر الذكاء الاصطناعي، يتبادر إلى الذهن وول ستريت ومخاوف المستثمرين بشأن استدامة الإنفاق الضخم على التقنية، لكن الخسائر التي تواجه الأفراد لا تقل أهمية، فماذا قد يحدث حينما يثق الأشخاص في الذكاء الاصطناعي بشكل كامل؟

ماذا حدث للمزارع؟

– في مقاطعة آنهوي الصينية، خسر مزارع يبلغ من العمر 67 عامًا، محصوله بالكامل بعد تنفيذ وصفة اقترحها عليه الذكاء الاصطناعي لمكافحة الآفات، بعدما اعتاد الاعتماد عليه لأكثر من عام في مختلف شؤون الزراعة.

كيف استخدمه المزارع؟

– استعان المزارع الصيني الذي يُدعى “وو” بالتطبيق (الذي لم يكشف عن اسمه) في تحديد مواعيد الزراعة والتسميد واختيار المبيدات، ومع مرور الوقت ازدادت ثقته في توصياته، حتى بدأ تنفيذها مباشرة دون مراجعة المعلومات مع مصادر أخرى.

أين وقع الخطأ؟

– في الشهر الماضي، اقترح تطبيق الذكاء الاصطناعي على المزارع وصفة لمكافحة الحشائش الضارة والآفات في محصول السمسم، تضمنت استخدام مبيدات بينها “فلوبيريميثالين” ومواد أخرى، وبالفعل قام المزارع برش الوصفة للمحصول بأكمله دون استشارة مختص.

ما النتيجة؟

– بعد رش الخليط على مساحة بلغت 25 فدانًا، ذبلت شتلات السمسم والحشائش الضارة معًا في اليوم التالي، لتتحول توصية الذكاء الاصطناعي إلى خسارة كاملة للمحصول، وأوضح خبراء زراعيون أن المبيد الذي استخدم لم يكن مناسبًا لمحصول السمسم.

هل كان هناك تحذير؟

– رغم أن المزارع قال إن الذكاء الاصطناعي لم يحذره بوضوح من المخاطر، كانت صفحة المحادثة تتضمن تنبيهًا بأن المحتوى المُولّد قد يكون غير دقيق ويجب التحقق منه، وهو تحذير لم ينتبه إليه قبل تنفيذ التوصية.

ماذا كان رد الشركة؟

– حينما اتصل المزارع بخدمة عملاء الشركة المطورة للتطبيق، أوضحت أن النموذج لا يعتمد على قاعدة بيانات معرفية مستقلة، وإنما يستند في إجاباته إلى معلومات متاحة على الإنترنت، مشيرة إلى أنها سجلت شكوى المزارع ورفعتها إلى الجهات المختصة.

هل هذه حادثة فردية؟

– لا تقتصر مخاطر الثقة الزائدة على الزراعة؛ ففي العام الماضي، أُصيب رجل يبلغ من العمر 60 عامًا بتسمم البروميد بعد استبدال ملح الطعام بواسطة بروميد الصوديوم بناءً على نصيحة من “شات جي بي تي”، ما أدى إلى إصابته بالذهان ودخوله المستشفى للعلاج.

إذن أين المشكلة؟

– تكمن المشكلة في أن الذكاء الاصطناعي لا يخطئ بصورة متكررة؛ بل قد يقدم إجابات صحيحة لفترة طويلة، ما يدفع المستخدم إلى التوقف عن التحقق منها، ومع نبرة الإجابة الواثقة، تتحول النجاحات السابقة إلى ثقة زائدة قد تجعل الخطأ أكثر خطورة.

خسائر مليارية

– لا تقتصر تكلفة أخطاء الذكاء الاصطناعي على الأفراد؛ إذ أظهر مسح لـ”إرنست آند يونج” شمل 975 مسؤولًا تنفيذيًا حول العالم خلال يوليو وأغسطس 2025، أن الشركات التي تستخدم التقنية بكثافة تكبدت خسائر مجمعة بلغت 4.4 مليار دولار، نتيجة مخرجات خاطئة ومشكلات امتثال وتحيزات واضطرابات أخرى.

رقابة بشرية

– رغم التطور السريع للذكاء الاصطناعي، تكشف هذه الحالات أن الاعتماد عليه في القرارات الحساسة لا يزال يحتاج إلى رقابة بشرية، فكلما أصبح الذكاء الاصطناعي أكثر قدرة على تقديم إجابات مقنعة، بات التمييز بين المعلومة الصحيحة والخاطئة أكثر صعوبة.