سي إن إن: الجيش الأميركي واجه موقفاً محرجاً بعد خطأ من الذكاء الاصطناعي

أثار تقرير استخباراتي – تم تداوله داخل الجيش الأميركي في ربيع هذا العام وسط توترات الحرب مع إيران – حالة من الاستنفار الفوري؛ إذ أفاد التقرير بأن سفينة صينية في الشرق الأوسط كانت تنقل مكونات خاصة ببرنامج للأسلحة النووية.

وبحسب أربعة مصادر مطلعة على الواقعة، تحرك الجيش الأميركي لوضع خطط لاعتراض السفينة. وذكر اثنان من المصادر أن عناصر مسلحة من الجيش الأميركي كانت تستعد للصعود إلى متن السفينة، كما كانت طائرات عسكرية تحلق في الجو، وفقاً لما ذكره أحد هذين المصدرين ومصدر آخر مطلع على الحادثة.

وقبيل موعد العملية المخطط لها مباشرة، دقق المسؤولون في التقرير – الذي أعده محلل تابع لقيادة العمليات الخاصة – واكتشفوا أنه أُنتج بمساعدة الذكاء الاصطناعي، وأن برنامج “دردشة آلي” (chatbot) استخدمه المحلل قد حدد بشكل خاطئ طبيعة المواد التي كانت تحملها السفينة.

ولم تتمكن شبكة CNN من معرفة ماهية الشحنة التي تم تحديدها بشكل خاطئ.

ووفقاً لأحد المصادر، كان التقرير “خاطئاً تماماً”، لكنه “كاد أن يشعل حرباً” أيضاً؛ إذ إن أي عملية أميركية ضد سفينة صينية كانت تنطوي على خطر الانزلاق نحو صراع مسلح بين البلدين.

يسعى المسؤولون في الجيش الأميركي ومجتمع الاستخبارات إلى دمج الذكاء الاصطناعي في كل جانب من جوانب عملهم تقريباً؛ بدءاً من تحليل الكميات الهائلة من البيانات الاستخباراتية الخام التي تجمعها الولايات المتحدة وتحديد الأهداف للضربات العسكرية، ووصولاً إلى تطبيقات أكثر روتينية مثل إدارة الميزانيات والخدمات اللوجستية وسلاسل التوريد.

غير أن هذه الواقعة تسلط الضوء على المخاطر الجسيمة المترتبة على استخدام هذه التقنية القوية والجديدة – التي لا تزال غير مفهومة تماماً – في عمليات تحديد الأهداف أثناء الحرب.

ولطالما أبدى المحللون مخاوفهم من أن يؤدي الاعتماد على بيانات ضعيفة أو مشوهة في أنظمة الذكاء الاصطناعي إلى حسابات خاطئة كارثية؛ وهو نوع من الخطأ في التقدير قد يدفع الولايات المتحدة، على سبيل المثال، إلى إطلاق النار على سفينة صينية بناءً على معلومات غير دقيقة.

في هذه الحالة المحددة، استفسر المحلل من برنامج دردشة آلي (chatbot) عن بعض التقارير الاستخباراتية المتعلقة ببيان حمولة السفينة، وهي تقارير صادرة عن قيادة العمليات الخاصة الأميركية في المحيط الهادئ ومقرها هاواي. ولم يتضح ما إذا كان برنامج الدردشة هذا متاحاً تجارياً أم أنه منتج تابع للحكومة الأميركية.

وعن ذلك، قال مسؤول أميركي رفيع سابق -مطلع على أنظمة الذكاء الاصطناعي التي يستخدمها محللو الجيش والاستخبارات-: “إن الأدوات الداخلية ليست في الغالب سوى نسخ من البرمجيات التجارية، ولكنها مُجمّلة بمظهر خارجي مختلف”.

المصدر: العربية