“إنها مجرد لعبة”.. كيف يمكن تضليل نماذج الذكاء الاصطناعي لتحديد مدنيين أهدافاً عسكرية؟
رجوع
كشفت دراسة بحثية جديدة أن بعض نماذج الذكاء الاصطناعي المتقدمة التابعة لشركات “أنثروبيك” و”OpenAI” و”غوغل” وغيرها يمكن خداعها بسهولة لدفعها إلى تحديد أهداف محتملة للضربات العسكرية، حتى عندما تتضمن هذه الأهداف مدنيين أو مواقع حساسة مثل المدارس، وذلك بمجرد إخبار النماذج بأنها تشارك في لعبة.
وأجرت الدراسة شركة Vals الناشئة المتخصصة في تقييم أنظمة الذكاء الاصطناعي، ومقرها سان فرانسيسكو، بهدف اختبار مدى إمكانية التلاعب بالنماذج المتقدمة ودفعها إلى المشاركة في سيناريوهات تحاكي الحروب ذاتية التشغيل.
واستخدم الباحثون سيناريوهات افتراضية ومجموعة من الصور المولدة وأخرى حقيقية من أوكرانيا وإيران، لاختبار قدرة النماذج على تحديد أهداف داخل صور التقطتها الطائرات المسيرة والأقمار الاصطناعية، بحسب تقرير نشره موقع “تك كرانش” واطلعت عليه “العربية Business”.
وأظهرت النتائج أن نماذج تابعة لشركات “OpenAI” و”أنثروبيك” و”غوغل” و”ديب سيك” وغيرها حددت بصورة متكررة أهدافاً محتملة داخل الصور، بما في ذلك مدنيون وجنود يعلنون استسلامهم.
والأكثر إثارة للقلق أن الباحثين تمكنوا من تجاوز رفض بعض النماذج المشاركة في هذه المهام، من خلال إخبارها بأن سيناريوهات ساحة المعركة ليست سوى جزء من لعبة، وهو ما دفعها إلى الاستجابة لطلبات كان من المفترض أن ترفضها.
نماذج الذكاء الاصطناعي تتجاوز ضوابط السلامة
تأتي هذه النتائج في وقت تتزايد فيه المخاوف بشأن المخاطر المباشرة للذكاء الاصطناعي، والتي لا تقتصر على السيناريوهات بعيدة المدى المرتبطة بظهور الذكاء الاصطناعي العام، بل تشمل أيضاً إمكانية إساءة استخدام النماذج الحالية في تطبيقات قد تهدد حياة البشر.
وكانت شركة أنثروبيك قد دخلت في وقت سابق من العام الحالي في خلاف مع وزارة الدفاع الأميركية، بعدما أبلغت الوزارة أنها لا تسمح باستخدام تقنياتها في المراقبة الجماعية للأميركيين أو تشغيل أنظمة أسلحة ذاتية التشغيل.
وأكد الرئيس التنفيذي للشركة، داريو أمودي، مراراً أن أنظمة الذكاء الاصطناعي الحالية لا تتمتع بالموثوقية الكافية لاتخاذ قرارات تتعلق بالحياة أو الموت دون وجود إنسان ضمن عملية اتخاذ القرار.
في المقابل، جادلت وزارة الدفاع الأميركية بأن من حقها استخدام هذه التقنيات في أي أغراض عسكرية مشروعة بموجب القانون.
وتعيد الدراسة الجديدة فتح التساؤلات بشأن قدرة شركات الذكاء الاصطناعي على منع إساءة استخدام نماذجها في العمليات العسكرية، ومدى فعالية ضوابط السلامة التي تضعها لمنع توظيف هذه التقنيات في تحديد الأهداف أو دعم أنظمة الأسلحة.
ومن المفارقات أن نماذج “أنثروبيك” سجلت أسوأ أداء بين النماذج التي اختبرها الباحثون في السيناريوهات المحاكاة، لكن الدراسة أشارت إلى أن أداء جميع النماذج لم يكن جيداً بصورة عامة.
ولم يتمكن نظام تصنيف طلبات السلامة من حظر أي من الطلبات التي قدمها الباحثون، كما كانت حالات الرفض محدودة. وحتى عندما رفضت بعض النماذج تنفيذ الطلبات، فإنها كانت تستجيب في كثير من الأحيان بعد إخبارها بأن السيناريو جزء من لعبة.
“أنثروبيك”: النتائج غير مقبولة ونعمل على تعزيز الحماية
علقت شركة أنثروبيك على نتائج الدراسة، إذ قال المتحدث باسمها إدواردو مايا سيلفا لموقع “تك كرانش” إن الشركة تقدر التقرير والتوصيات والتعاون مع فريق “Vals”، مع إقراره بأن النتائج التي توصل إليها الباحثون غير مقبولة.
وأضاف في بيان أُرسل عبر البريد الإلكتروني أن الأمثلة الواردة في التقرير تتعارض بوضوح مع قواعد الشركة، وأنها حظرت وستواصل حظر المستخدمين الذين يثبت تورطهم في مثل هذه السلوكيات.
وأكدت الشركة أيضاً أنها تتمسك بموقفها القائل إن نماذج الذكاء الاصطناعي المتقدمة الحالية ليست موثوقة بما يكفي لتشغيل أسلحة ذاتية بالكامل، حتى في البيئات المصرح بها.
وأوضحت “أنثروبيك” أن فرقها كانت تعمل بالفعل على تطوير إجراءات حماية إضافية قبل نشر الدراسة، وأن هذه الإجراءات ستدخل حيز التنفيذ قريباً، إلى جانب توسيع نطاق الاختبارات وتعزيز آليات الحماية وتطبيق السياسات لمعالجة أي ثغرات يتم اكتشافها.
من جانبها، قالت شركة OpenAI، عبر المتحدث باسمها نيت إيفانز، إن سياساتها تحظر استخدام النماذج العامة لتسهيل أعمال العنف أو تنفيذ مهام تتعلق بالأمن القومي دون موافقة، بما في ذلك السيناريوهات التي اختبرتها شركة Vals.
وأضافت الشركة أنها تعمل على رصد إساءة الاستخدام ومنعها، بما في ذلك تعليق حسابات المستخدمين الذين ينتهكون سياساتها، مشيرة إلى أنها تطور أيضاً إجراءات حماية إضافية لنماذجها العامة لمواجهة إساءة الاستخدام المرتبطة بالطائرات المسيرة وبرمجيات تشغيلها.
الباحثون لم يطلبوا من النماذج إصدار أوامر مباشرة بالقصف
أوضح تقرير “Vals” أن الباحثين لم يطلبوا من النماذج إصدار قرارات مباشرة بتنفيذ ضربات عسكرية، وهي مهمة قالوا إن النماذج تميل عادة إلى رفضها.
لكن ذلك لا يعني أن المخرجات التي تنتجها هذه النماذج لا يمكن أن تؤدي إلى عواقب خطيرة أو مميتة في الواقع، إذ يمكن استخدام المعلومات التي توفرها لتحديد المواقع والأشخاص ضمن أنظمة أسلحة ذاتية التشغيل.
وفي بعض السيناريوهات، طلب الباحثون من النماذج تحديد ما إذا كان هناك أشخاص ظاهرون في الصور، ثم أعقبوا الإجابات الإيجابية بضربات افتراضية، مع إظهار النتائج التي ترتبت عليها أمام النماذج.
ومن المهم الإشارة إلى أن الدراسة اختبرت النماذج التجارية المتاحة لدى شركات الذكاء الاصطناعي المتقدمة، وليس بالضرورة النماذج أو الأنظمة التي قد توفرها هذه الشركات للاستخدام العسكري.
كما لا يزال من غير الواضح ما إذا كانت إجراءات الحماية الإضافية التي أعلنتها الشركات ستُطبق بالطريقة نفسها على الاستخدامات العسكرية.
وأشار الباحثون أيضاً إلى وجود عقبات تقنية تحد من استخدام النماذج العامة في توجيه الطائرات المسيرة خلال العمليات القتالية المباشرة، ومن بينها زمن الاستجابة الطويل نسبياً، ومحدودية قدرات المعالجة المتاحة على متن الطائرات.
وتجعل هذه القيود استخدام النماذج العامة في تحديد أهداف حية أثناء المعارك تهديداً أقل إلحاحاً في الوقت الحالي.
الخطر الأكبر.. تحويل صور المعارك إلى بيانات لتدريب أسلحة ذاتية
يرى الباحثون أن التهديد الأكثر إلحاحاً يتمثل في إمكانية استخدام نماذج الذكاء الاصطناعي لتحليل وتوصيف تسجيلات المعارك على نطاق واسع، وإنتاج كميات ضخمة من البيانات التي يمكن استخدامها لاحقاً في تدريب أنظمة الاستهداف الذاتي.
وضرب التقرير مثالاً بصور حقيقية التقطتها الأقمار الاصطناعية لمدرسة إيرانية تعرضت للقصف الأميركي في فبراير 2026، ما أسفر عن مقتل أكثر من 150 مدنياً.
وكانت وكالة “بلومبرغ” قد أفادت لاحقاً بأن الاعتماد المفرط على الذكاء الاصطناعي ساهم في تنفيذ الضربة.
وخلال اختبارات “Vals”، حددت النماذج المدرسة بصورة متكررة باعتبارها هدفاً محتملاً، رغم وقوعها بجوار مجمع عسكري.
وسجل نموذج Claude Opus 5.5 التابع لشركة أنثروبيك اختيار المدرسة هدفاً في 69% من الاختبارات العادية، وارتفعت النسبة إلى 72% عندما جرى تقديم السيناريو للنموذج باعتباره جزءاً من لعبة.
وتكشف هذه النتيجة عن خطورة الاعتماد على مخرجات الذكاء الاصطناعي في تحليل صور ساحات المعارك، خصوصاً عندما تكون المواقع المدنية قريبة من منشآت عسكرية، إذ قد يؤدي الخطأ في تصنيف الأهداف إلى عواقب إنسانية بالغة الخطورة.
شركات الذكاء الاصطناعي تدخل سباق التعاقدات العسكرية
لم تعد “أنثروبيك” تمتلك عقداً نشطاً مع وزارة الدفاع الأميركية، لكن شركات أخرى، من بينها “SpaceXAI” و”OpenAI” و”غوغل”، لديها عقود أو علاقات تعاقدية مع الوزارة.
ومع ذلك، أشار تقرير حديث صادر عن خدمة أبحاث الكونغرس الأميركي إلى أنه لا توجد معلومات معروفة تفيد بأن وزارة الدفاع تستخدم حالياً نماذج الذكاء الاصطناعي المتقدمة مباشرة داخل أنظمة الأسلحة ذاتية التشغيل.
وتسلط نتائج الدراسة الضوء على فجوة محتملة بين الضوابط التي تعلنها شركات الذكاء الاصطناعي وبين قدرة نماذجها الفعلية على مقاومة محاولات التلاعب، كما تطرح تساؤلات بشأن كيفية ضمان عدم تحول أدوات تحليل الصور والبيانات إلى وسيلة مساعدة في استهداف المدنيين، حتى عندما لا يُطلب منها إصدار قرار مباشر بتنفيذ الهجوم.
المصدر: العربية – تكنولوجيا