هل يشعل الذكاء الاصطناعي حربًا بالخطأ؟.. خبراء يحذرون
حذر خبراء أمنيون من الولايات المتحدة والصين من أن تزايد اعتماد الجيوش على أنظمة الذكاء الاصطناعي ذاتية التشغيل قد يفتح الباب أمام تصعيد عسكري غير مقصود، داعين واشنطن وبكين إلى وضع خطوط حمراء على غرار تلك المعمول بها في المجال النووي، إلى جانب إنشاء خط اتصال عسكري مباشر للتعامل مع حوادث الذكاء الاصطناعي.
وتأتي هذه الدعوات قبل محادثات مرتقبة بين الرئيس الأميركي دونالد ترامب والرئيس الصيني شي جين بينغ، في وقت تتسارع فيه وتيرة دمج الذكاء الاصطناعي في العمليات العسكرية، بما يشمل الاستخبارات والمراقبة والقيادة والسيطرة والعمليات السيبرانية وأنظمة الأسلحة.
ويرى الخبراء أن سرعة الأنظمة الذاتية قد تتجاوز قدرة البشر على فهم ما يحدث أو التدخل في الوقت المناسب، ما يعني أن عطلًا تقنيًا أو إنذارًا خاطئًا قد يُفسر على أنه هجوم متعمد، ويدفع الطرف الآخر إلى الرد قبل أن تتاح فرصة للتحقق من حقيقة الموقف، بحسب تقرير نشره موقع “androidheadlines” واطلعت عليه “العربية Business”.
قواعد الحرب الباردة لمواجهة سرعة الآلات
شارك في إعداد المقترحات ميلاني سيسون، الزميلة البارزة في برنامج السياسة الخارجية لدى مؤسسة Brookings، وتيانجياو جيانغ، الأستاذ المشارك في جامعة فودان الصينية، ضمن حوار أميركي-صيني حول الذكاء الاصطناعي والأمن القومي بدأ منذ عام 2019.
وتتركز إحدى أبرز توصيات الخبراء حول وضع حدود واضحة لا يجوز للذكاء الاصطناعي تجاوزها، بما في ذلك منع الأنظمة ذاتية التشغيل من اتخاذ قرار مستقل باستخدام الأسلحة النووية أو تنفيذ هجمات على أنظمة القيادة والسيطرة والاتصالات النووية التابعة للطرف الآخر.
كما يدعو المقترح إلى التوصل إلى تعريف مشترك لمفهوم “التحكم البشري الفعّال”، بحيث تظل القرارات العسكرية شديدة الخطورة، خصوصًا العمليات السيبرانية ذات العواقب الكبيرة، خاضعة لسلطة بشرية حقيقية، وليس مجرد وجود إنسان في الحلقة بصورة شكلية.
وكان ترامب وشي قد اتفقا في عام 2024 على ضرورة أن تظل قرارات استخدام الأسلحة النووية تحت سيطرة البشر، لكن الخبراء يرون أن هذا التفاهم يحتاج إلى تحويله إلى آليات عملية يمكن تطبيقها في ظل التوسع السريع في استخدام الذكاء الاصطناعي العسكري.
خط ساخن للحوادث التي يسببها الذكاء الاصطناعي
تتضمن التوصيات أيضًا إنشاء خط ساخن عسكري أميركي-صيني مخصص لحوادث الذكاء الاصطناعي.
والهدف من هذه القناة هو إتاحة وسيلة اتصال مباشرة بين المسؤولين العسكريين إذا خرج نظام ذاتي عن السيطرة، أو تعرض للاختراق، أو بدأ في تنفيذ تصرفات غير مصرح بها.
وفي مثل هذه الحالات، قد يكون التواصل السريع ضروريًا لمنع أحد الطرفين من تفسير سلوك النظام الآلي على أنه هجوم متعمد والرد عليه عسكريًا.
ويشير الخبراء إلى أن المشكلة لا تتعلق فقط بوجود خط اتصال، وإنما بقدرة المسؤولين على استخدامه فعليًا خلال الأزمات.
وتُظهر تجارب سابقة أن الإجراءات البيروقراطية قد تؤخر ردود الحكومات في لحظات التوتر، بينما قد لا تمنح الأزمات التي يقودها الذكاء الاصطناعي سوى دقائق لاتخاذ القرار.
وأشار خبراء إلى حادثة منطاد التجسس الصيني عام 2023 باعتبارها مثالًا على صعوبة التواصل بين واشنطن وبكين في أوقات التوتر، وهو ما قد يصبح أكثر خطورة إذا كانت الأنظمة الذاتية قادرة على التحرك بسرعة تفوق قدرة المسؤولين على التواصل واتخاذ القرار.
خلافات سياسية تعرقل وضع قواعد مشتركة
ورغم أهمية المقترحات، فإنها لم تحصل على اعتماد رسمي من الحكومتين الأميركية أو الصينية حتى الآن.
وتتعامل الصين مع قضايا الذكاء الاصطناعي في المجال العسكري ضمن إطار أوسع لسياسة الحد من التسلح، بينما تتوزع المسؤوليات في الولايات المتحدة بين وزارة الدفاع ووزارة الخارجية ومجلس الأمن القومي.
كما تواجه أي محاولة لوضع قيود مشتركة تحديًا إضافيًا يتمثل في استمرار المنافسة التكنولوجية بين البلدين، إذ يخشى كل طرف أن تؤدي القيود إلى إبطاء تطوره في وقت يسعى فيه إلى الحفاظ على موقعه في سباق الذكاء الاصطناعي.
ومع ذلك، يرى الخبراء المشاركون في الحوار أن بعض إجراءات الحد من المخاطر يمكن أن تمثل أرضية مشتركة، حتى في ظل استمرار الخلافات الاستراتيجية بين واشنطن وبكين.
وتشمل هذه الإجراءات تحسين الشفافية، وتبادل المعلومات بشأن مخاطر الأنظمة العسكرية المدعومة بالذكاء الاصطناعي، ووضع آليات للإبلاغ عن الحوادث غير المقصودة.
عندما تصبح الآلة أسرع من القرار البشري
تكمن المخاوف الأساسية في أن الذكاء الاصطناعي لا يحتاج إلى “إعلان حرب” حتى يؤدي إلى أزمة عسكرية.
فقد يكفي خطأ في تفسير البيانات، أو خلل في نظام ذاتي، أو هجوم سيبراني، لبدء سلسلة من القرارات المتتابعة التي يصعب على البشر إيقافها بعد انطلاقها.
وتشير مؤسسة Brookings إلى أن دمج الذكاء الاصطناعي في أنظمة الاستخبارات والقيادة والسيطرة والأسلحة يزيد فرص تحول التفاعلات العسكرية إلى أزمات مدفوعة بالذكاء الاصطناعي، ما يجعل إجراءات منع سوء الفهم وسوء التقدير والتصعيد غير المقصود أكثر أهمية.
ومع انتقال الذكاء الاصطناعي من دور المساعد في العمليات العسكرية إلى المشاركة في اتخاذ القرارات وتنفيذها، تبرز مسألة من يملك القرار النهائي باعتبارها واحدة من أهم قضايا الأمن الدولي في عصر الذكاء الاصطناعي.
وبالنسبة إلى الولايات المتحدة والصين، قد يكون الاتفاق على إبقاء القرارات العسكرية الأكثر خطورة في أيدي البشر، ووضع قنوات اتصال سريعة للحوادث التي تسببها الأنظمة الذاتية، خطوة أساسية لتقليل خطر تحول خطأ تقني إلى مواجهة عسكرية لا يريدها أي من الطرفين.
المصدر: العربية – تكنولوجيا