الآلة تدخل غرفة القرار النووي.. خبراء أميركيون وصينيون يقترحون خطا نوويا للذكاء الاصطناعي

يتخوف كثيرون من احتمالية أن يكون الخطر القادم ليس من صاروخ نووي، بل من نظام ذكاء اصطناعي قد يخطئ في فهم هجوم إلكتروني.

هذا السيناريو الذي كان يبدو حتى وقت قريب أقرب إلى أفلام الخيال العلمي، أصبح موضوعًا جديًا على طاولة خبراء الأمن القومي في الولايات المتحدة والصين. فقد دعا خبراء من البلدين إلى وضع “خطوط حمراء” تشبه تلك المستخدمة في الحد من المخاطر النووية، تحظر على الذكاء الاصطناعي اتخاذ قرارات معينة بصورة مستقلة، وتضع قنوات اتصال مباشرة لمنع خطأ تقني من التحول إلى أزمة عسكرية.

وتنبع المخاوف من سيناريو بالغ الحساسية: إذا تمكن نظام ذكاء اصطناعي من اختراق أو تعطيل شبكة القيادة والسيطرة النووية لدولة ما، أو شن عملية إلكترونية عسكرية واسعة، فقد تجد الدولة المستهدفة نفسها أمام موقف لا تعرف فيه خلال دقائق هل ما حدث هجوم متعمد من الخصم، أم خلل تقني، أم عملية غير مصرح بها.

وفي عالم الأسلحة النووية، قد تكون المشكلة أن “الدقائق” نفسها قد تكون كل ما يملكه صانعو القرار قبل اتخاذ إجراءات عسكرية خطيرة. ولهذا يحذر الخبراء من أن السرعة الهائلة للأنظمة الذاتية يمكن أن تضغط زمن اتخاذ القرار إلى درجة تجعل التحقق من حقيقة الهجوم أصعب، فيما قد تبدأ أنظمة أخرى بالرد بصورة آلية.

“الإنسان يجب أن يبقى في الحلقة”

ومن أبرز المقترحات التي طرحها ميلاني سيسون من مؤسسة Brookings وجيانغ تيانجياو من جامعة فودان الصينية، أن تظل القرارات ذات العواقب الكبرى تحت سيطرة البشر.

وتقترح سيسون أن تكون هناك قيود تمنع الذكاء الاصطناعي من اتخاذ قرار مستقل بشن هجمات إلكترونية ضد شبكات القيادة والسيطرة والاتصالات النووية لدولة أخرى أو ضد بنيتها التحتية الاستراتيجية. أما جيانغ، فيدعو إلى وضع حدود صريحة تمنع النظام الذكي من اتخاذ قرار مستقل بشأن استخدام الأسلحة النووية أو مهاجمة الأنظمة النووية.

الفكرة الأساسية هنا ليست منع استخدام الذكاء الاصطناعي في المجال العسكري بالكامل، وإنما منع انتقال القرار النهائي من الإنسان إلى الآلة في أكثر المجالات حساسية.

خط ساخن… لكن هذه المرة للآلات

ويتلخص المقترح الأكثر غرابة في إنشاء خط اتصال عسكري أميركي-صيني مخصص للحوادث المرتبطة بالذكاء الاصطناعي.

الفكرة أن نظامًا آليًا في إحدى الدول قد يكتشف نشاطًا إلكترونيًا مشبوهًا ويرد عليه تلقائيًا. وقد تفسر الدولة الأخرى هذا الرد على أنه هجوم متعمد، فتقوم بدورها بالرد، ليبدأ تصعيد متسلسل لا يعرف أحد كيف بدأ.

فوجود خط اتصال مباشر يمكن أن يسمح للطرفين بإبلاغ بعضهما سريعًا بأن العملية ربما كانت حادثًا أو خللًا أو نشاطًا غير مصرح به، قبل أن تتحول سلسلة الأفعال الآلية إلى أزمة عسكرية.

لكن هناك مشكلة قائمة أصلًا: حتى الخط الساخن الأميركي-الصيني التقليدي لم يكن دائمًا فعالًا في الأزمات السابقة. وتُثار تساؤلات حول مدى سرعة استخدام قنوات الاتصال عندما تكون القرارات العسكرية محكومة بهياكل سياسية وعسكرية شديدة المركزية. لذلك فإن إنشاء خط جديد لا يعني تلقائيًا أنه سيمنع الأزمات.

لماذا الآن؟

يأتي هذا التحرك في وقت يتسارع فيه دمج الذكاء الاصطناعي في المجال العسكري، بينما تستعد واشنطن وبكين لمحادثات رفيعة المستوى حول التكنولوجيا والأمن، مع اجتماع متوقع بين الرئيس الأميركي دونالد ترامب والرئيس الصيني شي جين بينغ في واشنطن في 24 سبتمبر.

وفي مؤتمر شيانغشان الأمني في بكين هذا الأسبوع، حذر مشاركون من أن الذكاء الاصطناعي يضغط زمن اتخاذ القرار العسكري، بينما يؤدي انتشار المعلومات المضللة إلى زيادة صعوبة معرفة ما يحدث في لحظات الأزمات. وشارك في المؤتمر نحو 2,000 مسؤول عسكري ودبلوماسي وأكاديمي من نحو 100 دولة، بحسب رويترز.

اتفاق أم مجرد تحذير؟

ولا يوجد حتى الآن اتفاق جديد بين الولايات المتحدة والصين بشأن هذه المقترحات، ولم تعلن حكومتا البلدين تبنيها رسميًا. ولذلك فإن الحديث عن “خط نووي للذكاء الاصطناعي” هو وصف لمقترح الخبراء، وليس عن معاهدة دخلت حيز التنفيذ.

لكن أهمية التطور تكمن في أن خ براء من الجانبين يتحدثون عن المشكلة نفسها تقريبًا: كلما أصبحت الأنظمة العسكرية أكثر استقلالية وسرعة، أصبح احتمال وقوع سوء تفسير أو خطأ آلي أكثر أهمية بالنسبة إلى الأمن النووي.

وكانت الولايات المتحدة والصين قد أيدتا في نوفمبر 2024 مبدأ بقاء الإنسان صاحب القرار في استخدام الأسلحة النووية. كما يشير معهد ستوكهولم الدولي لأبحاث السلام إلى وجود مؤشرات على أن الولايات المتحدة والصين تدمجان الذكاء الاصطناعي بصورة متزايدة في أنظمة نووية أو مرتبطة بها، رغم محدودية المعلومات العلنية حول التفاصيل.

وهنا تكمن المفارقة: التكنولوجيا التي يُفترض أن تجعل الجيوش أسرع وأكثر قدرة على اكتشاف الخطر قد تجعل أحيانًا الوقت المتاح للبشر للتأكد من أن الخطر حقيقي أقصر من أي وقت مضى.

ولهذا لا يدور النقاش الحالي فقط حول سؤال: هل يستطيع الذكاء الاصطناعي إطلاق سلاح نووي؟ بل حول سؤال أكثر تعقيدًا: ماذا يحدث إذا اتخذت الآلات قرارات متتابعة بسرعة تفوق قدرة البشر على فهم ما يجري؟

في عالم الردع النووي، قد لا يحتاج الأمر إلى آلة “تريد” إشعال حرب؛ قد يكون الخطأ وحده كافيًا لبدء سلسلة من القرارات التي يصعب إيقافها.

المصدر: العربية – منوعات