عندما يهاجم الذكاء الاصطناعي نفسه.. حرب بين النماذج تهدد الأمن الرقمي
لم تعد المواجهة السيبرانية القادمة محصورة بين العقل البشري والآلة، بل إن الخطر الداكن الصامت بات يكمن في صدام مباشر بين الآلات ذاتها.
ولم يعد المهاجم بالضرورة قرصاناً يجلس خلف الشاشات؛ بل نموذج ذكاء اصطناعي فائق، يمتلك القدرة على قراءة نموذج منافس، وتحليل شفراته، واكتشاف نقاط ضعفه، ثم صياغة آليات هجومية لتجاوز دفاعاته.
هنا قد يدخل العالم مرحلة غير مسبوقة من الأمن الرقمي، تتحول فيها الأنظمة المستقلة إلى أدوات هجوم ودفاع في آن واحد.
وحول أبعاد هذا التحول الاستراتيجي، يكشف متخصصون في أمن المعلومات لـ “العربية.نت” و”الحدث.نت” عن طبيعة الصراع القادم وأساليب المواجهة.
تحول يفرض نفسه على المنظومة الأمنية
في هذا السياق، أوضح الدكتور محمد محسن رمضان، رئيس وحدة الذكاء الاصطناعي والأمن السيبراني بمركز العرب للأبحاث والدراسات، أن المخاطر لم تعد تقتصر على استغلال البشر للتقنية في إطلاق الهجمات، بل تكمن في تحول عميق يفرض نفسه على المنظومة الأمنية، متسائلاً عن تداعيات قدرة نظام ذكي على خداع أو استغلال نظام آخر.
وأوضح رمضان أن العالم يقف أمام مفهوم “الصراع بين الأنظمة الذكية”، حيث يصبح النموذج أو الوكيل الذكي جزئية أساسية في سلسلة الهجوم، سواء عبر التنفيذ المباشر أو من خلال تمرير تعليمات خبيثة تستغل الثغرات.
وأضاف أن الهجمات التقليدية كانت تستهدف الخوادم أو شبكات التشغيل، أما في بيئة الذكاء الاصطناعي فإن نقاط الضعف تأخذ أشكالاً مختلفة، إذ يسعى المهاجم للتلاعب بالمدخلات، أو تزييف البيانات المرجعية، أو دفع “الوكيل الذكي” للقيام بإجراءات خارج نطاق مهامه، موضحاً أنه قد تتضاعف الخطورة كون هذه الأنظمة قادرة على فهم السياق واللغة واتخاذ قرارات متتابعة للوصول إلى الهدف.
وحذر رمضان من تهديدات “الحقن البرمجي للمدخلات”، والتي تعتمد على دسّ تعليمات معادية داخل البيانات التي يتناولها النموذج لتوجيهه عكس مهامه الأصلية. مؤكداً أن الخطورة تشتد حينما يمنح النموذج صلاحيات التواصل مع قواعد بيانات أو أدوات خارجية، حيث يتجاوز الخطر إعطاء إجابة خاطئة إلى تنفيذ قرارات فعلية داخل البيئة المتصلة.
التلاعب بالمدخلات
وفرق المتخصص في الأمن السيبراني بين النماذج المسؤولة عن تقديم الإجابات، وبين “الوكلاء الأذكياء” الذين يمتلكون صلاحيات إجرائية، موضحاً أن الجيل الجديد يتجه نحو تمكين هؤلاء الوكلاء من التخطيط والتنفيذ، وهو ما يوسع المساحات المعرضة للاختراق. كما شدد على ضرورة تقييد هذه الصلاحيات وعدم منح النظام قدرات تتجاوز نطاق مهمته الفعلية.
من جانبه، أكد اللواء محمود الرشيدي، مساعد وزير الداخلية المصري الأسبق لأمن المعلومات، إمكانية توظيف الذكاء الاصطناعي أوتوماتيكياً لاكتشاف نقاط الضعف وتوليد مدخلات تتسبب في سلوكيات غير مرغوبة للنماذج المجاورة.
وأشار الرشيدي إلى شيوع هجمات “التلاعب بالمدخلات” و”استخراج هيكلية النماذج” عبر استعلامات متكررة، فضلاً عن خطر “تسميم البيانات” المستخدمة في التدريب، كما يرى أن المواجهة لا تتطلب بالضرورة وجود باب خلفي سري، بل تعتمد على سلسلة معقدة من استغلال الصلاحيات والسياق.
وقال مساعد الوزير الأسبق إن الانتقال من مرحلة الاستجابة إلى مرحلة اتخاذ القرار يشكل النقطة الأشد خطورة، فكلما اتسعت استقلالية الوكيل الذكي، زادت الحاجة إلى مستويات متقدمة من المراقبة والتحقق.
مفهوم أمني جديد
ويرسم الرشيدي ملامح المشهد القادم بوصفه ساحة لمواجهة بين ذكاء اصطناعي هجومي يرصد الثغرات، وآخر دفاعي يحلل السلوكيات غير الطبيعية ويتصدى للتلاعب، مما يؤسس لمفهوم أمني جديد يقوم على المواجهة بين الأنظمة الذكية، إلا أنه شدد على أن العنصر البشري يظل المحرك والمشرف الأساسي على وضع ضوابط التشغيل وحدود الصلاحيات.
ورهن الخبير الأمني حماية هذه الأنظمة بالاعتماد على تدابير تبدأ من مراحل التصميم الأولى، أبرزها تطبيق مبدأ الحد الأدنى من الصلاحيات، والفصل بين المصادر الموثوقة والمحتوى الخارجي، وحماية الواجهات البرمجية، وإخضاع النماذج لاختبارات اختراق دورية، وحماية بيانات التدريب من التسميم.
واختتم الرشيدي بالحديث عن ضرورة إبقاء العنصر البشري ضمن حلقة القرار في العمليات الحساسة، مؤكداً أن الذكاء الاصطناعي يمثل سلاحاً دفاعياً عتيداً، لكنه ينقلب إلى ثغرة قاتلة إذا جُرّد من الحوكمة والتأمين المحكم.
المصدر: العربية – منوعات
