انتحال هوية وتضليل رقمي.. الذكاء الاصطناعي قد يقنعك باتخاذ قرار كارثي

لم يعد السؤال الأكثر إلحاحاً في أروقة تكنولوجيا المعلومات يدور حول قدرة الذكاء الاصطناعي على صياغة النصوص أو كتابة الأكواد وتفكيك البيانات بل تحول إلى تساؤل أمني خطير: هل يمكن لنموذج ذكي أن ينتحل صفة بشرية، ويمارس التضليل الرقمي، لإقناع الإنسان باتخاذ قرار سيبراني كارثي؟

الإجابة نعم، بل بات واقعاً أثبتته اختبارات أمنية حديثة أجراها معهد أمن الذكاء الاصطناعي البريطاني، بعدما كشف عن سلوك غير مسبوق لنموذج متطور قام بإنشاء هويات إلكترونية مزيفة وتوجيه رسائل بريد إلكتروني لأشخاص حقيقيين لحثهم على زرع شفرة برمجية خبيثة داخل أحد المشاريع.

ورغم احتواء الحادثة سريعاً، إلا أن الرسالة الكامنة وراءها كشفت عن تحول استراتيجي في طبيعة التهديدات السيبرانية العالمية.

وفي هذا السياق، أكد الدكتور محمد محسن رمضان، رئيس وحدة الذكاء الاصطناعي والأمن السيبراني بمركز العرب للأبحاث والدراسات ل “العربية.نت” و”الحدث.نت”، أن هذه التطورات تشير إلى مرحلة جديدة لا يقتصر فيها الذكاء الاصطناعي على كونه مجرد أداة بيد القراصنة، بل يتعداها ليكون فاعلاً ذا قدرة على التخطيط واتخاذ القرار.

وحذر رمضان من مفهوم “التهديد الداخلي المدعوم بالذكاء الاصطناعي” (AI Insider Threat)، والذي يختلف عن التهديد البشري التقليدي بكون الفاعل هنا وكيلاً رقمياً يمتلك صلاحيات واسعة ومهارات تتصل بالهندسة الاجتماعية والخداع، معتبراً أن الخطر الأكبر ينبع من الانتقال من مرحلة الأتمتة البسيطة إلى مرحلة “الوكلاء الأذكياء” (Agentic AI) القادرين على إدارة المهام المعقدة دون حوافز بشرية مباشرة.

من جانبه، تساءل اللواء محمود الرشيدي، مساعد وزير الداخلية الأسبق لأمن المعلومات، ل “العربية.نت” و”الحدث.نت”، عن تداعيات حصول هؤلاء الوكلاء الأذكياء على صلاحيات واسعة داخل المؤسسات المالية، البنوك، المستشفيات، أو قطاعات البنية التحتية الحرجة، موضحاً أن الخطورة الحقيقية تكمن في كيفية تفسير هذه الأنظمة للأهداف واتخاذ قرارات تشغيلية غير متوقعة لتحقيقها.

ولفت الرشيدي إلى ظهور مفاهيم أمنية حديثة لمواجهة هذا التحدي مثل “أمن الوكلاء الأذكياء” (Agentic Security)، وحوكمة الذكاء الاصطناعي، إضافة إلى توسيع تطبيق فلسفة “انعدام الثقة” (Zero Trust) لتشمل الأنظمة والوكلاء الرقميين إلى جانب البشر.

وشدد الرشيدي على أن هذه التجارب، رغم إجرائها في بيئات أبحاث منضبطة، تظل بمثابة إنذار مبكر يتطلب صياغة مستويات غير مسبوقة من الحوكمة والرقابة المستقلة. وأوضح أن سباق المستقبل لن يحسمه النموذج الأكثر ذكاءً بل الأكثر أماناً وموثوقية، مبيناً أن التركيز السيبراني سينتقل تدريجياً من حماية الأجهزة والشبكات من البرمجيات الخبيثة إلى مراقبة سلوك الوكلاء الأذكياء وحماية القرارات الصادرة عنها.

واختتم الرشيدي بالإشارة إلى أن الاستثمار الحقيقي سيكون في بناء “ذكاء اصطناعي آمن” قادر على صيانة الثقة الإنسانية في عصر أضحت فيه الآلة تمتلك أدوات التفكير والتواصل والخداع.

المصدر: العربية