الذكاء الاصطناعي لم يخرج عن السيطرة.. المشكلة أخطر من ذلك!
كشفت سلسلة من الحوادث السيبرانية الأخيرة عن واقع أكثر إثارة للقلق من فكرة خروج الذكاء الاصطناعي عن السيطرة، إذ يرى باحثون أن النماذج الحديثة لا تتصرف بشكل شاذ، بل تنفذ المهام التي دُربت أساساً على إنجازها، بينما تتراجع فعالية الضوابط الأمنية في احتوائها.
وبدأت القصة مطلع مايو عندما أطلقت شركة OpenAI تجربة داخلية لاختبار قدرات وكلاء الذكاء الاصطناعي على مواجهة تحديات أمن سيبراني معقدة. ونجح الوكلاء، وهي أنظمة برمجية قادرة على تنفيذ مهام معرفية متعددة الخطوات من دون تدخل بشري، في تجاوز القيود المفروضة عليها والتعاون فيما بينها لحل المشكلة خلال عدة أيام.
ولم يكن الحدث عادياً، إذ بُنيت هذه الأنظمة باستخدام مجموعة من النماذج، بينها نموذج قوي لم يطرح بعد للعامة. لكن المفاجأة الأكبر جاءت الشهر الماضي عندما تمكنت مجموعة من الوكلاء من الخروج من بيئة اختبار معزولة عن الإنترنت، والتجول عبر الشبكة المفتوحة، ثم اختراق منصة البرمجيات الشهيرة Hugging Face من دون علم أو موافقة أي مشغل بشري.
وأظهر الوكلاء كذلك قدرة جديدة تمثلت في التواصل والتنسيق فيما بينها لإنجاز المهمة، بعدما أنشأت لوحة رسائل داخلية تبادلت عبرها معلومات حول الثغرات البرمجية ونسقت خطوات الهروب.
وأثار الكشف عن الواقعة جدلاً واسعاً بين خبراء الأمن السيبراني والذكاء الاصطناعي، فيما وصفها باحثون داخل OpenAI بأنها “لحظة فارقة” للقطاع. وأعقبتها اكتشافات مشابهة لدى شركات ومؤسسات أخرى، من بينها أنثروبيك وميتا وشركة مونشوت الصينية ومعهد أمن الذكاء الاصطناعي البريطاني.
وقال أكثر من 6 خبراء لصحيفة فاينانشال تايمز إن هذه الحوادث تمثل نقطة تحول في الأمن السيبراني العالمي، إذ باتت الوكلاء قادرة على دمج مهارات معقدة ومتنوعة لاستهداف أنظمة حقيقية من دون توجيه أو مساعدة خارجية.
قدرات هجومية جرى تطويرها عمداً
ورغم الطابع الصادم لهذه الحوادث، شدد الباحثون على أن النماذج لا تتصرف خارج نطاق تصميمها. وقال بويان ميلانوف، الباحث في معهد AI Now، إن “القدرات الهجومية التي وصلنا إليها اليوم جرى تطويرها عمداً”، مشيراً إلى أن شركات الذكاء الاصطناعي أمضت سنوات في جمع البيانات وتدريب النماذج وصقل المهارات السيبرانية.
وتعتمد النماذج الحديثة على أسلوب “التعلم بالتعزيز”، الذي يدفعها إلى تجربة مختلف الوسائل الممكنة لتحقيق هدف معين ومكافأتها عند النجاح. لكن في ظل غياب الفهم البشري الكامل للنوايا والقيم الأخلاقية، وهي المشكلة التي تُعرف في القطاع باسم “عدم المواءمة”، بات الفاصل بين المدافع السيبراني القوي والمهاجم الخطير أكثر ضبابية.
واعترف رئيس OpenAI، غريغ بروكمان، بأن حادثة Hugging Face كشفت عن استهانة الشركة بالقدرات السيبرانية الواقعية لنماذجها، مؤكداً أن الشركة تشدد حالياً متطلبات السلامة وتسارع أبحاث الأمان الداخلي.
البرمجة والأمن السيبراني… وجهان لعملة واحدة
وقفزت قدرات الذكاء الاصطناعي في كتابة الأكواد البرمجية خلال العام الأخير مع تحسن مهارات الاستدلال وحل المشكلات. وأدى ذلك تلقائياً إلى تطور قدراته في اكتشاف الثغرات الأمنية وتصحيحها أو استغلالها.
وقالت داون سونغ، أستاذة علوم الحاسب في جامعة كاليفورنيا بيركلي ورئيسة أبحاث الذكاء الاصطناعي في مختبر الذكاء الفائق لدى Meta، إن “البرمجة والأمن السيبراني وجهان لعملة واحدة”، موضحة أن تنامي قدرات البرمجة قاد بصورة طبيعية إلى تنامي القدرات الهجومية.
وأضافت أن النماذج باتت قادرة على توليد أدوات استغلال للثغرات تتجاوز آليات الدفاع التقليدية، وهو تطور “أسرع بكثير مما توقعه معظم المتابعين”.
ويرى خبراء أن الهجوم السيبراني يناسب طبيعة الذكاء الاصطناعي أكثر من الدفاع، لأن اكتشاف الثغرات واختبار استغلالها مهمة واضحة المعايير وقابلة للقياس، بينما يتطلب الدفاع السيبراني عمليات أكثر تعقيداً وبطئاً، مثل نشر التحديثات الأمنية عبر آلاف الأجهزة والأنظمة داخل المؤسسات.
مخاطر متصاعدة قبل اللحاق بوسائل الحماية
وبينما بدأت OpenAI تدريب نماذجها على إنتاج “أكواد فائقة الأمان”، يتوقع خبراء أن تؤدي أنظمة الذكاء الاصطناعي في الأجل القريب إلى زيادة سرعة ونطاق الهجمات السيبرانية، قبل أن تتمكن الشركات والحكومات من تحديث دفاعاتها.
وحذر جيفري لاديش، المدير التنفيذي لمؤسسة Palisade Research والباحث السابق في Anthropic، من أن السنوات القليلة المقبلة قد تشهد موجة مكثفة من الاختراقات وتعطل شركات وبنى تحتية بسبب تسارع القدرات الهجومية للنماذج.
وأضاف أن العاملين داخل مختبرات الذكاء الاصطناعي كانوا يدقون ناقوس الخطر منذ أكثر من عام، بعدما توقعوا ظهور نماذج قادرة على اكتشاف ثغرات جديدة والتسبب بأضرار واسعة النطاق للبنية التحتية الرقمية.
أول هجوم على دولة باستخدام وكلاء مستقلة
وتزايدت المخاوف الأسبوع الماضي مع الإعلان عن أول هجوم معروف لوكلاء ذكاء اصطناعي ضد دولة. واستهدف قراصنة مرتبطون بالصين الحكومة التايوانية عبر تشغيل ما يصل إلى ثمانية وكلاء مستقلين في وقت واحد.
وتمكن المهاجمون من رسم خرائط للأنظمة الحكومية، واختراق حسابات مستخدمين، وسرقة أكثر من 2500 سجل وظيفي قبل توسيع الهجوم ليشمل شركات الطاقة وهيئة السلامة النووية في تايوان.
وقال مسؤول في شركة Dream الإسرائيلية، التي اكتشفت عملية الاختراق، إن ظهور هذه الأدوات يعني أن “كل حكومة في العالم” يجب أن تفترض أنها تتعرض لهجمات سيبرانية دائمة.
مراجعة شاملة لأساليب الاختبار
ودفعت هذه الوقائع مؤسسات القطاع إلى إعادة تقييم طرق اختبار الذكاء الاصطناعي ومراقبته. وأوقفت شركتا Irregular ومعهد أمن الذكاء الاصطناعي البريطاني إتاحة الوصول إلى الإنترنت داخل بيئات الاختبار، فيما بدأت الأخيرة مراجعة داخلية لإجراءاتها.
كما أعلنت OpenAI إجراء مراجعة شاملة بالتعاون مع مستشارين خارجيين في أعقاب حادثة Hugging Face، على أن تنشر نتائجها خلال الأسابيع المقبلة.
لكن بعض الخبراء حذروا من أن تشديد القيود المفرط قد يؤدي إلى نتيجة عكسية، إذ قد لا تُكتشف المشكلات الحقيقية إلا بعد نشر النماذج على نطاق واسع في العالم الواقعي.
دعوات للمساءلة والتنظيم
ودعا أكثر من 1300 خبير في قطاع التكنولوجيا الشهر الماضي إلى إبطاء وتيرة تطوير نماذج الذكاء الاصطناعي المتقدمة ومنح الجهات التنظيمية وقتاً كافياً لوضع معايير السلامة والرقابة.
كما طالب سياسيون، من بينهم السيناتور الأميركي بيرني ساندرز، بتجميد تطوير الأنظمة الأكثر قوة. إلا أن كثيرين يرون أن مثل هذه الخطوة تبدو غير واقعية في ظل المنافسة الاستراتيجية المحتدمة بين الولايات المتحدة والصين.
وفي المقابل، يركز خبراء آخرون على مبدأ المساءلة. وقال ثورستن هولز، المدير العلمي لمعهد ماكس بلانك للأمن والخصوصية، إن من غير المقبول أن تمر حوادث الاختراق التي تنفذها النماذج من دون آليات إلزامية للإبلاغ والتحقيق المستقل.
أما مهندسة السلامة في AI Now Institute، هايدي خلاف، فاعتبرت أن معظم الحوادث الأخيرة لم تكن نتيجة “هروب” الوكلاء بقدر ما كانت انعكاساً لفشل المؤسسات في تطبيق تدابير أمنية أساسية داخل بيئات الاختبار.
وقالت إن النماذج “لا تنفلت من السيطرة ولا تتمرد”، بل تكشف حدود أنظمة الرقابة الحالية في وقت تتسارع فيه وتيرة تطوير واحدة من أكثر التقنيات تأثيراً في العصر الحديث.
المصدر: العربية – اقتصاد