خروج الذكاء الاصطناعي عن السيطرة يتزايد.. أكثر من 300 حادثة خلال شهر واحد
سجلت أنظمة الذكاء الاصطناعي خلال يوليو الماضي أكبر عدد من الحوادث المرتبطة بسلوكيات غير متوقعة، في مؤشر جديد على تزايد المخاوف بشأن قدرة بعض النماذج المتقدمة على تجاوز التعليمات والضوابط الموضوعة لها.
وتشير أبحاث حديثة إلى أن حالات كذب أنظمة الذكاء الاصطناعي على المستخدمين، والتحايل على إجراءات الحماية التي يضعها المطورون، وحتى تحويل الموارد لتحقيق أهدافها الخاصة، كادت تتضاعف خلال شهر واحد هذا الصيف، وفقاً لما أوردته صحيفة “الغارديان”.
أكثر من 300 حادثة في يوليو
رصد Loss of Control Observatory، وهو مشروع ممول من معهد سلامة الذكاء الاصطناعي التابع للحكومة البريطانية، أكثر من 300 حادثة لأنظمة ذكاء اصطناعي خرجت عن السلوك المتوقع خلال يوليو 2026، مقارنة بنحو نصف هذا العدد في يونيو.
ويتابع المشروع هذه الحوادث منذ نوفمبر 2025، ويعتمد في جمع بياناته على بلاغات وتقارير ينشرها المستخدمون عبر منصة “إكس”، المعروفة سابقاً باسم “تويتر”، بدلاً من الاعتماد فقط على الإفصاحات الرسمية لشركات الذكاء الاصطناعي.
وبعض الحالات التي رصدها المشروع تبدو أقرب إلى أفلام الخيال العلمي، إذ تضمنت تقارير عن أنظمة ذكاء اصطناعي انتحلت شخصية مستخدميها، وحاكت أسلوب كتابتهم، وحصلت على صلاحيات لتنفيذ إجراءات معينة، في محاولات لتجاوز الضوابط التي يفترض أن تحد من قدراتها.
هجمات إلكترونية على أشخاص حقيقيين
وجاءت أخطر الحالات التي رُصدت خلال الفترة الأخيرة من اختبارات أجراها معهد سلامة الذكاء الاصطناعي البريطاني.
وبحسب البحث، نفّذ نظامان متقدمان، هما Mythos 5 من “أنثروبيك” وGPT-5.6 Sol من “OpenAI”، حملة قرصنة إلكترونية استهدفت أشخاصاً حقيقيين خلال اختبار للأمن السيبراني.
واللافت أن الأمر لم يكن مجرد محاكاة لهجوم إلكتروني داخل بيئة اختبار مغلقة، بل تضمن، وفق التقرير، استهدافاً فعلياً لأشخاص حقيقيين.
مئات الأنظمة خرجت من بيئة التدريب
ولم تكن تلك الواقعة الوحيدة التي أثارت المخاوف.
فقد أبلغ موظفون في “OpenAI” عن مؤشرات مقلقة ظهرت أثناء اختبار أنظمة الذكاء الاصطناعي المتقدمة، قبل أن يتمكن نحو 700 نظام، وفق التقرير، من الخروج من بيئة تدريب افتراضية والتنسيق سراً لتنفيذ هجوم على منصة Hugging Face.
وتشير التقارير إلى أن الأنظمة احتفلت أيضاً بتقدمها عبر لوحة رسائل صُممت خصيصاً لاستخدامها، مستخدمة عبارات حماسية مثل «BOOM!» و«Whoa!».
الباحثون: البيانات الحالية لا تكشف الحجم الحقيقي للمشكلة
ويرى تومي شافر-شاين، المسؤول عن مرصد Loss of Control Observatory في مركز المرونة طويلة الأجل، أن هذا النوع من السلوك لم يعد مقتصراً على التجارب المخبرية.
ويطالب الباحث شركات الذكاء الاصطناعي بمزيد من الشفافية والإفصاح العلني عن الحوادث بدلاً من انتظار وقوع مشكلة خطيرة قبل الكشف عنها.
لكن المرصد نفسه يحذر من أن أكثر من 1,600 حادثة سجلها حتى الآن قد لا تمثل سوى جزء من الصورة الحقيقية، لأنه يعتمد بدرجة كبيرة على الحالات التي تصل إلى منصة “إكس”.
ولذلك يدفع المشروع الحكومة البريطانية إلى فرض نظام رسمي للإبلاغ عن حوادث الذكاء الاصطناعي، إلى جانب منح السلطات صلاحيات طارئة لتقييد خدمات الذكاء الاصطناعي إذا خرجت المخاطر عن السيطرة.
بريطانيا قد تضع نموذجاً عالمياً لتنظيم الذكاء الاصطناعي
وفي حال أقدمت الحكومة البريطانية على فرض قواعد أكثر صرامة وأجبرت الشركات على تعديل سياساتها للامتثال لها داخل المملكة المتحدة، فقد تتحول هذه الإجراءات إلى سابقة عالمية في طريقة تعامل الحكومات مع أنظمة الذكاء الاصطناعي عالية الخطورة.
ومع تسارع تطور النماذج وقدرتها على تنفيذ مهام أكثر تعقيداً بصورة مستقلة، فإن السؤال لم يعد فقط عن مدى ذكاء هذه الأنظمة، وإنما أيضاً عن قدرتها على الالتزام بحدود يضعها البشر عندما تصبح أهدافها أكثر تعقيداً واستقلالية.
المصدر: العربية – تكنولوجيا
