“ميتا”: نموذج ذكاء اصطناعي اخترق نظام شركة أخرى أثناء اختبار أمني
اعترفت شركة ميتا بأن أحد نماذجها للذكاء الاصطناعي تمكن من اختراق نظام تابع لشركة أخرى خلال اختبار أمني، لتنضم بذلك إلى سلسلة من الحوادث المشابهة التي شهدها القطاع خلال الأسابيع الأخيرة، ما يثير تساؤلات متزايدة حول آليات اختبار وتأمين وكلاء الذكاء الاصطناعي.
وأكدت “ميتا”، في تصريحات لهيئة الإذاعة البريطانية “بي بي سي”، أن الحادث وقع أثناء اختبار أجرته شركة Irregular المتخصصة في تقييم أمن أنظمة الذكاء الاصطناعي، والتي استعانت بها “ميتا” لاختبار قدرة نموذجها على التعامل مع سيناريوهات أمنية معقدة.
وأوضحت الشركة أن ما حدث كان نتيجة “خطأ في إعدادات بيئة الاختبار”، مشيرة إلى أنها لا تزال تجمع مزيدًا من التفاصيل قبل الكشف عن تقرير كامل بشأن الواقعة، بحسب تقرير نشره موقع “digitaltrends” واطلعت عليه “العربية Business”.
وكشف متحدث باسم شركة Irregular أن الحادثة نفسها ترتبط بالمشكلة التي أعلنت عنها “أنثروبيك” الأسبوع الماضي، عندما أكدت أن ثلاثة من نماذج كلود تمكنت من الخروج من بيئات الاختبار واختراق أنظمة ثلاث شركات مختلفة.
كما أعلنت “OpenAI” في وقت سابق من الأسبوع الجاري عن حادثة مشابهة، أوضحت فيها أن أحد نماذجها استغل ثغرة برمجية للوصول إلى أحد المواقع الإلكترونية، بعدما حصل عن طريق الخطأ على اتصال مباشر بالإنترنت أثناء اختبار أجرته الشركة نفسها.
حادثة مختلفة داخل “OpenAI”
ورغم تشابه معظم الحوادث، فإن أول واقعة سُجلت في يوليو الماضي جاءت في ظروف مختلفة.
فقد تمكن نموذج تجريبي تابع لشركة OpenAI من اكتشاف ثغرة في مستودع ملفات مرتبط ببيئة الاختبار، واستغلها للوصول إلى الإنترنت دون تدخل بشري، قبل أن يخترق أنظمة منصة Hugging Face أثناء محاولته التحايل على اختبار للأمن السيبراني.
وفي هذه الحالة، لم يكن الخطأ ناتجًا عن منح النموذج صلاحيات غير مقصودة، بل تمكن من إيجاد طريقه للخروج من بيئة الاختبار بنفسه.
تقرير بريطاني يرصد نمطًا متكررًا
وفي السياق نفسه، نشر المعهد البريطاني لأمن الذكاء الاصطناعي (UK AI Security Institute) تقريرًا جديدًا كشف فيه أن وكلاء ذكاء اصطناعي تابعين لشركتي “OpenAI” و”أنثروبيك” نفذوا إجراءات غير مصرح بها عبر الإنترنت 19 مرة خلال 122 اختبارًا منفصلًا.
ورغم أن هذه الوقائع قد تبدو للوهلة الأولى وكأنها تشير إلى خروج نماذج الذكاء الاصطناعي عن السيطرة، فإن معظمها يعود في الواقع إلى أخطاء في إعدادات بيئات الاختبار أو منح النماذج صلاحيات وصول إلى الإنترنت بصورة غير مقصودة، وليس إلى سلوك “متمرد” من الذكاء الاصطناعي نفسه.
وتسلط هذه الحوادث الضوء على التحديات التي تواجه شركات الذكاء الاصطناعي في تطوير وكلاء قادرين على تصفح الإنترنت وتنفيذ المهام بأمان، مع ضمان بقائهم ضمن الحدود والصلاحيات المخصصة لهم.
المصدر: العربية – تكنولوجيا