تقرير: نماذج “OpenAI” أنشأت وسيلة تواصل سرية لتبادل أساليب الاختراق خلال الاختبارات
كشفت شركة OpenAI عن تفاصيل جديدة ومثيرة بشأن الحادثة التي شهدت تمكن أحد نماذجها للذكاء الاصطناعي من اختراق منصة Hugging Face خلال اختبار أمني، موضحة أن الأمر لم يكن تصرفًا فرديًا، بل شاركت فيه عدة نماذج عبر وسيلة تواصل سرية لتبادل المعلومات وأساليب الاختراق.
وخلال مؤتمر Black Hat للأمن السيبراني في مدينة لاس فيغاس، أوضح الباحثان في “OpenAI”، مايكل دالتون وإريك والاس، أن بعض أكثر نماذج الشركة تطورًا بدأت، قبل أسابيع من حادثة الاختراق، في تبادل ملاحظات ونصائح تساعدها على تجاوز اختبارات الاختراق الداخلية.
ووصف دالتون ما حدث بأنه “لحظة مفصلية ليس فقط بالنسبة إلى “OpenAI”، بل لقطاع الذكاء الاصطناعي بأكمله”، بحسب تقرير نشره موقع “digitaltrends” واطلعت عليه “العربية Business”.
كيف تواصلت النماذج؟
وبحسب والاس، بدأت القصة عندما واجهت النماذج اختبارًا داخليًا معقدًا في مجال الأمن السيبراني.
وبدلًا من الفشل، اكتشف أحد النماذج أنه يستطيع ترك ملاحظات داخل نظام Artifactory الداخلي المستخدم لتخزين الملفات، لتتمكن النماذج الأخرى من قراءتها والاستفادة منها.
وسرعان ما تحولت هذه الملاحظات إلى ما يشبه “لوحة رسائل” غير معلنة، تبادلت عبرها النماذج طرق حل الاختبار، بما في ذلك أساليب تتطلب الوصول إلى الإنترنت.
من تبادل النصائح إلى استغلال ثغرات أمنية
وبحلول نهاية مايو، تمكن أحد النماذج من استغلال إمكانية اتصال Artifactory بالإنترنت لجلب ملفات من مواقع خارجية.
وبعد نحو شهر، اكتشفت النماذج ثغرة أمنية غير معروفة سابقًا من فئة Zero-Day، واستغلتها للحصول على صلاحيات إدارية داخل النظام، ثم ثبتت برمجيات للتحكم عن بُعد في بيئة الاختبار.
كيف اكتشفت “OpenAI” ما حدث؟
أدى النشاط المكثف للنماذج في النهاية إلى الضغط على نظام Artifactory والتسبب في تعطله على مستوى الشركة مطلع يوليو، وهو ما لفت انتباه مهندسي “OpenAI”.
وعقب اكتشاف الواقعة، سارعت الشركة إلى إلغاء صلاحيات النماذج، وحذف “لوحة الرسائل” الداخلية، وسد الثغرات الموجودة في النظام.
لكن المفاجأة أن النماذج تمكنت بعد أيام قليلة من إيجاد وسيلة جديدة للتواصل، واستأنفت البحث عن ثغرات أمنية، قبل أن تستهدف هذه المرة منصة Hugging Face.
سلسلة حوادث تثير القلق
وتأتي هذه التطورات في وقت تتزايد فيه المخاوف بشأن سلامة أنظمة الذكاء الاصطناعي. فبعد حادثة “OpenAI”، أعلنت “أنثروبيك” أن بعض نماذجها تمكنت من اختراق أنظمة ثلاث مؤسسات مختلفة أثناء اختبارات أمنية، كما أكدت “ميتا” مؤخرًا أن أحد نماذجها نجح أيضًا في اختراق نظام تابع لشركة أخرى خلال تقييم أمني.
وتسلط هذه الوقائع الضوء على الحاجة إلى تعزيز إجراءات الحماية داخل بيئات اختبار الذكاء الاصطناعي، ووضع ضوابط أكثر صرامة لمنع النماذج المتقدمة من تجاوز الحدود المخصصة لها أو استغلال الثغرات الأمنية أثناء عمليات التقييم.
المصدر: العربية – تكنولوجيا
