نموذج ذكاء اصطناعي لشركة مونشوت الصينية يهرب من بيئة اختبار

تمكن نموذج الذكاء الاصطناعي الرئيسي لشركة مونشوت الصينية الناشئة، “Kimi K3″، من الخروج من بيئة اختبار للأمن السيبراني طورها معهد سلامة الذكاء الاصطناعي في المملكة المتحدة، وفقًا لما قالته شركة الأبحاث ” فرونتير سيكيوريتي” يوم الخميس، ما يثير مخاوف بشأن مخاطر الأمن السيبراني التي تشكلها أنظمة الذكاء الاصطناعي المتقدمة.

عادةً ما تُشغَّل نماذج الذكاء الاصطناعي في بيئات معزولة أثناء اختبارات الأمن السيبراني لمنع الوصول إلى المعلومات الخارجية وتقييم قدرتها على حل المشكلات بشكل مستقل.

وأوضحت شركة فرونتير سيكيوريتي الأميركية لأبحاث الأمن السيبراني أن “Kimi K3” قد تجاوز إحدى هذه البيئات المعزولة، مما سمح له بالوصول إلى معلومات خارج بيئة الاختبار، بحسب ما نقلته “رويترز”.

وحذر الباحثون من أنه إذا اكتشف نموذج واحد ذو قدرة عالية على الاستدلال مثل هذا الاختراق، فمن المرجح أن تفعل نماذج أخرى ذات صلاحيات وصول مماثلة الشيء نفسه.

وبما أن “Kimi K3” نموذج متاح للعامة، حذر الباحثون من إمكانية استخدامه من جانب “جهات معادية”، ما يجعل الحادثة أكثر ضررًا بشكل محتمل.

ويأتي تجاوز “Kimi K3” لإجراءات الأمن السيبراني بعد سلسلة من الحوادث المماثلة التي أبلغت عنها مؤخرًا شركات مثل “ميتا” و”أوبن إيه آي” و”أنثروبيك”.

وأثارت هذه الاختراقات مخاوف بين المشرعين، في الوقت الذي تكثف فيه الحكومة الأميركية جهودها لتحسين سلامة الذكاء الاصطناعي، حتى إن بعض قادة الذكاء الاصطناعي البارزين دعوا إلى إبطاء عملية التطوير إلى أن يتم وضع إجراءات حماية أقوى.

المصدر: العربية – تكنولوجيا