أزمة في قطاع الذكاء الاصطناعي.. كبرى الشركات تكافح للسيطرة على أحدث نماذجها

تواصل أقوى نماذج الذكاء الاصطناعي التصرف على نحو غير متوقع، وفقًا للشركات التي تطورها.

تأتي هذه الإفصاحات في وقت أصبحت فيه نماذج الذكاء الاصطناعي المتقدمة أكثر قوة وقدرة على العمل بشكل مستقل. كما تسلط الضوء على تحدٍ متزايد أمام الشركات التي تطورها، وهو أن الأنظمة المصممة لاختبار النماذج المتزايدة القدرات قد تكون بدورها تعاني من نقاط ضعف، بحسب تقرير لموقع “بيزنس إنسايدر”، اطلعت عليه “العربية Business”.

وخلال الأسابيع القليلة الماضية، تمكنت عدة نماذج متقدمة للذكاء الاصطناعي من الوصول إلى أنظمة حقيقية أثناء اختبارات الأمن السيبراني.

وقال باحثون يوم الجمعة إن نموذج Kimi K3 الصيني الجديد ذائع الصيت، الذي طورته شركة مونشوت، تجاوز القيود المفروضة في بيئة الاختبار الخاصة به. كما قالت شركتا أنثروبيك وميتا مؤخرًا إن أحدث نماذجهما قامت بأشياء لا يُفترض بها القيام بها. وكانت “أوبن إيه آي” قد بدأت عمليات الإفصاح هذه الشهر الماضي عندما بذلت نماذجها جهودًا كبيرة -ومثيرة للقلق- لاختراق شركة أخرى.

وسط تزايد المخاوف، قالت “أوبن إيه آي” يوم الجمعة إن نموذجها Astra، الذي لم يُطرح بعد، يُظهر قدرات سيبرانية متقدمة إلى درجة أن الشركة لم تعد قادرة على استبعاد منحه أعلى تصنيف للمخاطر.

ونتيجة لذلك، قالت “أوبن إيه آي” إنها توقف العمل على Astra الذي لا يستوفي إجراءات الحماية الجديدة، وإنها ستعمل مع الجهات الحكومية ومجموعات سلامة الذكاء الاصطناعي لإجراء مزيد من الاختبارات على النموذج.

وكتب الرئيس التنفيذي لـ”أوبن إيه آي”، سام ألتمان، على منصة إكس يوم الجمعة: “Astra نموذج قوي ونحن نعمل على إتاحته بشكل عام”، مضيفًا: “نظرًا إلى قدراته السيبرانية، نحتاج إلى مزيد من الوقت قليلًا للقيام بذلك بأمان”.

كما تزيد الثغرات الأمنية التي ظهرت أثناء الاختبارات من الضغوط على قطاع الذكاء الاصطناعي والبيت الأبيض لإيجاد سبل لتنظيم أنظمة الذكاء الاصطناعي على نطاق واسع.

وبالطبع، هناك أيضًا عدد غير قليل من المراقبين الذين يشتبهون في أن هذه الإعلانات ليست سوى تسويق متقن للترويج للنماذج الجديدة وإظهار تقدم للمستثمرين القلقين نحو الهدف النهائي: الذكاء الاصطناعي العام.

نماذج “أوبن إيه آي” تجد طريقة للهروب

كشف باحثو “أوبن إيه آي” قبل أيام قليلة عن تفاصيل جديدة مثيرة للقلق بشأن حادثة وقعت مؤخرًا، تمكن فيها وكلاء الذكاء الاصطناعي من الخروج من بيئة الاختبار الداخلية للشركة، ثم اخترقوا في نهاية المطاف أنظمة منصة “هاغينغ فيس” بحثًا عن إجابات.

وقالت الشركة إن الوكلاء أنشأوا لوحة رسائل داخلية خاصة بهم، حتى بعد أن حاولت “أوبن إيه آي” إيقافها. وعندما اكتشف أحد الوكلاء وصولًا غير متوقع، فكر قائلًا: “تبًا، القارئ لديه صلاحيات المسؤول؟” وكتب آخر: “يمكننا التواصل الآن!”.

وقال إريك والاس، الباحث في “أوبن إيه آي”، إن الوكلاء أدركوا أنهم يستطيعون تحقيق المزيد من خلال العمل معًا. وأضاف: “يبدأون في شن هجمات جماعية على الخدمات التابعة لجهات خارجية والخدمات الداخلية”. ووجه الوكلاء اهتمامهم في نهاية المطاف إلى “هاغينغ فيس”.

ووصفت “أوبن إيه آي” الهجوم على “هاغينغ فيس” بأنه “حادث سيبراني غير مسبوق”. واكتسبت الواقعة أهمية جديدة بينما تختبر “أوبن إيه آي” نموذج Astra، وهو نموذج لم يُطرح بعد، وتقول الشركة إنه ربما وصل إلى أعلى مستوى للمخاطر المتعلقة بالأمن السيبراني.

وتفرض “أوبن إيه آي” ضوابط أمنية أكثر صرامة على “Astra”، تشمل التنفيذ داخل بيئة معزولة، وتقييد الوصول إلى الشبكة، وتعزيز الحماية حول أوزان النموذج. كما أوقفت العمل الداخلي على “Astra” الذي لا يستوفي المتطلبات المشددة.

نماذج كلود قادرة على فعل ذلك أيضًا

قالت “أنثروبيك” إنها راجعت أكثر من 141 ألف اختبار للذكاء الاصطناعي، ووجدت ثلاث حالات تعود إلى أبريل، تمكنت فيها نماذج كلود من الوصول إلى أنظمة حية تابعة لمؤسسات حقيقية دون تصريح.

وشملت الحوادث نماذج Claude Opus 4.7 وMythos 5 ونموذجًا بحثيًا داخليًا. وقالت “أنثروبيك” إنها تواصلت مع المؤسسات المعنية، وإن اثنتين منها لم تكونا على علم بأنهما تعرضتا للاختراق.

وأثارت هذه الوقائع تساؤلات حول ما إذا كان الإخفاق الأكبر يكمن في النماذج نفسها أم في البيئات التي تحتويها. وقالت “أنثروبيك” إنها تناقش إجراء مراجعة مستقلة للحوادث من طرف ثالث.

“Muse Spark” يستغل ثغرة أمنية تابعة لجهة خارجية

كشفت شركة ميتا أيضًا مؤخرًا عن حادثة أثناء اختبار الأمن السيبراني. وقالت الشركة إن نموذج Muse Spark الخاص بها “استغل ثغرة أمنية في خدمة تابعة لجهة خارجية” أثناء إحدى عمليات التقييم.

وقال متحدث باسم “ميتا” لموقع “بيزنس إنسايدر” إن الحادث نجم عن سوء تهيئة من جانب “Irregular” -وهي شركة ناشئة متخصصة في أمن الذكاء الاصطناعي- ما سمح للنموذج بالوصول إلى الإنترنت أثناء الاختبار.

وقالت “ميتا” إن “Irregular” أبلغتها بالحادث، وإن الشركة تحقق فيه. وتعتزم نشر مزيد من التفاصيل بمجرد اكتمال تلك المراجعة.

“Kimi K3” أيضًا يخرج من بيئة العزل

قال باحثون في شركة الأمن السيبراني “فرونتير سكيورتي” إن “Kimi K3″، وهو نموذج جديد ذائع الصيت من شركة الذكاء الاصطناعي الصينية “مونشوت”، تجاوز أيضًا القيود المفروضة في بيئة لاختبارات الأمن السيبراني.

وقال الباحثون إن بيئة العزل -وهي بيئة خاضعة للرقابة ومعزولة يمكن لنموذج الذكاء الاصطناعي تشغيل التعليمات البرمجية فيها- كانت مهيأة بشكل غير صحيح.

ووفقًا لشركة فرونتير سكيورتي، كانت البيئة تحظر حركة مرور معينة على الويب، لكن “Kimi” تجاوز تلك القيود باستخدام أدوات سطر الأوامر.

وقال الباحثون إن الحادث يشير إلى أن بعض تقييمات الأمن السيبراني تحتوي على نقاط ضعف يمكن للنماذج ذات القدرات المتقدمة استغلالها.

وكتبوا في تقرير: “يشير هذا إلى أن بعض تقييمات الأمن السيبراني التي يستخدمها المجتمع عرضة للثغرات الأمنية وتسمح للنماذج بالغش”.

المصدر: العربية – تكنولوجيا