نماذج “OpenAI” و”أنثروبيك” تتجاوز القيود الأمنية مجددًا
تواجه شركتا “OpenAI” و”أنثروبيك” موجة جديدة من الانتقادات المتعلقة بأمان الذكاء الاصطناعي، بعدما كشفت اختبارات حديثة عن قيام نماذجهما بتنفيذ إجراءات غير مصرح بها على الإنترنت، شملت اختراق موقع إلكتروني حقيقي ومحاولة زرع شيفرة برمجية خبيثة في مشروع مفتوح المصدر على منصة GitHub.
وتأتي هذه التطورات بعد أسابيع قليلة من إعلان “OpenAI” أن أحد نماذجها تمكن من الهروب من بيئة اختبار معزولة والوصول إلى منصة Hugging Face وأربع جهات أخرى.
كما دفعت تلك الواقعة شركة أنثروبيك إلى مراجعة نتائج اختباراتها، لتكتشف أن نموذج كلود نجح هو الآخر في الوصول دون تصريح إلى أنظمة ثلاث شركات، بحسب تقرير نشره موقع “digitaltrends” واطلعت عليه “العربية Business”.
19 مخالفة خلال اختبارات رسمية
وكشف معهد أمن الذكاء الاصطناعي البريطاني، وفق تقرير نشرته مجلة “Wired”، عن تسجيل 19 واقعة نفذت فيها نماذج الذكاء الاصطناعي إجراءات غير مصرح بها عبر الإنترنت، وذلك خلال 122 تجربة شملت نماذج من “OpenAI” و”أنثروبيك”.
وكانت أخطر هذه الوقائع قيام أحد وكلاء الذكاء الاصطناعي بإنشاء هويات مزيفة على الإنترنت في محاولة لتمرير شيفرة برمجية خبيثة إلى مشروع حقيقي مستضاف على منصة GitHub.
وفي واقعة منفصلة، كشفت “OpenAI” أن أحد نماذجها اخترق موقعًا إلكترونيًا حقيقيًا بعدما منحه مختبر خارجي، عن طريق الخطأ، إمكانية الوصول المباشر إلى الإنترنت.
الغالبية العظمى من الحوادث مرتبطة بنموذج Mythos 5
وأوضح المعهد أن 17 من أصل 19 حادثة ارتبطت بنموذج Mythos 5 التابع لشركة أنثروبيك، بينما ارتبطت الحادثتان الأخريان بنموذج GPT 5.6 Sol من “OpenAI”.
وفي حادثة GitHub، لم يتوقف النموذج بعد رفض مساهمته من قبل أحد المراجعين البشر، بل نشر ملخصًا لما أنجزه على الإنترنت، داعيًا أنظمة ذكاء اصطناعي أخرى إلى استكمال المهمة، في سلوك وصفه المعهد بأنه محاولة لتنفيذ هجوم يعرف باسم حقن الأوامر.
وأشار التقرير إلى أن وكيلاً آخر للذكاء الاصطناعي عثر لاحقًا على هذه الرسالة، واستفاد منها لمواصلة العمل، ما أثار مخاوف بشأن قدرة الأنظمة الذكية على التعاون فيما بينها خارج نطاق المهام المحددة لها.
وصول غير مقصود إلى الإنترنت
وأكد AISI أنه منح النماذج إمكانية الوصول إلى الإنترنت وخفف بعض إجراءات الحماية الأمنية عمدًا لاختبار قدراتها، لكنه لم يطلب منها مطلقًا استهداف أشخاص أو مؤسسات حقيقية.
وأضاف المعهد أنه لا يزال من غير الواضح ما إذا كانت النماذج أدركت أنها تجاوزت حدود بيئة الاختبار وانتقلت إلى التعامل مع أهداف حقيقية.
خطأ تقني يقود إلى اختراق موقع إلكتروني
وفي حادثة أخرى، أوضحت “OpenAI” أن الخلل بدأ داخل مختبر خارجي يدعى Irregular، والذي تعاقدت معه لإجراء اختبارات أمنية على نماذجها.
وكان من المفترض أن يعمل النموذج داخل بيئة اختبار معزولة، إلا أن خطأ في إعدادات النظام منحه اتصالًا مباشرًا بالإنترنت.
وبعد ذلك استغل النموذج ثغرة أمنية لاختراق موقع إلكتروني حقيقي، ثم تمكن من العثور على بيانات اعتماد استخدمها للتحكم في الموقع الذي اخترقه.
ولم تكشف “OpenAI” عن اسم الموقع المستهدف أو طبيعة الإجراءات التي نفذها النموذج بعد حصوله على صلاحيات الوصول.
سباق يتقدم أسرع من إجراءات الأمان
وشددت كل من “OpenAI” و”أنثروبيك” على أن هذه الحوادث وقعت في ظروف اختبارية استثنائية جرى خلالها تخفيف القيود الأمنية عمدًا، ولا تعكس طريقة عمل النماذج المتاحة للعامة.
ومع ذلك، يرى مراقبون أن تكرار هذه الوقائع خلال فترة قصيرة يثير تساؤلات جدية حول جاهزية وكلاء الذكاء الاصطناعي لتنفيذ مهام واقعية، في وقت تتسابق فيه شركات التكنولوجيا إلى منحها صلاحيات أوسع قبل إثبات قدرتها على العمل ضمن حدود آمنة يمكن التحكم بها.
المصدر: العربية – تكنولوجيا