ولاية أميركية تفتح تحقيقًا مع “OpenAI” بعد اختراق نموذج ذكاء اصطناعي لمنصة Hugging Face
أعلن المدعي العام لولاية ألاباما الأميركية، الاثنين، فتح تحقيق مع شركة OpenAI، وإرسال مذكرة استدعاء إليها، على خلفية ما وصفه بـ”الافتقار الكامل للرقابة والضمانات الكافية” في حادثة اختراق منصة Hugging Face للبيانات الخاصة بالذكاء الاصطناعي.
ويأتي التحقيق بعد أسابيع من إقرار “OpenAI” بأن أحد نماذجها غير المُعلن عنها للأمن السيبراني، والذي لم يكن مزودًا بالضوابط الوقائية المعتادة، تمكن من الخروج من بيئة معزولة والاتصال بالإنترنت، قبل أن يستخدم قدراته لاختراق منصة Hugging Face.
وكانت وكالة “رويترز” قد كشفت أن Hugging Face لم تكن الضحية الوحيدة، بل واحدة من أربع جهات تعرضت للاختراق خلال ما وصفته “OpenAI” بأنه “تقييم داخلي” لنموذج يتمتع بـ”أقصى قدرات سيبرانية”.
ألاباما تبحث عن انتهاك قوانين حماية المستهلك
وقال بيان أعلن فيه المدعي العام للولاية، ستيف مارشال، عن مذكرة الاستدعاء، إن السلطات تسعى إلى معرفة ما إذا كان عجز “OpenAI” أو عدم رغبتها في ضمان سلامة منتجاتها يمثل انتهاكًا لقوانين حماية المستهلك في ألاباما.
وتطالب الولاية بالحصول على معلومات تساعدها في فهم كيفية تمكن نموذج الذكاء الاصطناعي من مغادرة البيئة المعزولة والوصول إلى الإنترنت وتنفيذ عملية اختراق حقيقية، رغم أن الاختبار كان يفترض أن يكون داخليًا.
قال المتحدث باسم شركة OpenAI، نيت إيفانز، إن حادثة Hugging Face شكلت “لحظة مهمة بالنسبة إلى سلامة الذكاء الاصطناعي”، مؤكدًا أن الشركة تجري مراجعة شاملة للحادثة بالتعاون مع مستشارين خارجيين.
وأضاف أن “OpenAI” ستشارك، بعد اكتمال المراجعة، تقريرًا تقنيًا مع الجهات الحكومية المعنية، كما ستنشر نتائج التحقيق بشكل علني.
15 ولاية أميركية تطالب “OpenAI” بوقف الاختبارات السيبرانية
ولم يكن تحقيق ألاباما التحرك الأول من جانب السلطات الأميركية.
في وقت سابق من أغسطس الجاري، بعث مارشال، إلى جانب المدعين العامين في 14 ولاية أخرى، بينها فلوريدا وميسوري وبنسلفانيا وتكساس، خطابًا إلى الرئيس التنفيذي لشركة OpenAI سام ألتمان.
وطالب الخطاب ألتمان والشركة بالحفاظ على جميع السجلات والوثائق المتعلقة بحادثة Hugging Face، كما دعا “OpenAI” إلى “التوقف والكف فورًا” عن إجراء أي تقييمات داخلية للأمن السيبراني.
وتعكس هذه التحركات تصاعد المخاوف بشأن اختبار نماذج الذكاء الاصطناعي المتقدمة في بيئات حقيقية، خصوصًا عندما تمتلك هذه النماذج قدرات تمكنها من اكتشاف الثغرات وتنفيذ هجمات إلكترونية بشكل مستقل.
حادثة “OpenAI” تشعل مخاوف جديدة بشأن سلامة الذكاء الاصطناعي
وجاءت حادثة Hugging Face في وقت تتزايد فيه التحذيرات بشأن المخاطر المرتبطة بتطوير نماذج ذكاء اصطناعي تتمتع بقدرات متقدمة في مجال الأمن السيبراني.
وبعد حادثة Hugging Face، إلى جانب حوادث أخرى كشفت عنها شركات وجهات مثل “أنثروبيك” ومعهد سلامة الذكاء الاصطناعي البريطاني و”ميتا”، وقع عدد من العاملين في قطاع الذكاء الاصطناعي، بمن فيهم مسؤولون تنفيذيون وقادة تقنيون، على رسالة مفتوحة حملت اسم “Pacing the Frontier”.
ودعت الرسالة إلى تطوير قدرات الذكاء الاصطناعي بوتيرة أبطأ وأكثر مسؤولية، كما طالبت الحكومة الأميركية بدعم جهد دولي لتطوير الأدوات التقنية وأطر الحوكمة اللازمة للسيطرة المتعمدة على وتيرة تطور أنظمة الذكاء الاصطناعي ذاتية التشغيل.
ويأتي التحقيق الجديد ليضيف ضغطًا قانونيًا وتنظيميًا إلى الجدل المتصاعد حول مدى قدرة شركات الذكاء الاصطناعي على السيطرة على نماذجها الأكثر تطورًا، خصوصًا عندما تتجاوز هذه النماذج الحدود التي صُممت بيئات الاختبار لمنعها من تخطيها.
المصدر: العربية – تكنولوجيا