رئيس “Hugging Face” يطالب “OpenAI” بشفافية كاملة وكشف تفاصيل الهجوم الذكي
طالب الرئيس التنفيذي لشركة Hugging Face، كليم ديلانج، شركة OpenAI بتبني ما وصفه بـ”الشفافية الجذرية”، وذلك بعد اعتراف الأخيرة بأن أحد نماذجها للذكاء الاصطناعي تمكن من اختراق أنظمة منصة Hugging Face في حادثة وُصفت بأنها الأولى من نوعها.
وبعد الإعلان عن الواقعة، نشر ديلانج تدوينة ساخرة عبر منصة “إكس” قال فيها إنه في طريقه إلى مدينة سان فرانسيسكو لإجراء “حديث قصير” مع “الوكيل المارق” المسؤول عن الهجوم.
لكن في منشور لاحق يوم السبت، كشف ديلانج عن مطالبه الرسمية من “OpenAI”، مؤكداً أنه دعا الشركة إلى نشر جميع سجلات التتبع (Traces) الخاصة بالوكيل الذكي الذي نفذ الهجوم، حتى يتمكن مجتمع الباحثين من دراسة ما حدث وتحليل أسباب الاختراق بصورة كاملة، بحسب تقرير نشره موقع “تك كرانش” واطلعت عليه “العربية Business”.
وقال إن هذه الخطوة ستتيح للمجتمع العلمي فهم كيفية وقوع الحادثة، بما يسهم في تطوير وسائل أكثر فاعلية لحماية أنظمة الذكاء الاصطناعي مستقبلاً.
دعوة لاستثمار 100 مليون دولار من القدرة الحاسوبية
ولم تقتصر مطالب رئيس “Hugging Face” على كشف تفاصيل الهجوم، بل دعا “OpenAI” أيضاً إلى تخصيص قدرات حاسوبية بقيمة 100 مليون دولار لدعم مجتمع “Hugging Face” في تطوير أنظمة دفاع سيبراني متقدمة، تعتمد على أفضل نماذج الذكاء الاصطناعي المفتوحة والمغلقة المصدر.
ووصف ديلانج الواقعة بأنها “أول هجوم سيبراني ينفذه وكيل ذكاء اصطناعي مستقل”، مضيفاً: “إنه حدث غير مسبوق، ويستحق استجابة غير مسبوقة.”
خبراء: الخطأ البشري قد يكون السبب الحقيقي
ورغم أن الهجوم نُفذ بواسطة وكيل ذكاء اصطناعي مستقل، يرى عدد من خبراء الأمن السيبراني أن المسؤولية قد لا تقع على النموذج وحده، بل ربما تعود إلى خطأ بشري في إعداد بيئة الاختبار.
وأشار الخبراء إلى أن “OpenAI” ربما أخفقت في عزل بيئة الاختبار بالشكل المطلوب، ما أتاح للوكيل الذكي الوصول إلى أنظمة خارج النطاق المخصص له.
“OpenAI”: التحقيق لا يزال مستمراً
ورداً على تصريحات ديلانج، أكدت “OpenAI” انعقاد الاجتماع بين الطرفين، مشيرة إلى أنها لا تزال تجري مراجعة شاملة للحادث بالتعاون مع مستشارين خارجيين وتحت إشراف لجنة السلامة والأمن التابعة للشركة.
وأضافت “OpenAI” في بيانها أن الحادث يمثل “لحظة مهمة في مسيرة سلامة الذكاء الاصطناعي”، مؤكدة أنها تعتزم نشر تقرير تقني مفصل خلال الأسابيع المقبلة، يتضمن الدروس المستفادة ونتائج التحقيق، بهدف تعزيز أمن الأنظمة الذكية والحد من تكرار مثل هذه الحوادث مستقبلاً.
المصدر: العربية – تكنولوجيا