“أوبن إيه آي” فشلت في رصد اختراق وكيلها الذكي لإحدى الشركات لمدة أسبوع
قالت مصادر مطلعة على التحقيق إن وكيل الذكاء الاصطناعي التابع لشركة أوبن إيه آي، الذي اخترق شركة التكنولوجيا “Hugging Face”، واصل تنفيذ عمليات اختراق لعدة أيام، دون أن تلاحظ “أوبن إيه آي” ذلك إلا بعد احتواء التهديد وإبلاغ مكتب التحقيقات الفيدرالي الأميركي.
ووفقًا لمصدرين، فقد حاول وكيل الذكاء الاصطناعي – وهو برنامج قادر على اتخاذ القرارات وتنفيذ مهام مع قدر ضئيل من الإشراف البشري أو من دونه – الخروج من بيئة الاختبار المعزولة الخاصة به داخل “أوبن إيه آي” في حوالي التاسع من يوليو، بحسب “رويترز”.
وبدأ الاختراق الذي استهدف “Hugging Face”، التي تعمل كمستودع لأدوات ونماذج الذكاء الاصطناعي، بعد ذلك بيومين، في 11 يوليو، واستمر حتى 13 يوليو، بحسب ما قاله توماس وولف، الشريك المؤسس لـ”Hugging Face”.
وأضاف وولف وثلاثة من المصادر المطلعة على التحقيق أن الأمر استغرق عدة أيام إضافية حتى أدركت “أوبن إيه آي” أن وكيلها هو المسؤول عن الاختراق، ولم تتواصل الشركتان بشأن الحادث للمرة الأولى إلا في 20 يوليو تقريبًا.
وأثار إعلان “أوبن إيه آي” في 21 يوليو أن أحد وكلائها خرج عن السيطرة ونفذ عملية الاختراق ضد “Hugging Face” اهتمامًا عالميًا. لكن العديد من تفاصيل الاختراق، بما في ذلك المدة التي ظل فيها الوكيل خارج السيطرة، وتأخر “أوبن إيه آي” في إدراك ذلك، لم تكن معروفة قبل تقرير “رويترز” هذا.
وقال وولف إن “Hugging Face” تُعد جدولًا زمنيًا علنيًا للحادث، مضيفًا أنه لا يستطيع التحدث عما حدث داخل “أوبن إيه آي”.
وقالت “أوبن إيه آي”، في بيان، إن الاختراق كان غير مسبوق، وإنه “يمثل لحظة مهمة لسلامة الذكاء الاصطناعي”، مضيفة أنها تراجع الحادث مع مستشارين خارجيين، وستنشر في وقت لاحق تقريرًا فنيًا.
رد “أوبن إيه آي”
قالت متحدثة باسم “أوبن إيه آي” إن تقرير رويترز تضمن “عدة مغالطات”، لكنها لم ترد عندما طُلب منها توضيح هذه المعلومات.
وامتنع مكتب التحقيقات الفيدرالي الأميركي عن التعليق على الحادث.
يأتي هذا الحادث، الذي استحضر سيناريوهات من الخيال العلمي حول فقدان البشر السيطرة على أنظمة ذكاء اصطناعي خطيرة، في وقت حساس بالنسبة لـ”أوبن إيه آي”، الشركة المطورة لروبوت الدردشة الشهير “شات جي بي تي”. ويستعد مسؤولو الشركة التنفيذيون لطرح عام أولي محتمل قد يتم هذا العام، للمساعدة في توفير مليارات الدولارات اللازمة لتمويل نمو الشركة خلال السنوات المقبلة.
ويثير فقدان “أوبن إيه آي” السيطرة على برنامج الذكاء الاصطناعي الخاص بها تساؤلات جديدة حول إجراءات السلامة المتبعة في الشركة، وفقًا لثلاثة خبراء في الأمن السيبراني.
وتساءلت مارلي سميث، كبيرة أخصائيي الاستخبارات في مؤسسة “World Ethical Data Foundation” غير الربحية: “هل يعني ذلك أنهم تركوه دون رقابة ولم يدركوا ما يفعله؟ أم أنهم أدركوا ذلك لكنهم لم يعرفوا كيفية السيطرة عليه؟ كلا الاحتمالين خطير ومثير للقلق بالقدر نفسه”.
المصدر: العربية – تكنولوجيا