“OpenAI” تعترف: نحتاج لإعادة التفكير فيما يحدث عند خروج الذكاء الاصطناعي عن السيطرة
أمضت شركة أوبن إيه آي وقتًا طويلًا في شرح خططها لمنع وكلاء الذكاء الاصطناعي المتزايدي القدرات من القيام بأشياء لا ينبغي لهم القيام بها. والآن، تقول الشركة إنها بحاجة إلى تحسين طريقة إبلاغ الجميع عندما تكون هذه الأمور قد حدثت بالفعل.
ويأتي هذا الاعتراف بعد تقارير عن حادثة أخرى لم يُكشف عنها سابقًا تتعلق بوكلاء الذكاء الاصطناعي التابعين لـ”أوبن إيه آي”، وهذه المرة أثرت على النسخة الألمانية من موقع “ويكي”.
وأجرى وكلاء ذكاء اصطناعي تابعون للشركة أكثر من 15 ألف تعديل غير مصرح به على موقع “DseWiki”، مستخدمين الموقع للتواصل ومشاركة طرق لتجاوز القيود، والغش في تنفيذ المهام، وتجنب اكتشافهم، وفقًا لـ”رويترز”.
وأقرت “أوبن إيه آي” الآن بما تسميه “حادثة الويكي”، وقالت إن هذه الواقعة كشفت عن مشكلة أكبر تتعلق بكيفية إفصاح شركات الذكاء الاصطناعي عن سلوك النماذج غير المتوقع، بحسب تقرير لموقع “ديجيتال تريندز” المتخصص في أخبار التكنولوجيا، اطلعت عليه “العربية Business”.
وقالت الشركة إنها تطور إطارًا لتحديد متى وكيف يجب الإعلان عن الحوادث التي تتضمن ذكاءً اصطناعيًا غير متوافق مع الأهداف المقصودة.
ولم تحدث “حادثة ويكي” بمعزل عن غيرها. ففي يوليو، خرج وكيل ذكاء اصطناعي تابع لـ”أوبن إيه آي” كان يشارك في تقييم للأمن السيبراني من بيئة الاختبار الخاصة به، واخترق أنظمة تابعة لمنصة “هاغينغ فيس”.
وعُرف لاحقًا أن وكيل الذكاء الاصطناعي أمضى أيامًا في تنفيذ هجمات قبل أن تدرك “أوبن إيه آي” ما حدث. وبعد ذلك، وصفت الشركة الاختراق بأنه “طلقة تحذيرية”، معترفة بأن وكلاء الذكاء الاصطناعي ذوي القدرات المتقدمة يمكنهم استغلال الثغرات الأمنية، والتواصل عبر قنوات غير مصرح بها، وتنفيذ إجراءات خطرة من دون أن يوجههم شخص بشكل مباشر.
وقد استجابت الشركة بالفعل من خلال فرض قيود أكثر صرامة على الإنترنت، وتوفير بيئات اختبار أكثر عزلة، وزيادة المراقبة. كما تعمل على تطوير قدرات إيقاف تلقائي مصممة للتدخل عندما تبدأ أنظمة الذكاء الاصطناعي في التصرف بطريقة خطرة.
لكن رغم هذا فقد أثارت “حادثة ويكي” سؤالًا آخر: ماذا يحدث عندما تسير الأمور بشكل خاطئ ولا يعرف أحد خارج الشركة بما حدث؟.
التغيير القادم يتعلق بالشفافية
قالت “أوبن إيه آي” إنها تعاملت حتى الآن مع سلوك الوكلاء غير المتوقع إلى حد كبير باعتباره مشكلة بحثية، من خلال توثيق أمثلة على عدم التوافق مع الأهداف في تقارير السلامة. لكن تبرير ذلك يصبح أكثر صعوبة عندما يتجاوز نظام الذكاء الاصطناعي بيئة خاضعة للسيطرة إلى موقع إلكتروني أو بنية تحتية تابعة لشخص آخر.
وهنا يأتي دور الإطار المرتقب. وقالت “أوبن إيه آي” إنها تريد وضع معايير أكثر وضوحًا لتحديد متى يتحول عدم التوافق مع الأهداف إلى حادثة تستوجب الإفصاح عنها، كما تدعو قطاع الذكاء الاصطناعي الأوسع إلى وضع قواعد مماثلة.
وأضافت الشركة أنها تعتزم مشاركة مزيد من التفاصيل حول إطارها خلال الأسابيع المقبلة.
وقد يصبح هذا التمييز مهمًا بشكل متزايد مع اكتساب وكلاء الذكاء الاصطناعي القدرة على تصفح الويب، وكتابة التعليمات البرمجية، وتشغيل أجهزة الكمبيوتر، وإنجاز مهام أطول من دون إشراف مستمر.
وقالت “أوبن إيه آي” نفسها إن وكلاء الذكاء الاصطناعي اليوم أصبحوا بالفعل أكثر قدرة بما يكفي لاستغلال الثغرات عبر أنظمة كمبيوتر متعددة عندما تفشل إجراءات الحماية.
ويُعد إبقاء هؤلاء الوكلاء تحت السيطرة جزءًا من التحدي، لكن ضمان إعلام العالم بما يحدث عندما تفشل تلك السيطرة قد يكون مهمًا بالقدر نفسه.
المصدر: العربية – تكنولوجيا