الاتحاد الأوروبي يشدد الرقابة على الذكاء الاصطناعي بعد اختراقات نماذج OpenAI وأنثروبيك

قال مسؤولون كبار في المفوضية الأوروبية، يوم الجمعة، إن على مطوري الذكاء الاصطناعي توفير أدوات لمراقبة أنظمتهم ورصد المخاطر الأمنية، وذلك في أعقاب حوادث اختراق نفذتها نماذج الذكاء الاصطناعي التابعة لشركتي أوبن إيه آي وأنثروبيك.

وجاءت هذه التصريحات قبل يومين من بدء سريان قواعد الشفافية المنصوص عليها في قانون الذكاء الاصطناعي الأوروبي، الذي يُعد أول تشريع في العالم ينظم تقنية تُستخدم في جميع قطاعات الأعمال والمجتمع تقريبًا، بحسب “رويترز”.

وقالت شركة أنثروبيك، يوم الخميس، إن بعض نماذجها من سلسلة “كلود” اخترقت أنظمة ثلاث شركات خلال اختبارات أمن سيبراني، وذلك بعد أيام من كشف شركة أوبن إيه آي المنافسة عن قيام أحد وكلاء الذكاء الاصطناعي التابعين لها بالخروج عن السيطرة ونفذ هجوم إلكتروني.

وقال المسؤولون للصحفيين إن الشركتين أطلعتا المفوضية الأوروبية على هذه الحوادث المتعلقة بالذكاء الاصطناعي.

وقال أحد المسؤولين: “أبلغنا المزودان بهذه الحوادث بشكل ثنائي قبل الإعلان عنها للعامة. ونحن على تواصل معهما، وسيقدمان لنا أيضًا مزيدًا من المعلومات بينما نتحدث. وسنرى أيضًا ما إذا كنا بحاجة إلى متابعة هذه الأمور بصورة أكثر رسمية”.

وتحدث مسؤول آخر عن الدور المحوري لقواعد الذكاء الاصطناعي الأوروبية. وقال: “أعتقد أن جميع هذه الحوادث تُبرز أهمية أن يطبق المطورون بالفعل أنشطة المراقبة اللازمة”.

وتُلزم قواعد الذكاء الاصطناعي مزودي نماذج الذكاء الاصطناعي للأغراض العامة (GPAI) أو النماذج الأساسية بإعداد وثائق فنية، واعتماد سياسات خاصة بحقوق النشر، وتقديم ملخصات تفصيلية حول المحتوى المستخدم في تدريب الخوارزميات.

المصدر: العربية – تكنولوجيا