“أنثروبيك” تمنح 6 باحثين صلاحيات موظفيها لفحص نماذج الذكاء الاصطناعي ومخاطرها

قررت شركة أنثروبيك منح ستة باحثين من مؤسسة METR غير الربحية، المتخصصة في اختبار نماذج الذكاء الاصطناعي المتقدمة، صلاحيات وصول داخلية مماثلة لصلاحيات موظفي الشركة، بهدف تقييم نماذجها وممارسات السلامة وإجراءات إدارة المخاطر بصورة مستقلة.

وأعلنت الشركة هذه الخطوة في تدوينة نشرتها يوم الخميس، في وقت تتزايد فيه المخاوف بشأن تصرف وكلاء الذكاء الاصطناعي خارج التعليمات المحددة لهم، مع الكشف عن حوادث من هذا النوع كل أسبوع أو أسبوعين منذ أواخر أغسطس الماضي، ما عزز الدعوات إلى إخضاع شركات الذكاء الاصطناعي لرقابة مستقلة.

وقالت “أنثروبيك” في تدوينتها: “نريد أن نكون خاضعين للمساءلة أمام الجمهور عن القرارات التي نتخذها”، مضيفة أنها تسعى إلى تقليص الفجوة بين ما يعرفه المقيمون المستقلون عن أنظمة شركات الذكاء الاصطناعي المتقدمة وما تعرفه الشركات نفسها عن تلك الأنظمة.

وبموجب الترتيب الجديد، حصل فريق METR على أجهزة حاسوب محمولة توفرها “أنثروبيك”، ومساحات للعمل داخل مكاتبها، وإمكانية الوصول إلى الأدوات الداخلية، بمستوى يقارب ما تستخدمه فرق تقييم المخاطر التابعة للشركة.

وأوضحت “أنثروبيك” أنها تشجع موظفيها على مشاركة المعلومات مع الباحثين بالطريقة نفسها التي يتعاملون بها مع زميل يعمل داخل الشركة في مجال مخاطر مواءمة الذكاء الاصطناعي، أي ضمان توافق سلوك الأنظمة مع الأهداف والتعليمات المحددة لها.

وشبهت الشركة هذا الترتيب بالآليات المعمول بها في القطاع المصرفي، حيث يوفد المنظمون الماليون مراقبين مقيمين داخل أكبر البنوك لمتابعة أعمالها وتقييم المخاطر بصورة مستمرة.

تقارير مستقلة دون حق النقض من “أنثروبيك”

بموجب الاتفاق، ستنشر مؤسسة METR تقييماتها الخاصة بشأن مخاطر “أنثروبيك” والحوادث المرتبطة بأنظمتها وممارساتها التشغيلية، فيما تخلت الشركة عن حق منع نشر هذه التقارير.

وقالت “أنثروبيك” إن بإمكانها طلب حجب معلومات محددة تندرج ضمن فئات ضيقة ومحددة مسبقًا، مثل بيانات العملاء، والمعلومات المشمولة بسرية العلاقة بين المحامي وموكله، أو التفاصيل المتعلقة بالبنية المعمارية لنماذجها.

وأضافت الشركة أن METR تحتفظ بحرية التعليق علنًا على عمليات الحجب، بما في ذلك توضيح ما إذا كانت ترى أن هذه الإجراءات مبررة، شريطة عدم الكشف عن المعلومات المحجوبة نفسها.

ويمثل هذا الترتيب محاولة لمنح جهات التقييم الخارجية قدرة أكبر على فحص أنظمة الذكاء الاصطناعي من الداخل، بدلًا من الاعتماد فقط على المعلومات والاختبارات التي تختار الشركات إتاحتها لها.

ثلاثة مستويات لتقييم مخاطر الذكاء الاصطناعي

تُعد METR حتى الآن الجهة الوحيدة التي وصلت إلى المستوى الأعلى ضمن نظام تقييم من ثلاثة مستويات تعمل “أنثروبيك” على تطويره.

ويضم المستوى الأدنى جهات تقييم مثل مؤسسة SecureBio غير الربحية، المتخصصة في الأمن البيولوجي، والتي تجري مراجعات محدودة النطاق وتحتاج إلى موافقة أنثروبيك قبل نشر نتائجها.

أما المستوى المتوسط، فيمنح الجهات المقيمة إمكانية الوصول إلى معلومات أوسع، مع السماح لها بنشر نتائجها دون الحصول على موافقة مسبقة من الشركة.

وفي المستوى الأعلى، تحصل الجهات المقيمة على صلاحيات وصول داخلية مماثلة لصلاحيات الموظفين، وهو ما يتيح لها فحص الأنظمة وممارسات إدارة المخاطر بصورة أكثر تعمقًا، كما هو الحال مع METR.

خطوة ضمن دعوات إبطاء تطوير الذكاء الاصطناعي

يمثل إعلان الخميس تنفيذًا لتعهد سابق قطعه داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، في مقال نشره خلال سبتمبر الماضي، اقترح فيه دمج جهات تقييم مستقلة داخل مختبرات الذكاء الاصطناعي باعتبار ذلك خطوة أولى نحو إبطاء تطوير هذه التكنولوجيا.

وسرعان ما أعلنت شركة OpenAI التزامًا مماثلًا، فيما وقعت الشركتان، إلى جانب “غوغل” و”ميتا” و”إنفيديا” و”xAI”، اتفاقًا مع البيت الأبيض يتضمن الالتزام بإجراء مراجعات مستقلة لأنظمة الذكاء الاصطناعي.

وتأتي هذه التحركات وسط تصاعد النقاش بشأن كيفية ضمان سلامة نماذج الذكاء الاصطناعي المتقدمة، خصوصًا مع توسع قدرات الوكلاء الذكيين على تنفيذ المهام بصورة مستقلة، وما يرافق ذلك من مخاطر محتملة عندما تتجاوز هذه الأنظمة التعليمات أو الحدود التي وضعها مطوروها.

المصدر: العربية – تكنولوجيا