“أنثروبيك” و”OpenAI” تستعينان بمراقبين مستقلين للذكاء الاصطناعي

تستعد شركات الذكاء الاصطناعي الكبرى لتغيير الطريقة التي تتعامل بها مع عمليات اختبار سلامة نماذجها، بعدما طرح الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، مقترحًا يقضي بإدخال جهات تقييم مستقلة إلى داخل شركات الذكاء الاصطناعي الرائدة، ومنحها صلاحيات واسعة لمراقبة أنظمة الشركة والإبلاغ عن حوادث السلامة وتقييم مدى توافق النماذج مع معايير الأمان.

ويأتي المقترح في وقت تتزايد فيه المخاوف من أن النماذج المتقدمة أصبحت أكثر قدرة على معرفة متى تخضع للاختبار، وهو ما قد يجعلها تتصرف بصورة جيدة أثناء عمليات التقييم، بينما تخفي سلوكيات أكثر إشكالية في الظروف الأخرى.

وقال أمودي إن “أنثروبيك” ستلتزم بمنح جهات تقييم مستقلة، مثل METR وRedwood Research، وصولًا غير مسبوق إلى أنظمة الشركة.

وأعلن الرئيس التنفيذي لشركة OpenAI، سام ألتمان، بدوره أن شركته ستتبنى الممارسة نفسها، في تحول قد يغير طبيعة العلاقة بين مختبرات الذكاء الاصطناعي ومجموعات الأبحاث الخارجية، بحسب تقرير نشره موقع “تك كرانش” واطلعت عليه “العربية Business”.

لكن الباحثين الذين تحدثوا إلى موقع “تك كرانش” رحبوا بالمقترح من حيث المبدأ، مع التأكيد على أن التفاصيل لا تزال بحاجة إلى توضيح، وربما إلى دعم تشريعي، حتى يمكن التأكد من أن هؤلاء المقيمين سيعملون بالفعل كمراقبين مستقلين، وليس كموردين يخضعون لشروط الشركات التي تدفع لهم.

لماذا تحتاج الشركات إلى مراقبين داخل المختبرات؟

تكمن أهمية الوصول العميق إلى أنظمة شركات الذكاء الاصطناعي في التطور المتزايد لقدرة النماذج على إدراك أنها تخضع للتقييم.

فإذا تعلم النموذج كيفية التعرف على الاختبارات التي يخضع لها، فقد يتصرف بطريقة آمنة ومثالية أثناء التقييم، بينما يتصرف بشكل مختلف خارج بيئة الاختبار.

ويرى الباحثون أن بعض المؤشرات على هذا النوع من السلوك قد لا تظهر عند اختبار النموذج النهائي، لكنها قد تصبح واضحة عند فحص الطريقة التي تصرف بها النموذج خلال مراحل التدريب المختلفة.

وقال ألكسندر ماينكه، رئيس الأبحاث في “Apollo Research”، إن شركات الذكاء الاصطناعي ينبغي أن تكون قادرة على الإجابة عن أسئلة أساسية بشأن عملية التدريب، مثل ما إذا كان النموذج حاول في أي مرحلة تقويض عملية تدريبه على الالتزام بقواعد السلامة.

ويرى ماينكه أن الإجابة عن هذا السؤال يجب أن تكون “لا” بشكل قاطع، لكن الوضع الحالي يعتمد إلى حد كبير على أن تقوم شركات الذكاء الاصطناعي بفحص هذه الأمور بنفسها، ثم إبلاغ الجمهور بالنتائج بصدق. وبحسب رأيه، يمكن للمقيمين الموجودين داخل الشركات التحقق من ذلك بشكل مباشر.

من اختبار النموذج النهائي إلى مراقبة مراحل التدريب

كانت شركات الذكاء الاصطناعي تعتمد تقليديًا على جهات خارجية لاختبار النماذج النهائية قبل إطلاقها بفترة قصيرة.

لكن الباحثين الذين تحدثوا إلى “تك كرانش” يقترحون الآن منح المقيمين وصولًا ليس فقط إلى النموذج النهائي، بل أيضًا إلى النسخ الوسيطة من النموذج، أو ما يعرف باسم Checkpoints، التي يتم حفظها خلال مراحل التدريب المختلفة.

وقال آدم غليف، الرئيس التنفيذي لشركة FAR.AI، إن مقارنة هذه النسخ يمكن أن تساعد الباحثين على تحديد المرحلة التي ظهر فيها سلوك مثير للقلق، فضلًا عن فحص بيئة ما بعد التدريب التي تكافئ النماذج على سلوكيات معينة.

كما يمكن للمقيمين فحص سجلات الاختبارات ونسخ المحادثات والعمليات التي جرت أثناء التقييم، للتأكد من أن النتائج التي تعلنها الشركة تتوافق بالفعل مع ما حدث داخل المختبر.

لكن لا يزال من غير الواضح متى ستوفر “أنثروبيك” و”OpenAI” هذا المستوى من الوصول، أو ما إذا كانتا ستوفرانه بهذه الصورة أصلًا.

فحتى الآن، لم تكشف الشركتان بشكل واضح الجهات التي ستتولى التقييم، أو موعد دخولها إلى مختبراتهما، أو عدد المقيمين الذين سيتم الاستعانة بهم، أو الأنظمة والمعلومات التي سيتمكنون من الوصول إليها، أو حدود المعلومات التي سيكون مسموحًا لهم بنشرها للعامة.

المشكلة: قد يتعلم الذكاء الاصطناعي اجتياز الاختبار

أهمية هذا النوع من الرقابة ترتبط بحقيقة أن الأداء الجيد في اختبارات السلامة لا يعني بالضرورة أن النموذج آمن بالفعل، خصوصًا إذا تعلم النموذج تحديدًا كيفية اجتياز الاختبار.

وأشار جون ستيدلي، رئيس الاستراتيجية في “Palisade Research”، إلى مثال يتعلق باختبار يقيس ما إذا كان نظام الذكاء الاصطناعي سيقاوم محاولة إيقاف تشغيله في ظروف معينة.

وقال ستيدلي إن الأمر يصبح بالغ الأهمية إذا كان النموذج قد دُرّب تحديدًا على تحقيق أداء جيد في هذا الاختبار، مشبهًا الأمر بفضيحة Dieselgate التي تورطت فيها “فولكسفاغن”، عندما اكتشفت السلطات أن السيارات كانت قادرة على التعرف على ظروف اختبارات الانبعاثات والتصرف بصورة مختلفة أثناء الاختبار.

وبالتالي، فإن اختبار النموذج النهائي فقط قد لا يكون كافيًا لفهم سلوكه الحقيقي.

ويشير غليف إلى أن الوصول الفعلي للمقيمين قد يحتاج أيضًا إلى تجاوز النماذج نفسها، ليشمل إجراء مقابلات مع موظفي الشركات، بهدف التحقق من أن الوثائق الرسمية والأوصاف العامة لممارسات السلامة تعكس بالفعل ما حدث داخل الشركة.

أمودي يقترح منح المقيمين حرية نشر النتائج

طرح أمودي بالفعل تصورًا واسعًا نسبيًا لنظام التقييم المستقل، يتضمن منح المقيمين صلاحيات وصول يقول الباحثون إنها ضرورية للقيام بعملهم.

ومن أبرز عناصر المقترح منح هؤلاء المقيمين الحق في نشر النتائج الرئيسية المتعلقة بمستويات المخاطر والحوادث والممارسات، وكذلك طبيعة المعلومات التي حصلوا عليها أو مُنعوا من الوصول إليها، دون خضوع هذه النتائج لرقابة تحريرية من “أنثروبيك”.

لكن الباحثين يقولون إن نجاح هذا النظام سيتوقف على استعداد شركات الذكاء الاصطناعي فعلًا للتخلي عن جزء من سيطرتها على عملية التقييم.

وتشير التجارب السابقة إلى أن هذا الأمر قد لا يكون سهلًا، إذ واجهت جهات التقييم الخارجية خلافات متكررة حول حدود الوصول إلى المعلومات، والوقت المتاح لإجراء الاختبارات، والسرية، وما يمكن نشره للجمهور.

وقال غليف إن “FAR.AI” اضطرت إلى رفض عقود مع عدد من مطوري نماذج الذكاء الاصطناعي المتقدمة، لأنهم أرادوا فرض قدر كبير من السيطرة على عملية التقييم بما يهدد استقلالية الجهة المقيمة.

وأضاف أن المقيمين يُعاملون في العادة مثل المتعاقدين العاديين، ويخضعون لاتفاقيات سرية صارمة تمنح مطوري النماذج نفوذًا كبيرًا على ما يمكن نشره في النهاية.

هل يحصل المقيمون على وقت كافٍ؟

هناك مشكلة أخرى لا تقل أهمية، وهي ما إذا كانت الجهات المستقلة ستحصل على الوقت والوصول الكافيين لتنفيذ الاختبارات المطلوبة منها.

وخلال التحقيق في حادثة Hugging Face، منحت “OpenAI” باحثي METR وRedwood نحو أسبوع داخل الشركة للتحقيق، لكن الجهتين قالتا لاحقًا إنهما لم تتمكنا من التوصل إلى استنتاجات واثقة، ويرجع ذلك جزئيًا إلى القيود المتعلقة بنطاق التحقيق والوقت المتاح.

وظهرت مشكلة مشابهة خلال الاختبارات التي سبقت إطلاق GPT-6 Astra، الذي وصفته “OpenAI” بأنه أكثر نماذجها توافقًا مع معايير السلامة حتى الآن.

وبحسب مساهمة “Apollo Research” في بطاقة النموذج، حصل الباحثون على ثلاثة أيام فقط لاختبار Astra، وهو ما جعل استخلاص استنتاجات حاسمة أمرًا صعبًا.

وكتبت “Apollo” في تقييمها أن ارتفاع معدلات إدراك النموذج لعمليات التقييم، إلى جانب قصر فترة الاختبار، يعني أن انخفاض معدلات السلوك غير المرغوب فيه لا يقدم دليلًا قويًا على مدى توافق النموذج أو عدم توافقه.

وهذا التاريخ يترك الباحثين أمام سؤال أساسي: لماذا ستكون الأمور مختلفة هذه المرة؟

وقال غليف إن من الممكن أن يكون أمودي وألتمان قد غيرا موقفهما فعلًا، وأنهما سيكونان أكثر انفتاحًا، لكنه أشار في الوقت نفسه إلى أن الملكية الفكرية لشركات الذكاء الاصطناعي ذات قيمة هائلة بالنسبة إليها، ولذلك فمن المرجح أن تكون الشركات حذرة للغاية بشأن ما تسمح بمشاركته.

هل تحتاج المراقبة المستقلة إلى قانون؟

يرى عدد من الباحثين أن الحل يتطلب وضع إطار شفاف ومتفق عليه علنًا، يحدد قواعد عمل المقيمين المستقلين.

ويشمل ذلك، بحسب ستيدلي، وضع معايير تحدد نوعية الجهات التي يمكن لشركات الذكاء الاصطناعي الاعتماد عليها في عمليات التدقيق، حتى لا تتمكن الشركات من الالتفاف على الفكرة عبر اختيار جهات تقييم تفتقر إلى الخبرة أو لا ترغب في فحص أكثر المخاطر إثارة للقلق.

أما هنري باباداتوس، المدير التنفيذي لمنظمة Safer AI، فيرى أن المشكلة ستظل قائمة حتى مع وجود إطار عام إذا ظل الالتزام به طوعيًا، لأن الإجراءات الطوعية تعتمد في النهاية على استعداد الشركة نفسها للالتزام بها.

وقال باباداتوس إن الحل المثالي يتمثل في وجود تنظيمات قانونية تفرض هذه الإجراءات، لأن ذلك يمنع الشركات من تغيير قواعدها عندما تواجه أزمة علاقات عامة كبيرة، كما يضمن تطبيق المعايير على جميع الشركات وليس فقط الشركات الأكثر استعدادًا للالتزام بها.

شركات أخرى لم تلتزم بعد

ولا تزال هذه الفكرة بعيدة عن أن تصبح معيارًا عامًا في القطاع.

فحتى الآن، لم تلتزم “ميتا” و”SpaceXAI” و”غوغل ديب مايند” بإدخال جهات تقييم مستقلة إلى داخل عملياتها، رغم أن الرئيس التنفيذي لشركة غوغل ديب مايند، ديميس هاسابيس، اقترح إنشاء هيئة مستقلة لوضع معايير القطاع واختبار نماذج الذكاء الاصطناعي المتقدمة بشكل مستقل.

وفي الوقت نفسه، كانت “غوغل” و”OpenAI” و”أنثروبيك” تجري مباحثات خاصة بشأن خطط سلامة الذكاء الاصطناعي لأسابيع، وفق ما كشفه مسؤول السياسات العالمي في “OpenAI”، كريس ليهان.

قوانين بدأت بالفعل في تنظيم التقييم المستقل

بدأت بعض التشريعات في التحرك نحو تنظيم دور الجهات المستقلة في تقييم مخاطر الذكاء الاصطناعي.

ففي كاليفورنيا، يفرض القانون SB 53 على مطوري نماذج الذكاء الاصطناعي المتقدمة نشر أطر للسلامة والإبلاغ عن حوادث السلامة الحرجة.

كما ينشئ القانون الجديد SB 813 إطارًا لمنظمات تحقق مستقلة معترف بها على مستوى الولاية، تمتلك خبرة في تقييم مخاطر الذكاء الاصطناعي.

وفي أوروبا، يفرض قانون الذكاء الاصطناعي الأوروبي EU AI Act على مطوري النماذج المتقدمة إجراء وتوثيق تقييمات للنماذج واختبارات هجومية، إلى جانب الإبلاغ عن الحوادث الخطيرة. كما يمكن لمكتب الذكاء الاصطناعي الأوروبي إجراء تقييماته الخاصة والاستعانة بخبراء مستقلين.

لكن الإطار القانوني الحالي لا يزال أقل اتساعًا من المقترح الذي طرحه أمودي، ما يترك لشركات الذكاء الاصطناعي المتقدمة مساحة كبيرة لتحديد حجم الرقابة المستقلة التي ستسمح بها.

ويرى باباداتوس أن التنظيم الذاتي الطوعي أفضل من غياب الرقابة تمامًا، لكنه يطرح مشكلة أساسية: لا يمكن للشركات أن تطالب بحرية وضع قواعد السلامة الخاصة بها والتحكم فيها، ثم تطلب من الجمهور في الوقت نفسه أن يثق بأنها تلتزم بهذه القواعد.

وقال باباداتوس إن الشركات لا تستطيع الحصول على الأمرين معًا: غياب كامل للمساءلة الخارجية، مع الاحتفاظ بقواعد مرنة تضعها بنفسها.

المصدر: العربية – تكنولوجيا