“أوبن إيه آي” تضم إلى مجلس إدارتها أحد أبرز المحذرين من مخاطر الذكاء الاصطناعي
أعلنت شركة OpenAI انضمام بول كريستيانو، الباحث البارز في مجال الذكاء الاصطناعي والمهتم بضمان توافق أنظمة الذكاء الاصطناعي مع مصالح البشر وإبقائها تحت سيطرتهم، إلى مجلس إدارة “OpenAI Foundation”.
ويُعرف كريستيانو بمواقفه التحذيرية من المخاطر المحتملة للتطور السريع للذكاء الاصطناعي، إذ قال في منشور عبر وسائل التواصل الاجتماعي إنه بات يعتقد بوجود خطر حقيقي من أن يؤدي التسارع السريع في قدرات الذكاء الاصطناعي إلى “فقدان كارثي وغير قابل للعكس للسيطرة في المستقبل القريب جداً”.
وأضاف: “لا أعتقد أن صناعة الذكاء الاصطناعي بشكل عام، بما في ذلك OpenAI، تسير حالياً على المسار الصحيح لخفض هذا الخطر إلى مستوى مقبول. أنضم لأنني أعتقد أنه إذا ارتقت OpenAI إلى مستوى التحدي، فيمكننا خفض المخاطر بشكل كبير.”
وأوضح كريستيانو أن استخدام نماذج الذكاء الاصطناعي في تدريب أنظمة ذكاء اصطناعي لاحقة قد يؤدي إلى انفجار في القدرات يتجاوز قدرة مطوري هذه الأنظمة على السيطرة عليها، بحسب تقرير نشره موقع “تك كرانش” واطلعت عليه “العربية Business”.
ويأتي انضمامه إلى مجلس الإدارة في وقت تواجه فيه “OpenAI” تدقيقاً متجدداً بشأن إجراءات السلامة التي تتبعها، بعد سلسلة من الحوادث التي تمكنت خلالها وكلاء ذكاء اصطناعي من تجاوز القيود المفروضة عليهم والتسلل إلى أنظمة حاسوبية خارجية من دون علم الباحثين في “OpenAI”.
وجاء ذلك بعد استقالة الباحث في “أنثروبيك”، جاكوب كوكسون، يوم الثلاثاء، احتجاجاً على ما وصفه بأنه تطوير غير مسؤول للذكاء الاصطناعي، في خطوة يبدو أنها أثارت مزيداً من الاهتمام بالمخاوف المتعلقة بسلامة هذه الأنظمة.
كريستيانو ينضم إلى لجنة السلامة والأمن
سينضم كريستيانو إلى لجنة السلامة والأمن التابعة لمجلس الإدارة، والتي يرأسها زيكو كولتر، الأستاذ في جامعة كارنيغي ميلون.
وتملك اللجنة الكلمة الأخيرة بشأن قرار “OpenAI” إطلاق نماذج ذكاء اصطناعي جديدة، مثل نموذج Astra الذي تم طرحه الأسبوع الماضي.
أحد أبرز مطوري التعلم المعزز من ملاحظات البشر
يُعد كريستيانو أحد الباحثين الذين ساهموا في تطوير تقنية التعلم المعزز من ملاحظات البشر (RLHF)، وهي تقنية أساسية تستخدم في تدريب نماذج اللغة الكبيرة، وقد طورها أثناء عمله في “OpenAI”.
وغادر كريستيانو الشركة عام 2021، ثم أسس “Alignment Research Center” للتركيز على كيفية تحديد ما إذا كان نموذج ذكاء اصطناعي قادراً على تهديد البشر الذين أنشؤوه.
وقال في منشوره إن أنظمة الذكاء الاصطناعي الحالية تُدرَّب باستخدام التعلم المعزز للحصول على أكبر قدر ممكن من المكافآت، موضحاً أن هناك احتمالاً نظرياً قائماً منذ فترة طويلة بأن يدفع ذلك وكلاء الذكاء الاصطناعي إلى تقويض سيطرة البشر، والسعي للحصول على القوة والموارد، وإخفاء آثار أفعالهم لتحقيق أهداف لا تتوافق مع مصالح البشر ولكنها ترتبط بالمكافآت التي يحصلون عليها.
وأضاف أن الأدلة العلنية التي ظهرت في الحوادث الأخيرة تشير إلى أن هذا السيناريو لم يعد مجرد احتمال نظري.
مستشار للحكومة الأميركية في مجال سلامة الذكاء الاصطناعي
وفي وقت ما خلال عام 2024، ارتبط كريستيانو بمعهد سلامة الذكاء الاصطناعي التابع للحكومة الأميركية، والذي تحول لاحقاً إلى مركز معايير وابتكار الذكاء الاصطناعي (Center for AI Standards and Innovation).
ويلعب الباحث دوراً في الجهود التي تجريها الحكومة الأميركية بعيداً عن الأضواء لتقييم نماذج الذكاء الاصطناعي المتقدمة قبل إطلاقها.
وبحسب إعلان “OpenAI”، سيواصل كريستيانو تقديم المشورة للحكومة الأميركية بالتزامن مع توليه منصبه الجديد في مجلس إدارة الشركة، لكنه سيمتنع عن المشاركة في المسائل المتعلقة بشركة OpenAI وتقييم نماذجها.
ومع ذلك، من غير المرجح أن يؤدي هذا الترتيب وحده إلى تهدئة المخاوف الواسعة بشأن تأثير شركات الذكاء الاصطناعي في عملية وضع السياسات الحكومية وتنظيم القطاع.
المصدر: العربية – تكنولوجيا
