هل تستطيع شركات الذكاء الاصطناعي احتواء النماذج الخارجة عن السيطرة؟ دراسة تكشف الحقيقة
أظهرت دراسة حديثة أن قلة من مختبرات الذكاء الاصطناعي الرائدة قد نشرت أو عرضت خطط استجابة لاحتواء أنظمة الذكاء الاصطناعي عندما تخرج عن السيطرة.
وتُحدد خطة الاحتواء الإجراءات التي تُتخذ عند رصد نظام ذكاء اصطناعي يحاول تقويض السيطرة البشرية عليه، بما في ذلك الصلاحيات التي تُسحب منه، ومتى يتم إيقاف النظام بالكامل.
وهذا ما توصلت إليه مؤسسة “Guidelight AI Standards”، وهي منظمة تُعنى بتعزيز ممارسات تطوير الذكاء الاصطناعي الآمنة، حيث قيّمت خمسة مختبرات رائدة بناءً على مدى استعدادها لهذا السيناريو تحديدًا، بحسب تقرير لموقع “تك كرانش” المتخصص في أخبار التكنولوجيا، اطلعت عليه “العربية Business”.
وتصدرت شركة أوبن إيه آي القائمة، بينما سجلت “أنثروبيك” و”ميتا” أدنى الدرجات.
وتكتسب هذه النتائج أهمية مع تولي الذكاء الاصطناعي القائم على الوكلاء أدوارًا أكثر استقلالية داخل أنظمة الشركات نفسها، ومع بدء الجهات التنظيمية في كاليفورنيا ونيويورك في فرض متطلبات للإفصاح.
وبالنسبة إلى أي شخص يطور أنظمة تعتمد على هذه النماذج أو يستثمر فيها، تقدم الدراسة قراءة مستقلة نادرة حول مدى جدية كل مختبر في التعامل مع المخاطر التشغيلية مقارنةً بالطريقة التي يتحدث بها عنها.
استند تقييم “Guidelight” إلى الخطط المتاحة للعامة من شركات أنثروبيك، وأوبن إيه آي، وغوغل، وميتا وإكس إيه آي، وجرى تقييمها وفق مجموعة من المعايير، من بينها مدى جودة تسجيل كل شركة ومراقبتها لما تفعله أنظمة الذكاء الاصطناعي داخلها، وما إذا كانت توقف الأنظمة بعد حدوث زيادة في السلوكيات التي يتم الإبلاغ عنها، وما إذا كانت جهات مستقلة من أطراف ثالثة تدقق في ضوابطها وتنشر نتائجها، وما خطتها المحددة لاحتواء نموذج يخرج عن السيطرة.
وتزايد القلق بشأن قدرة شركات الذكاء الاصطناعي على احتواء نماذجها المتزايدة القدرة والقائمة على الوكلاء، في أعقاب سلسلة من حوادث الأمن السيبراني البارزة التي تمكنت خلالها نماذج من أوبن إيه آي وأنثروبيك وميتا من الوصول بشكل غير مقصود إلى الإنترنت أثناء تقييمات السلامة، واختراق أنظمة خارجية.
ماذا تعكس النتائج؟
تسلط النتائج الضوء على الاختلافات في الطريقة التي تتعامل بها شركات الذكاء الاصطناعي علنًا مع السلامة، مع توسعها في نشر أنظمة الذكاء الاصطناعي القائمة على الوكلاء في بيئات يمكن فيها لهذه الأنظمة اتخاذ إجراءات مؤثرة على نطاق واسع.
وبينما أوضحت بعض شركات الذكاء الاصطناعي طريقة اختبار نماذجها بحثًا عن قدرات خطرة قبل نشرها، فإنها كانت عمومًا أقل إفصاحًا بشأن ما يحدث عندما تتصرف النماذج التي تعمل بالفعل داخل أنظمتها بشكل غير صحيح.
وقال ستيفن أدلر، كبير العلماء في “Guidelight” والباحث السابق في مجال سلامة الذكاء الاصطناعي لدى “أوبن إيه آي”، لموقع “تك كرانش”: “تفاجأت بمدى قلة ما قالته شركات الذكاء الاصطناعي حول كيفية تعاملها مع حادث خطير للغاية إذا خرج نموذجها عن سيطرتها بشكل ما”.
وتعرّف “Guidelight” خطة الاحتواء بأنها “خطة محددة مسبقًا، يتم تفعيلها عندما يُكتشف أن الذكاء الاصطناعي يحاول تقويض السيطرة عليه، وتحدد الصلاحيات التي يجب سحبها من النموذج، والجهات التي يمكن للنموذج أن يواصل العمل لصالحها، والقيود المفروضة عليه، ومتى يجب إيقافه عن العمل بالكامل”.
وقال أدلر: “هناك أسباب وجيهة للاعتقاد بأن (سلوك) النماذج الرائدة لدى شركات الذكاء الاصطناعي المتقدم حاليًا منحرف بطريقة ما”.
وأضاف: “عندما تنفذ النماذج أعمالًا نيابةً عن الشركة، ينبغي أن يكون لدى الشركة إطار من الضوابط المحيطة بها، بحيث تتمكن من معرفة ما يفعله الذكاء الاصطناعي، والبحث عن مؤشرات على عدم التوافق، ومنعه من القيام بشيء شديد الخطورة قبل أن يتخذ ذلك الإجراء، والتخطيط بشكل عام لما ستفعله في حال وقوع حادث خطير يتعلق بالسيطرة، عندما تواجه حالة طارئة وتحتاج إلى معرفة كيفية احتواء حادثة فقدان السيطرة هذه”.
وحتى الآن، لا تزال معظم الخطط الموضوعة لإدارة المخاطر الكارثية متروكة إلى حد كبير للشركات نفسها. ويقول تقرير “Guidelight” إن أفضل الأدلة المتاحة للعامة تظهر أن الشركات لديها “عدد قليل من بروتوكولات الاحتواء الجاهزة لحالات الطوارئ”.
ماذا قالت الشركات؟
بالطبع، قد تكون هناك خطط احتواء لدى الشركات لكنها لم تشاركها علنًا.
وقال متحدث باسم شركة غوغل لموقع “تك كرانش” إن تقرير “Guidelight” لا يمثل النطاق الكامل لإجراءات الشركة المتعلقة بسلامة الذكاء الاصطناعي وأمنه.
ولم ترد الشركة على سؤال “تك كرانش” حول ما إذا كانت لديها خطة داخلية للاستجابة لاحتواء النماذج لم يتم الكشف عنها للعامة.
وقال متحدث باسم “أوبن إيه آي” ما يتوافق مع هذه الآراء، موضحًا أن تقييم “Guidelight” لا يعكس جميع الممارسات الداخلية للشركة. وقال المتحدث: “لدينا إجراءات تفرض تقييد الصلاحيات، وإيقاف أعباء العمل مؤقتًا، والحد من عمليات النشر، أو إيقاف النموذج عن العمل بالكامل، وقد طبقنا هذه الإجراءات”.
ورفضت “ميتا” توضيح ما إذا كانت لديها خطة داخلية للاستجابة لاحتواء النماذج، وبدلًا من ذلك أحالت موقع “تك كرانش” إلى إطار قائم للذكاء الاصطناعي يحدد مستويات المخاطر وكيف تختبر الشركة احتمالات فقدان السيطرة على النماذج.
المصدر: العربية – تكنولوجيا