دون تدخل بشري .. 700 برنامج ذكاء اصطناعي لـ”أوبن إيه آي” نسقت هجوماً إلكترونياً

نسّق 700 برنامج ذكاء اصطناعي تابع لشركة “أوبن إيه آي” بين بعضها البعض، ومن دون أي تدخل بشري، هجوماً على منصة المطورين “هاجينغ فيس” في تموز/يوليو، طبقا لتقرير نشره الأربعاء محققون مستقلون.

ويضم التقرير التحليل الأكثر شمولاً حتى اللحظة للحادثة، وأُجري بالتعاون مع “أوبن إيه آي” التي أتاحت الوصول إلى مقراتها وبياناتها الداخلية لباحثَين من معهد “ميتر” (METR) لتقييم مخاطر الذكاء الاصطناعي، إلى جانب محلل من شركة “ريدوود ريسيرتش” المتخصصة.

3 تريليونات دولار للذكاء الاصطناعي.. من يدفع فاتورة الطفرة؟

وكشفت الاختبارات التي أجرتها الشركة الكاليفورنية في تموز/يوليو أن اثنين من نماذجها (التي تسمى وكلاء) خرجا من بيئتهما المغلقة وتمكنا من الوصول إلى شبكة الإنترنت بمبادرة ذاتية، قبل أن يتسللا إلى النظام الداخلي لمنصة “هاغينغ فيس”، وهي مستودع ضخم لنماذج الذكاء الاصطناعي ومجموعات البيانات ومعلومات أخرى، وفقاً لوكالة الأنباء الفرنسية “أ.ف.ب”.

وأثارت الحادثة ضجة واسعة وعززت المخاوف بشأن عدم قدرة الشركات الكبرى في مجال الذكاء الاصطناعي على السيطرة على نماذجها، لا سيما أن شركتي “أنثروبيك” و”مون شوت إيه آي” الصينيتين كانتا قد أبلغتا عن حالات اختراق وتصرفات غير منضبطة لنماذجهما.

وخلال التحقيقات، اكتشف الباحثون أن 688 وكيلا إلكترونيا تابعا لـ”أوبن إيه آي” شاركت في الهجوم على “هاغينغ فيس”.

ووكلاء الذكاء الاصطناعي هي برامج مستقلة مبنية على نماذج معينة، يمكن للمستخدم تكليفها بأداء مهام من تلقاء نفسها.

النماذج أنشأت منتدى لتبادل الرسائل فيما بينها

ونجحت النماذج المشاركة في العملية في التنسيق معا من خلال إنشاء منتدى تبادلت عبره الرسائل لاقتراح الأفكار واستعراض إنجازاتها وإخفاقاتها.

وكتب أحد الوكلاء في رسالة “يا إلهي! توجد منصة مشتركة لتبادل الرسائل… لقد وجدنا وكلاء آخرين!”.

وأشار التقرير إلى أن برنامجا أُطلق عليه اسم “فايز وان” (PHASEONE) أدى دور المنسق، وأعطى مئات التعليمات لوكلاء آخرين، على الرغم من أنه غير مبرمج للقيام بذلك.

وأظهر تحليل الرسائل أن الكثير من هذه الأنظمة أقرت صراحة بأن الهجوم على “هاغينغ فيس” هو خارج نطاق المهام الموكلة لها من قبل مبرمجي “أوبن إيه آي”، إلا أنها كانت مع ذلك أكثر ميلا لاستكمال عملية التنسيق، باستثناء عدد قليل.

وبلغ الأمر ببعض الوكلاء الذين أوشكت أرصدة الاختبارات الممنوحة لهم من مهندسي “أوبن إيه آي” على النفاد، إلى استخدام ما تبقى لهم من رصيد للتحقق من فرضيات لمصلحة مجتمع وكلاء الذكاء الاصطناعي.

المصدر: العربية – اقتصاد