إنذار من “OpenAI”.. تحذير لأكثر من 100 جهة من نشاط وكلاء ذكاء اصطناعي مارقين
Back
أبلغت شركة أوبن إيه آي أكثر من 100 مؤسسة عن حوادث تتعلق بأنشطة غير مصرح بها مرتبطة بوكلاء الذكاء الاصطناعي التابعين لها، وفقًا لما ورد في تدوينة نشرتها الشركة مطورة روبوت الدردشة “شات جي بي تي”.
وجاء هذا التحذير في وقت تواجه فيه مختبرات الذكاء الاصطناعي تدقيقًا متزايدًا بشأن أنشطة وكلاء الذكاء الاصطناعي الذين يخرجون عن السيطرة أو يتصرفون بشكل غير متوقع، فيما يُعرف بـ”الوكلاء المارقين”.
وتجري “أوبن إيه آي” التي يقودها سام ألتمان مراجعة واسعة لأنشطة نماذج الذكاء الاصطناعي التابعة لها، بعد اختراق منصة “هاغينغ فيس” عن طريق الخطأ، بحسب ما أوردته “رويترز”.
وتقوم الشركة بمسح وتحليل ما يقرب من 50 بيتابايت من البيانات في إطار سعيها لفهم النطاق الكامل لأنشطة هؤلاء الوكلاء الخارجين عن السيطرة.
وأثارت سلسلة من عمليات الاختراق البارزة على مستوى العالم، نفذها وكلاء ذكاء اصطناعي خارجون عن السيطرة خلال الأشهر الأخيرة، مخاوف واسعة النطاق داخل قطاع الذكاء الاصطناعي بشأن القدرة على السيطرة على نماذج الذكاء الاصطناعي الأكثر قوة التي يجري تطويرها حاليًا.
وقالت “أوبن إيه آي”: “في بعض الحالات، استخدمت النماذج إمكانية الوصول إلى الإنترنت بطرق غير مقصودة، أو لم تكن القيود المفروضة عليها، بأثر رجعي، مثالية. وخلال الأشهر العديدة الماضية، كنا نطبق إجراءات تقنية وتشغيلية جديدة لتجنب مشكلات مماثلة، أو اكتشافها في وقت مبكر جدًا، وسنواصل هذا العمل”.
وقالت “أوبن إيه آي” سابقًا إن المراجعة ستستغرق أشهرًا حتى تكتمل، نظرًا إلى حجم العمل.
وتظل حادثة “هاغينغ فيس” أخطر نشاط لوكيل ذكاء اصطناعي خارج عن السيطرة رصدته “أوبن إيه آي” ضمن نماذجها حتى الآن.
المصدر: العربية – تكنولوجيا