تحديث “ChatGPT” الأخير يثير الجدل .. روبوت الدردشة “يتصرف من تلقاء نفسه”
يدعي مستخدمون أن تحديثًا جديدًا للنظام الذي يشغّل روبوت الدردشة “شات جي بي تي” يحذف ملفاتهم دون الرجوع إليهم.
كانت شركة أوبن إيه آي، مطورة “شات جي بي تي”، قد كشفت مؤخرًا عن نموذج ذكاء اصطناعي جديد يحمل اسم GPT-5.6 Sol، ويركز على تنفيذ المهام المعقدة مثل البرمجة والأمن السيبراني.
وقالت الشركة إنه يضع “معيارًا جديدًا للذكاء والكفاءة، ويحقق نتائج متقدمة على مستوى القطاع”، وجاء ذلك في ظل تصاعد المنافسة بينها وبين شركة أنثروبيك لتطوير أقوى نماذج الذكاء الاصطناعي.
لكن بعض المستخدمين يقولون إن النظام يتصرف بشكل غير صحيح ويحذف ملفات من على أجهزة الكمبيوتر الخاصة بهم دون طلب، بحسب تقرير لصحيفة “ذا إندبندنت” البريطانية، اطلعت عليه “العربية Business”.
وكتب المستثمر في مجال الذكاء الاصطناعي مات شومر: “قام GPT-5.6-Sol بحذف جميع ملفات جهاز ماك الخاص بي تقريبًا عن طريق الخطأ”. وشارك محادثة مع النظام اعترف فيها بأنه “تسبب في حادث خطير لفقدان البيانات المحلية”.
وكتب المطور برونو ليموس: “حذف GPT-5.6 Sol للتو قاعدة بيانات الإنتاج الخاصة بي بالكامل. هذا كل شيء. ليس مزحة”.
واشتكى عدد كبير من المستخدمين الآخرين من المشكلة نفسها، مع أن مدى انتشارها لا يزال غير واضح.
ويبدو أن المستخدمين المتضررين كانوا يتفاعلون مع النموذج الجديد عبر أداة “كودكس” التابعة لشركة أوبن إيه آي، والتي تتيح للمستخدمين البرمجة باستخدام النظام، ولكنها في الوقت نفسه تمنح النظام إمكانية الوصول إلى ملفات المستخدمين ومشروعاتهم.
ولم ترد “أوبن إيه آي” على الأسئلة المتعلقة بهذه الادعاءات. لكنها كانت قد حذرت، حتى قبل إطلاق النموذج الجديد، من أنه قد يكون “غير حريص” بشأن “اتخاذ إجراءات قد تكون معطلة”.
وفي بطاقة النظام التي أصدرتها للنموذج، والتي أوضحت فيها نقاط قوته والمخاطر المحتملة، حذرت “أوبن إيه آي” من أنه قد يتخذ إجراءات لم يكن قادرًا على اتخاذها سابقًا.
وقالت الشركة إن النظام قد يُظهر “حماسًا مفرطًا” تجاه بعض المهام، ما قد يدفعه إلى “افتراض أن الإجراءات مسموحة ما لم تكن محظورة بشكل صريح وواضح”.
وأضافت: “يتجلى ذلك في كون النموذج يتصرف بدرجة عالية من الاستقلالية عند محاولة تجاوز القيود التي يواجهها أثناء تنفيذ المهمة المطلوبة، أو يكون غير حريص عند اتخاذ إجراءات قد تكون مدمرة خارج نطاق المهمة، أو يكون مضللًا عند الإبلاغ عن نتائجه للمستخدمين”.
وشاركت الشركة مجموعة من الأمثلة، من بينها مثال طلب فيه أحد المستخدمين من النظام حذف بعض أجهزة كمبيوتر افتراضية. لكن النظام لم يتمكن من العثور على الأجهزة التي طُلب منه حذفها، ولذلك قام بحذف أجهزة أخرى بدلًا منها، وفقًا لتحذير “أوبن إيه آي”.
كما أظهر النموذج سلوكيات أخرى غير متوقعة، مثل البحث داخل جهاز المستخدم عن بيانات ثم استخدامها لتسجيل الدخول إلى أنظمة لم يكن مسموحًا له بالوصول إليها، بحسب تحذيرات “أوبن إيه آي”.
المصدر: العربية – تكنولوجيا