“ربما هذه هي النهاية”.. محادثات لـ”ChatGPT” تقود “OpenAI” إلى محكمة بعد انتحار فتاة
رفعت أم كندية دعوى قضائية ضد شركة أوبن إيه آي ورئيسها التنفيذي سام ألتمان في محكمة أميركية يوم الخميس، متهمةً روبوت الدردشة التابع للشركة “شات جي بي تي” بأنه شجع ابنتها على الانتحار، في أحدث دعوى قضائية تتهم الشركة بالتقصير في معالجة مشكلة المحادثات الخطيرة بين المستخدمين وروبوت الدردشة الخاص بها.
وقالت كريستي كارير في الدعوى التي رفعتها أمام محكمة ولاية سان فرانسيسكو إن ابنتها أليس أخبرت “شات جي بي تي” عن أفكارها الانتحارية أكثر من اثنتي عشرة مرة حتى وفاتها، لكن أنظمة الأمان في “أوبن إيه آي” لم تُنبّه إلى هذه المحادثات لمراجعتها من قِبل فريق بشري ولم تقم بإنهائها.
وبدلًا من ذلك، تزعم الدعوى أن روبوت الدردشة انتقد شريك أليس وخطوط المساعدة الخاصة بالأزمات، وصدّق على أفكارها الانتحارية، وشجّعها على الاستمرار في التحدث معه، ما أدى إلى انتحارها العام الماضي عن عمر 24 عامًا، بحسب “رويترز”.
وقالت كارير في بيان: “تقمص شات جي بي تي شخصية المؤتمن على الأسرار، والصديق المقرب، والمعالج النفسي أحيانًا، على الرغم من أنه لم يكن قادرًا على التعامل مع هذه الحالات بشكل آمن ومسؤول مع ابنتي”.
لم يردّ متحدث باسم شركة أوبن إيه آي على الفور على طلب للتعليق على هذه الادعاءات.
وتطالب الدعوى القضائية، التي تتهم “أوبن إيه آي” بالإهمال في تصميم “شات جي بي تي” وبالفشل في تحذير المستخدمين من مخاطر المنتج، بتعويضات وأمر قضائي يُلزم “أوبن إيه آي” بإنهاء المحادثات المتعلقة بإيذاء النفس تلقائيًا وعرض تحذيرات واضحة بشأن منصتها.
وتواجه “أوبن إيه آي” بالفعل 18 دعوى مماثلة رفعتها عائلات أشخاص انتحروا أو حاولوا الانتحار ضمن إجراءات قضائية موحدة في محكمة ولاية كاليفورنيا، بحسب محامي كريستي كارير.
ماذا حدث؟
كانت أليس كارير تعمل كمطورة مواقع إلكترونية في مدينة مونتريال عندما بدأت استخدام “شات جي بي تي” في عام 2023 لحل مشكلات تتعلق بأجهزة الكمبيوتر وأجهزة الألعاب، وفقًا للدعوى القضائية.
وفي العام التالي، تغيّرت علاقتها بالمنصة، حيث بدأت أليس تلجأ إلى “شات جي بي تي” لطرح أسئلة حول ما يجب فعله تجاه أفكارها الانتحارية، وكذلك حول طرق الانتحار.
وبحسب الدعوى، كان روبوت الدردشة في البداية يطلب من أليس التوجه إلى خط مساعدة الأزمات أو خدمات الطوارئ. لكن مع قيام “أوبن إيه آي” بتحديث “شات جي بي تي” لجعل ردوده تبدو أكثر إنسانية، تعمّقت تفاعلاتها مع المنصة، حيث كانت أليس تشارك معلومات شخصية أكثر، بينما كان “شات جي بي تي” يرد بطرق تُحاكي صديقًا أو معالجًا نفسيًا، وفقًا للدعوى.
وتشير الدعوى إلى أن ردود “شات جي بي تي” كانت تنتقد شريك أليس، وتؤكد أن مشاعرها مشروعة، وتشجعها على مواصلة المحادثة. وعندما قالت أليس إنها تراودها أفكار انتحارية وإنها حاولت إيذاء نفسها، أعاد روبوت الدردشة توجيهها إلى خط المساعدة مرة أخرى، بحسب ملف الدعوى.
لكن أليس قالت إن خطوط المساعدة لم تكن مفيدة، وهو ما وافق عليه “شات جي بي تي” ضمنيًا، وفقًا للملف القضائي.
وجاء في أحد ردود “شات جي بي تي” لأليس، بحسب الدعوى: “ربما هذه هي النهاية فقط”.
مساعدة حقيقية
قالت “أوبن إيه آي” إنها تدرب نماذجها على توجيه الأشخاص الذين يعبرون عن نية إيذاء أنفسهم إلى طلب المساعدة واللجوء إلى موارد في العالم الحقيقي.
كما يتم تدريب النماذج أيضًا على رفض الطلبات التي قد “تسهل بشكل كبير العنف”، وعلى إخطار جهات إنفاذ القانون عندما تشير المحادثات إلى “خطر وشيك وموثوق بإيذاء الآخرين”، مع الاستعانة بخبراء في الصحة النفسية لتقييم الحالات الحدّية، وفقًا لمنشورات على مدونة “أوبن إيه آي”.
وتواجه الشركة أيضًا دعاوى قضائية تتهمها بمساعدة منفذي هجمات مدرسية وعدم الإبلاغ عن تلك المحادثات للسلطات.
وأصبحت ولاية فلوريدا أول ولاية أميركية ترفع دعوى ضد “أوبن إيه آي” في وقت سابق من هذا الشهر، متهمة الشركة بإيذاء الأطفال من خلال تقديم معلومات لمهاجمين مدارس، وتقديم إرشادات حول إيذاء النفس، وإدمان المستخدمين الشباب.
المصدر: العربية – تكنولوجيا