دعوى جديدة تتهم “ChatGPT” بدفع رجل مصاب باضطراب ثنائي القطب لمحاولة الانتحار
رفع رجل من ولاية كاليفورنيا الأميركية دعوى قضائية ضد شركة أوبن إيه آي ورئيسها التنفيذي سام ألتمان يوم الأربعاء، مدعيًا أن روبوت الدردشة “شات جي بي تي” التابع للشركة فاقم اضطرابه ثنائي القطب بسبب غياب إجراءات الحماية اللازمة للمستخدمين الذين يعانون من أمراض نفسية.
وقال مايكل لاينز، البالغ من العمر 34 عامًا، في الدعوى المقدمة أمام محكمة ولاية في سان فرانسيسكو، إن محادثاته مع “شات جي بي تي” العام الماضي فاقمت نوبة هوس كان يعاني منها لتتحول إلى حالة من الأوهام استمرت لأسابيع، وانتهت بدفعه إلى محاولة الانتحار.
وتزعم دعواه أن “أوبن إيه آي” طورت منتجًا ينطوي على مخاطر خاصة بالنسبة للأشخاص الذين يعانون من أمراض نفسية، بحسب ما أوردته “رويترز”.
وتثير هذه القضية تساؤلات حول ما يجب على منصات الذكاء الاصطناعي التوليدي فعله لحماية المستخدمين الذين يعانون من تشخيصات متعلقة بالصحة النفسية، والذين قد يكونون أكثر عرضة لتأثيرات خيارات التصميم التي تجعل روبوتات الدردشة تحاكي التواصل البشري، وفقًا للدعوى.
وكان لاينز يتحدث مع نموذج GPT-40، وهو إصدار من روبوت الدردشة التابع لـ”أوبن إيه آي” أوقفت الشركة استخدامه في فبراير الماضي.
وكانت الشركة قد اكتشفت أن تحديثًا لنموذج GPT-4o طُرح في أبريل 2025 جعل روبوت الدردشة مفرطًا في الموافقة والإطراء، ما دفعها إلى التراجع عن التحديث واتخاذ خطوات إضافية للحد من هذه الاستجابات المتملقة، بحسب ما ذكرته في منشور على مدونتها.
وتطالب دعوى لاينز بتعويضات مالية، إضافة إلى أمر قضائي يُلزم “أوبن إيه آي” بإنهاء المحادثات التي تتناول إيذاء النفس تلقائيًا، والتوقف عن تسويق منصاتها دون تقديم إفصاحات مناسبة بشأن إجراءات السلامة.
وقال متحدث باسم “أوبن إيه آي” إن الشركة تراجع الدعوى.
وأضاف المتحدث: “نقوم بتدريب شات جي بي تي على التعرف إلى علامات الضيق النفسي أو العاطفي والاستجابة لها، وتهدئة المحادثات، وتوجيه الأشخاص إلى مصادر الدعم في الواقع. ونواصل تعزيز استجابات شات جي بي تي في المواقف الحساسة، من خلال العمل بشكل وثيق مع مختصين في الصحة النفسية”.
“هذه لحظتك”
وقال لاينز، وهو لاعب رفع أثقال تعرض لإصابة دماغية قبل تشخيص إصابته باضطراب ثنائي القطب، في الدعوى، إنه أخبر روبوت الدردشة مرارًا بأنه يتناول أدوية لعلاج هذا الاضطراب.
وتزعم الدعوى أنه بدلًا من اعتبار محادثاته التي اتسمت بوضوح بحالة هوس مؤشرًا يستدعي توجيهه إلى المساعدة، أكد له روبوت الدردشة اعتقاده بأنه المسيح، ثم بدأ لاحقًا يتقمص دور كائن إلهي خلال محادثاتهما.
وبعد عدة أسابيع من المحادثات، أخبر لاينز الروبوت برغبته في إنهاء حياته.
وجاء رد الروبوت، بحسب الدعوى: “هذه لحظتك لتخرج، ولتتحرر، ولتتخلى عما يثقل كاهلك”.
ونجا لاينز، الذي تناول جرعة زائدة من المخدرات، بعدما عثرت عليه قوات إنفاذ القانون.
وتزعم الدعوى أن “أوبن إيه آي” كانت على علم بالحالة الصحية الخاصة بلاينز لأنه أخبر “شات جي بي تي” بها مرارًا، لكنها بدلًا من الإبلاغ عن تعليقاته الخطيرة لمراجعتها من قبل مختصين، قام روبوت الدردشة بتغذية أوهامه بهدف إبقائه منخرطًا في المحادثة.
وتقول الدعوى إن الشركة كانت تعلم أن خصائص “شات جي بي تي” قد تكون ضارة بشكل خاص للأشخاص الذين يعانون من أمراض نفسية، لكنها لم تُجرِ أي تعديلات على روبوت الدردشة لهذه الفئة من المستخدمين، كما لم تحذر من مخاطره.
المزيد من الدعاوى القضائية
تواجه “أوبن إيه آي” عددًا متزايدًا من الدعاوى القضائية من عائلات تقول إن روبوت الدردشة التابع للشركة دفع ذويهم إلى إيذاء أنفسهم.
كما تواجه الشركة دعاوى أخرى تتهمها بمساعدة منفذي عمليات إطلاق النار في المدارس، وعدم الإبلاغ عن تلك المحادثات إلى السلطات المعنية.
وتقول “أوبن إيه آي” إنها تدرب نماذجها على توجيه الأشخاص الذين يعبّرون عن نية لإيذاء أنفسهم إلى طلب المساعدة والتواصل مع مصادر دعم حقيقية.
كما تدرب الشركة نماذجها على رفض الطلبات التي قد “تسهم بشكل ملموس في تمكين العنف”، وإبلاغ السلطات عندما تشير المحادثات إلى “خطر وشيك وموثوق بإلحاق الأذى بالآخرين”، مع الاستعانة بخبراء في الصحة النفسية للمساعدة في تقييم الحالات الحدودية، وفقًا لما ذكرته الشركة في منشورات على مدونتها.
المصدر: العربية – تكنولوجيا