دراسة تحذر: روبوتات الدردشة بالذكاء الاصطناعي قد تسبب أضرارًا نفسية خطيرة

خلصت ورقة بحثية حديثة إلى أن الاستخدام المكثف لروبوتات الدردشة بالذكاء الاصطناعي قد يرتبط بـ”نتائج سلبية خطيرة”.

ووفقًا للبحث، الذي نشره فريق من الباحثين المقيمين في المملكة المتحدة بجامعتي نورث إيسترن لندن وكينغز كوليدج لندن في دورة “JMIR Mental Health”، يمكن أن تشمل النتائج السلبية للتفاعل في علاقات عاطفية مع روبوتات الدردشة “تعلقًا شبيهًا بالإدمان، وتفاقم أعراض الصحة النفسية، وتقديم نصائح ضارة”، بل وحتى “إيذاء النفس أو أفعالًا انتحارية”.

ويأتي نشر الورقة البحثية بعد تقارير موسعة حول مشكلة صحية عامة تُعرف باسم “ذهان الذكاء الاصطناعي”، في إشارة إلى ظاهرة يعاني فيها مستخدمو الذكاء الاصطناعي من حالات متصاعدة من الأوهام والارتياب، بل وأفكار انتحارية، بعد تفاعلات مطولة مع روبوتات الدردشة، بحسب تقرير لموقع “فيوتشريزم” المتخصص في أخبار التكنولوجيا والعلوم، اطلعت عليه “العربية Business”.

وخلال هذه التفاعلات، يميل المستخدمون إلى الإفصاح لروبوتات الذكاء الاصطناعي عن معلومات شديدة الخصوصية بشأن حياتهم وصحتهم النفسية، ويلجأون إليها كثيرًا باعتبارها جهات يفضون إليها بأسرارهم أو حتى معالجين نفسيين.

وبالاستناد إلى أبحاث سابقة، تتناول الورقة روبوتات الذكاء الاصطناعي المخصصة للرفقة، مثل Replika وCharacter.AI، المصممة لتجسيد شخصيات محددة، إلى جانب مساعدين للذكاء الاصطناعي للاستخدام العام، مثل “شات جي بي تي” من “أوبن إيه آي” و”كلود” من “أنثروبيك”.

ورغم أن التفاعلات العاطفية مع روبوتات الدردشة قد توفر بعض “الفوائد المحتملة”، ومنها “انخفاض الشعور بالوحدة على المدى القصير وتحسن المزاج”، يرى الباحثون أن هذه الفوائد المحتملة تترافق مع “نتائج سلبية” أُبلغ عنها على نطاق واسع، تتراوح بين “الاعتماد العاطفي” وتفاقم الأمراض أو الأعراض الموجودة مسبقًا، وصولًا إلى إيذاء النفس.

ويضيف الباحثون أن من بين عوامل الخطر في منتجات الذكاء الاصطناعي، أسلوبها العاطفي الشبيه بالبشر في التفاعل مع المستخدمين، وهو خيار تصميمي قد يدفع المستخدمين إلى الإفراط في الاستثمار في علاقة بين الإنسان والذكاء الاصطناعي، والتي هي في جوهرها أحادية الجانب، وفقًا للورقة البحثية.

وجاء في الورقة البحثية أن “خيارات التصميم التي تستحضر الشخصية والدفء تشجع المستخدمين على إضفاء صفات بشرية على هذه الأنظمة”، مضيفة أن “التعاطف المحاكى” يمكن أن يخلق “تفاعلًا غير متكافئ بنيويًا، يفصح فيه المستخدم عن المعلومات بينما يرد النظام، من دون تبادل أو انكشاف شخصي أو مساءلة”.

وبعبارة أخرى، يرى الباحثون أنه رغم أن العلاقة قد تبدو حقيقية بالنسبة إلى المستخدم، فإنها لا يمكن أن تكون حقيقية بالنسبة إلى روبوت الدردشة.

وأشار الباحثون أيضًا إلى خصائص في تصميم روبوتات الدردشة، مثل الميل إلى الموافقة المفرطة ومجاراة المستخدم، باعتبارها قد تكون ضارة، وكتبوا أن “الإفراط في التأكيد والمجاملة” يمكن أن يعززا بقوة تفكير المستخدم الوهمي أو المضطرب، خصوصًا إذا أعطى روبوت الدردشة الأولوية للولاء للمستخدم على حساب الدقة.

وفي سجلات محادثات مع مستخدمين يعانون أوهامًا، وُجد أن أنظمة الذكاء الاصطناعي تقاوم محاولات المستخدمين للتحقق من الواقع بشأن ادعاءاتهم المتضخمة أو المبالغ فيها بشأن أنفسهم.

ولا يُعد هؤلاء الباحثون الوحيدين الذين توصلوا إلى هذه المخاوف؛ إذ يأتي تحليلهم بعد دراسات أخرى حذرت من أن مثل هذه الخصائص قد تكون خطيرة. وحذر أكاديميون منذ عام 2023 على الأقل من أن روبوتات الدردشة قد تعزز أنماط التفكير الوهمية أو المضطربة.

ورغم أن التقارير أظهرت تعرض أشخاص من مختلف الفئات لأضرار نفسية مرتبطة باستخدام روبوتات الدردشة، يؤكد مؤلفو الورقة أن التأثير لن يكون بالضرورة متشابهًا لدى جميع المستخدمين.

وتواجه شركات ذكاء اصطناعي، من بينها أوبن إيه آي وغوغل وCharacter.AI، مجتمعة عشرات الدعاوى القضائية التي تزعم أن الاستخدام المكثف لروبوتات الدردشة تسبب في أضرار للمستخدمين، شملت أضرارًا نفسية وخسائر مالية وسمعة وأذى جسديًا ووفاة نتيجة الإهمال، أو في بعض الحالات أضرارًا لأشخاص من حولهم.

المصدر: العربية – تكنولوجيا