تشات جي بي تي يطلق وضعًا أكثر صرامة للمراهقين

بدأت شركة OpenAI اعتبارًا من اليوم طرح تجربة جديدة أكثر تشددًا للمراهقين على تشات جي بي تي، في خطوة تهدف إلى تعزيز حماية المستخدمين الأصغر سنًا، مع محاولة الشركة التعرف تلقائيًا على المستخدمين الذين تقل أعمارهم عن 18 عامًا وإدخالهم إلى التجربة الجديدة.

وتأتي الخطوة بعد إعلان “OpenAI” في سبتمبر الماضي، عقب دعوى قضائية اتهمتها بالمساهمة في وفاة المراهق الأميركي آدم راين البالغ من العمر 16 عامًا، عن تطوير نظام قادر على التعرف تلقائيًا على المراهقين وفرض قيود إضافية على طريقة استخدامهم ل تشات جي بي تي.

وبعد نحو عام، بدأت الشركة تنفيذ هذا النظام ضمن تجربة جديدة تحمل اسم ChatGPT for Teens، بحسب تقرير نشره موقع “engadget” واطلعت عليه “العربية Business”.

وقالت لورين جوناس، رئيسة قسم الشباب والعائلات في “OpenAI”: “لا يحتاج المراهق إلى إنشاء حساب جديد أو تغيير أي شيء؛ فإذا توقعنا أن عمره أقل من 18 عامًا، أو أخبرنا بذلك، فستصبح هذه التجربة هي الوضع الافتراضي له”.

تشات جي بي تي للمراهقين يركز على التعلم والسلامة

تعتمد تجربة ChatGPT for Teens على محورين رئيسيين هما التعلم والسلامة.

وعلى صعيد التعلم، تجمع التجربة مجموعة من المزايا التي أطلقتها “OpenAI” خلال العام الماضي بهدف جعل تشات جي بي تي أداة تعليمية أكثر فاعلية.

وتأتي في مقدمتها ميزة Study Mode، التي كشفت عنها “OpenAI” للمرة الأولى الصيف الماضي، والتي تعتمد أسلوبًا سقراطيًا في الحوار.

وبدلًا من تقديم الإجابة للمستخدم مباشرة، يحاول تشات جي بي تي توجيهه خطوة بخطوة للوصول إلى الحل بنفسه.

ولا تجعل “OpenAI” وضع Study Mode مفعلًا تلقائيًا لجميع المراهقين، لكنها تقدم مجموعة من المزايا التي تشجعهم على استخدامه.

ومن بينها الاقتراحات الجاهزة لبدء المحادثات (Starter Prompts)، والتي تقول جوناس إن المراهقين يستخدمونها بكثافة بالفعل.

وأضافت أن هذه الاقتراحات ستتغير بمرور الوقت، لكنها ستظل موجهة نحو التعلم بالنسبة إلى المستخدمين المراهقين.

Study Hours لتشجيع المراهقين على إنجاز الواجبات

تقدم “OpenAI” أيضًا ميزة جديدة باسم Study Hours، تعمل على تفعيل Study Mode تلقائيًا خلال أوقات محددة من اليوم.

ويمكن للمراهق تحديد هذه الأوقات بنفسه، أو يمكن لوالديه اختيارها من خلال حساب مرتبط.

وحتى في حال عدم تفعيل Study Hours، سيحاول تشات جي بي تي الآن التعرف على الحالات التي يحاول فيها المستخدم الشاب تجاوز العمل على واجباته المدرسية، ثم توجيهه إلى استخدام Study Mode بدلًا من ذلك.

وقالت جوناس إن “OpenAI” اختبرت Study Mode ضمن عدد من التجارب العشوائية الخاضعة للرقابة، وشهدت تحسنًا إيجابيًا في أداء المستخدمين، لكنها رفضت الكشف عن أرقام محددة.

وأوضحت أن نتائج هذه التجارب تساعد الشركة في تشكيل نهجها الأوسع تجاه استخدام تشات جي بي تي في مجال التعلم.

كما عملت “OpenAI” على تحسين قدرات Study Mode، ومن بينها القدرة على إنشاء صور ومواد مرئية تساعد في شرح المفاهيم.

وبدأت تشات جي بي تي في إنشاء هذه المواد المرئية في مارس الماضي، وكانت الميزة عند إطلاقها تغطي أكثر من 70 موضوعًا، بينما تقول الشركة إن العدد تجاوز الآن 300 موضوع، تشمل مفاهيم مثل التكاملات والانقسام المتساوي وأطوار القمر.

“OpenAI” تشدد القيود على العلاقة بين تشات جي بي تي والمراهقين

وعلى مستوى السلامة، تعمل “OpenAI” على الحد من ميل المستخدمين الأصغر سنًا إلى التعامل مع تشات جي بي تي وكأنه شخص حقيقي.

وقالت جوناس إن الشركة تضيف قيودًا أكثر صرامة على الحدود العاطفية، بحيث لا ينبغي للنموذج أن يصف نفسه بأنه صديق، أو يوحي بامتلاكه مشاعر شخصية، أو يدعي امتلاكه وعيًا أو إدراكًا ذاتيًا.

وسيظهر ذلك في عدة جوانب من تجربة المراهقين.

على سبيل المثال، ستؤكد تذكيرات أخذ فترات راحة المدمجة في تشات جي بي تي أن الخدمة مجرد نظام ذكاء اصطناعي، وأن المراهق ليس بحاجة إلى الرد عليه فورًا.

كما ستظهر هذه التذكيرات بوتيرة أكبر.

ويمكن للمراهقين وذويهم أيضًا تحديد ساعات هدوء لا يكون تشات جي بي تي متاحًا خلالها.

ويمتد هذا النهج إلى خيارات التخصيص الجديدة التي طورتها “OpenAI” خصيصًا لتجربة المراهقين، والتي تتيح لهم تخصيص الخدمة دون طمس الحدود بين كون تشات جي بي تي أداة مفيدة وبين الدخول في علاقة تشبه العلاقة الإنسانية.

وتشمل هذه الخيارات، على سبيل المثال، خلفيات مخصصة.

إشعارات للآباء عند رصد مخاطر تتعلق باضطرابات الأكل

في الشهر الماضي، أعلنت “OpenAI” أنها ستبدأ بإخطار أولياء أمور المراهقين الذين ترتبط حساباتهم بحسابات أبنائهم عندما يتم إيقاف المراهق عن استخدام تشات جي بي تي بسبب انتهاك سياسات الشركة المتعلقة بالتهديدات العنيفة.

ومع إطلاق التجربة الجديدة، توسع “OpenAI” هذه المبادرة لتشمل المحادثات المرتبطة باضطرابات الأكل.

ولم تحدد الشركة أمثلة بعينها لأنواع المحادثات التي قد تؤدي إلى إرسال إشعار للوالدين، لكنها أوضحت أن أي محادثة تشير إلى مخاوف خطيرة تتعلق بإيذاء النفس قد تؤدي إلى إرسال تنبيه.

وقالت جوناس إن الشركة تخطر الوالدين عبر الرسائل النصية، وداخل التطبيق، والبريد الإلكتروني، مشيرة إلى أن جميع المحتويات التي يتم وضع علامة عليها تخضع للمراجعة من جانب موظفين متفرغين في “OpenAI” قبل إخطار الوالدين.

وأضافت أن الشركة تهدف إلى إرسال الإشعار خلال ساعة واحدة من المحادثة.

وأكدت أن “OpenAI” تعمل باستمرار على تحسين قدرة نماذجها على اكتشاف الحالات التي يمر فيها المراهق بظروف صعبة، بهدف توفير الدعم والتجربة المناسبين، مشيرة إلى أن الشركة تستعين في هذا المجال باستشارات من عدد من الجهات الخارجية.

هل تستطيع “OpenAI” منع المراهقين من تجاوز القيود؟

يبقى أحد أكبر الأسئلة المتعلقة بالنظام الجديد هو مدى فعالية تقنية تقدير العمر التي تعتمد عليها “OpenAI” في الاختبارات.

فلا يوجد نظام لتحديد عمر المستخدمين يتمتع بدقة كاملة، وقد واجهت منصات أخرى، من بينها “ديسكورد”، صعوبات في منع المراهقين من التحايل على إجراءات الحماية الخاصة بها.

ومن المتوقع أن يحاول بعض المستخدمين الشباب العثور على طرق لتجاوز القيود الجديدة في تشات جي بي تي أيضًا، وهو تحدٍ حساس بالنسبة إلى “OpenAI” في ظل الجدل المتزايد حول استخدام المراهقين لروبوتات الدردشة المعتمدة على الذكاء الاصطناعي.

وأقرت جوناس بأن ChatGPT for Teens ليس سوى بداية لما تحتاج “OpenAI” إلى القيام به لحماية المراهقين.

وقالت إن العمل على السلامة لا ينتهي أبدًا، وإن الشركة تعمل عليه على مدار الساعة وطوال أيام العام، مع الاستمرار في التعلم والتحسين.

وأكدت أن المراهقين ينبغي أن يتمكنوا من الوصول إلى هذه التكنولوجيا، ولكن بطريقة آمنة، مشيرة إلى أن هذا الوصول يمكن أن يوفر لهم فرصًا حقيقية.

وبدأت “OpenAI” طرح تجربة ChatGPT for Teens عالميًا اعتبارًا من اليوم، وتتوقع استكمال عملية الإطلاق خلال الأسبوعين المقبلين.

المصدر: العربية – تكنولوجيا