خبراء يحذرون: مزايا أمان تشات جي بي تي للمراهقين تحتاج إلى اختبارات مستقلة
أعلنت شركة OpenAI مجموعة جديدة من أدوات الأمان ضمن خدمة تشات جي بي تي للمراهقين، لكن خبراء في سلامة الأطفال ما زالوا يتعاملون معها بحذر، مطالبين بإجراء اختبارات مستقلة لإثبات فعاليتها، إلى جانب تحسين آليات التحقق من العمر وتعزيز أدوات الرقابة الأبوية.
وكانت “OpenAI” قد أعلنت مؤخرًا عن ChatGPT for Teens، وهي نسخة من تشات جي بي تي مخصصة للمستخدمين صغار السن، وتعمل وفق نظام للتحقق من العمر يهدف إلى توفير تجربة أكثر أمانًا للمراهقين من خلال إجراءات حماية إضافية، وتنبيهات للآباء، وآليات للتحقق من عمر المستخدم.
لكن خبراء سلامة الأطفال يرون أن هذه الإجراءات وحدها لا تكفي، مؤكدين ضرورة وجود أدلة مستقلة تثبت أن أنظمة الحماية تعمل بكفاءة قبل أن يتمكن الآباء من الوثوق بالخدمة بشكل كامل، بحسب تقرير نشره موقع “androidheadlines” واطلعت عليه “العربية Business”.
تشات جي بي تي للمراهقين أمام اختبار الأمان
بدأت “OpenAI” العمل على تشات جي بي تي للمراهقين في سبتمبر الماضي، في أعقاب وفاة المراهق الأميركي آدم راين، البالغ 16 عامًا.
وزعم والداه لاحقًا في دعوى قضائية أن تشات جي بي تي ساهم في تمكين سلوكيات ضارة.
وبموجب النظام الجديد، يُنقل المستخدمون الذين تعتقد “OpenAI” أنهم دون سن 18 عامًا، أو الذين يعرّفون أنفسهم على أنهم مراهقون، تلقائيًا إلى تجربة مخصصة لهذه الفئة.
كما تشجع الخدمة على استخدام ميزات مثل وضع الدراسة (Study Mode)، المصمم لمساعدة الطلاب على التعلم بدلًا من تقديم إجابات جاهزة لهم.
وتشير بيانات مركز Pew Research Center إلى أن نحو واحد من كل أربعة مراهقين في الولايات المتحدة كانوا يستخدمون تشات جي بي تي بالفعل لأداء الواجبات المدرسية في بداية العام الماضي.
وتتضمن النسخة الجديدة أيضًا ميزة ساعات الهدوء (Quiet Hours)، وتوسيع نطاق إشعارات السلامة الأبوية للحسابات المرتبطة، إلى جانب نشر نسخة محدثة من مواصفات النموذج الخاصة بالمستخدمين دون 18 عامًا.
وتحظر الإرشادات الجديدة على النموذج استخدام لغة عاطفية أو رومانسية مع المراهقين، كما تمنعه من تشجيع الاعتماد العاطفي على الذكاء الاصطناعي.
ورغم هذه الإجراءات، لا يزال خبراء سلامة الأطفال يتعاملون معها بحذر.
مخاوف متزايدة بشأن سلامة الأطفال
قال روبي تورني من منظمة Common Sense Media إن “OpenAI” بحاجة إلى تقديم أدلة تثبت أن الوعود المتعلقة بالسلامة تعمل فعليًا.
من جانبه، شكك جوش غولين من منظمة Fairplay في غياب نظام واضح للمساءلة، مشيرًا إلى تساؤلات حول قدرة أنظمة التحقق الآلية من العمر على تحديد المستخدمين المراهقين بشكل موثوق، خصوصًا عندما يحاول بعض المستخدمين تجاوز هذه الأنظمة.
ولتعزيز إجراءات الحماية، قالت “OpenAI” إن نظامها سيحدد المحادثات التي قد تتضمن محتوى ضارًا، على أن تتم مراجعة هذه المحادثات يدويًا بواسطة موظفي الشركة.
لكن الخبراء طرحوا بدورهم أسئلة حول مدى قدرة النظام على تحديد المحادثات الصحيحة بشكل متسق، وما إذا كانت الشركة تمتلك عددًا كافيًا من المشرفين البشريين لمراجعة هذه المحادثات بصورة دقيقة وفي الوقت المناسب.
وطالب تورني وغولين “OpenAI” بالكشف عن بيانات توضح عدد المحادثات التي يرصدها النظام، وعدد الموظفين الذين يراجعونها، والمدة التي تستغرقها عملية المراجعة.
وبينما تقول “OpenAI” إنها اتخذت مجموعة واسعة من الإجراءات لتعزيز سلامة تجربة تشات جي بي تي للمراهقين، يرى الخبراء أن التحدي الحقيقي لا يتمثل فقط في وجود هذه الضمانات، بل في إثبات أنها تعمل باستمرار وبدرجة موثوقة في العالم الحقيقي.
ولهذا، يطالب خبراء سلامة الأطفال بإجراء اختبارات مستقلة وشفافة لآليات الحماية، قبل اعتبار تشات جي بي تي للمراهقين خدمة يمكن للآباء الاعتماد عليها بثقة.
المصدر: العربية – تكنولوجيا