لا تشترِ قصص الذكاء الاصطناعي لأطفالك قبل معرفة هذا.. دراسة تكشف تحيزًا مقلقًا
تُظهر كتب الأطفال المؤلفة بالذكاء الاصطناعي نمطًا غريبًا يتمثل في انحياز واضح ضد شخصيات الحيوانات الأنثوية، وهو أمر موجود أيضًا، للإنصاف، في الكتب التي يؤلفها البشر، إلا أن الذكاء الاصطناعي يزيد من حدته.
وفي دراسة نُشرت العام الماضي، حللت ميلاني والش، الأستاذة المساعدة في المعلوماتية بجامعة واشنطن، وزملاؤها 300 كتاب للأطفال، ووجدوا أن ضمائر المذكر “هو” و”له” استُخدمت بمعدل يزيد مرتين على ضمائر المؤنث “هي” و”لها” عند الإشارة إلى شخصيات الحيوانات.
وبينما كان من المرجح الإشارة إلى بعض الحيوانات بضمائر المذكر أو المؤنث – كالدببة مثلًا، والقطط – أظهر استطلاع رأي أجروه على 1,300 شخص بالغ تم اختيارهم عشوائيًا أن المشاركين فضلوا ضمائر المذكر عند سؤالهم عن إكمال جملة تصف حيوانًا ناطقًا، بحسب تقرير لموقع “فيوتشريزم” المتخصص في أخبار التكنولوجيا والعلوم، اطلعت عليه “العربية Business”.
وقد انطبق هذا التحيز على جميع الحيوانات السبعة التي درسوها: الدببة، والطيور، والقطط، والخنازير، والبط، والفئران، والكلاب.
والآن، تُفاقم كتب الأطفال المؤلفة بالذكاء الاصطناعي هذه التحيزات الجنسية. وفي دراسة لاحقة نُشرت هذا الشهر وتنتظر حاليًا مراجعة الأقران، طلب فريق والش من ستة نماذج ذكاء اصطناعي رائدة، من بينها شات جي بي تي وكلود وجيميناي، إكمال جملة مماثلة عن حيوان ناطق.
وعبر 24 ألف استجابة، وجد الباحثون أن نماذج الذكاء الاصطناعي استخدمت لغة محايدة من حيث النوع الاجتماعي أو أشارت إلى الحيوان باسمه في 57% من الحالات.
وقد لا يبدو ذلك سيئًا جدًا للوهلة الأولى. لكن الباحثين وجدوا أن 2% فقط من شخصيات الحيوانات وُصفت بأنها أنثى، بينما وُصفت 41% بأنها ذكور.
وقالت والش في بيان حول الدراسة: “لقد محوا شخصيات الحيوانات الأنثوية تمامًا”، مضيفة: “لذا فهم لا يضخمون تحيزاتنا البشرية فحسب، بل يحرفونها بطرق غريبة وغير متوقعة”.
وأضافت إيماني فينكلي، المؤلفة الرئيسية للدراسة وطالبة الدكتوراه في كلية المعلومات بجامعة واشنطن، في البيان: “استخدمت ضمائر الجمع المحايدة مثل “هم/لهم” مرتين فقط للإشارة إلى شخصية حيوانية واحدة”.
وأضافت: “في الدراسة التي أُجريت على البشر، استخدمت نحو 3% من الاستجابات ضمائر “هم/لهم”. لذا فإن حياد نماذج الذكاء الاصطناعي هذه لم يؤدِ فقط إلى محو الشخصيات الأنثوية- بل شمل جميع الهويات غير الذكورية”.
وظهرت أيضًا أنماط أخرى. وقالت فينكلي: “استمرت الحبكات النمطية نفسها في الظهور، مثل بومة عجوز حكيمة تخبر جميع الحيوانات بالتجمع حول النار. لذلك نتساءل عما يمكننا تعلمه أيضًا من هذه المخرجات”.
وأضافت: “استخدمنا الحيوانات الناطقة هنا، لكننا مهتمون بما يقوله هذا عن الذكاء الاصطناعي ورواية القصص على نطاق أوسع”.
وتشكل كتب الأطفال المؤلفة بالذكاء الاصطناعي مجالًا يحظى بشعبية متزايدة. وتتيح مجموعة من الخدمات، مثل Imagitime وStoryWonderBook وChildbook.ai، للعملاء إنشاء قصص أطفال مخصصة بالذكاء الاصطناعي بسهولة، يظهر فيها أطفالهم أنفسهم كشخصيات.
وأصبحت هذه القصص هدايا شائعة بما يكفي من الأجداد إلى أحفادهم، لدرجة أن مجلة “وايرد” تحدثت إلى عدد من الآباء الذين شعروا بالغرابة تجاه كتب الذكاء الاصطناعي هذه.
وحذرت ميشيل مارتن، أستاذة شؤون الأطفال والشباب في كلية المعلومات بجامعة واشنطن، من أن التحيزات الجنسية التي تُظهرها كتب الأطفال التي ينتجها الذكاء الاصطناعي قد تُنَفِّر الأطفال وتؤثر على شعورهم بقيمتهم الذاتية.
وقالت لصحيفة “ذا سياتل تايمز”: “من المهم أن يرى الأطفال تمثيلًا لتجاربهم. فإذا لم ترَ ذلك فيما تقرأه، تتولد لديك فكرة أنك لا تحظى بالأهمية”.
وليس هذا النوع الوحيد من المحتوى الرديء المولد بالذكاء الاصطناعي والموجه إلى الأطفال الذي يميل إلى اتباع صيغة محددة. فهناك عالم كامل من المحتوى الرديء “التعليمي” المولد بالذكاء الاصطناعي على يوتيوب، إذ تتبع العديد من مقاطع الفيديو الغريبة الشكل نفسه في تعليم الأطفال الحروف الأبجدية والحيوانات.
المصدر: العربية – تكنولوجيا
