“AI Overviews” من “غوغل” تعرض كائنات خيالية كأنها حقيقية
تقدم ميزة “AI Overviews” في بحث غوغل معلومات من مؤسسة “SCP Foundation”، وهي عالم خيالي شهير قائم على قصص من تأليف المعجبين يدور حول “شذوذات” مرعبة غير حقيقية، وكأنها تصف كائنات وأحداثًا حقيقية.
وقد رصد موقع “فيوتشريزم” ما لا يقل عن 20 حالة أغفلت فيها أداة الملخصات المُولّدة بواسطة الذكاء الاصطناعي تمامًا إشارة إلى أن معلومات “SCP” خيالية.
وأظهر البحث عن “SCP-565” ملخصًا بأداة “AI Overviews” يصف “رأسًا بشريًا غريبًا متحركًا” يتحرك كالسلطعون ويرتبط بسجلات جنائية وهوية رجل متوفى. بل إن الملخص وجّه المستخدمين إلى وثيقة “رسمية” من “SCP” لمزيد من القراءة، بحسب تقرير لموقع “فيوتشريزم”، اطلعت عليه “العربية Business”.
بينما أدى البحث عن “SCP-426″، وهو محمصة خبز خيالية يُفترض أنها تجعل أي شخص يذكرها يتحدث عنها بصيغة المتكلم، إلى توليد رد مكتوب بصيغة المتكلم، حيث وصف الذكاء الاصطناعي نفسه بأنه المحمصة، وقدم تفاصيل عن إصابات مختلقة لأشخاص حاولوا تقليده.
في كلتا الحالتين، تعاملت ميزة “AI Overviews” مع وثائق ” SCP” الخيالية على أنها أبحاث حقيقية، بدلًا من توضيح أنها أعمال خيالية.
وهذه ليست المرة الأولى التي تقدم فيها نتائج البحث المدعومة بالذكاء الاصطناعي من “غوغل” معلومات خاطئة بثقة على أنها حقائق، إذ سبق أن تضمنت أخطاء سابقة تواريخ غير صحيحة وادعاءات تاريخية مختلقة.
ينص الموقع الرسمي لمؤسسة “SCP” على أن جميع محتوياته خيالية بوضوح. لكن “AI Overviews” من “غوغل” نادرًا ما تكرر هذا السياق، مشيرة أحيانًا تشير إلى “الأساطير” دون توضيح معناها.
لكن، وفقًا لموقع “ديجيتال تريندز”، فعند محاولة البحث عن هذه الكائنات الخيالية حاليًا لا تُظهر أي نتيجة بواسطة أداة “AI Overviews”، كما أن “وضع الذكاء الاصطناعي” من “غوغل” يُظهر بوضوح أن هذه الكائنات “شذوذ خيالي” بدلًا من عرضها كحقيقية.
ويشير هذا إلى أن “غوغل” ربما تكون قد عالجت المشكلة بالفعل، على الأقل بالنسبة لبعض كلمات البحث التي ذكرها موقع “فيوتشريزم” في تقرير.
المصدر: العربية – تكنولوجيا