شائعة وفاة ترامب بداء الكلب.. كيف سقط الذكاء الاصطناعي لـ”دك دك غو” في فخ التسميم
بنت “دك دك غو” سمعتها على تقديم محرك بحث يضع الخصوصية في المقام الأول، لكن مساعد الذكاء الاصطناعي الخاص بها واجه في الأيام الأخيرة انتقادات لسبب مختلف تمامًا.
فقد زعم مساعد “Duck.ai” بثقة أن الرئيس الأميركي دونالد ترامب توفي بداء الكلب في وقت سابق من هذا الشهر، مضيفًا تفاصيل مختلقة عن نائب الرئيس جيه دي فانس، وروبرت إف كينيدي جونيور، فضلًا عن تقارير إخبارية مزيفة تدعم هذه الرواية، ولم يكن أي من ذلك صحيحًا.
ولم تكن هذه الاستجابة الغريبة نتيجة هلوسة واحدة، بل يبدو أنها جاءت نتيجة حملة تضليل منسقة انطلقت من مجتمع “r/poisonai” على منصة ريديت، حيث ينشر المستخدمون عمدًا قصصًا كاذبة وسخيفة بهدف “تسميم” نماذج البحث المعتمدة على الذكاء الاصطناعي، بحسب تقرير لموقع “فيوتشريزم” المتخصص في أخبار التكنولوجيا والعلوم، اطلعت عليه “العربية Business”.
وفي هذه الحالة، أغرق أعضاء المجتمع الإنترنت بادعاءات ملفقة تفيد بأن جيه دي فانس توفي بداء الكلب قبل أن يلقى دونالد ترامب المصير نفسه، بل أنشأوا أيضًا مقالات إخبارية مزيفة ومواقع إخبارية محلية مقلدة لتعزيز هذه الرواية.
ولم يكن “Duck.ai” الضحية الوحيدة. فقد وجد موقع “فيوتشريزم” أيضًا أن مساعد البحث بالذكاء الاصطناعي في “Brave Search” كرر الادعاءات الكاذبة نفسها قبل أن يصححها لاحقًا.
من جهتها، أقرت “دك دك غو” بالخطأ عبر منصة ريديت برد ساخر جاء فيه: “حسنًا، لقد وقعنا في الفخ هذه المرة”. وقالت الشركة إن المشكلة جرى حلها، مضيفة أن مساعد البحث الخاص بها “تعرض للخداع عمدًا”، ووعدت بإدخال تحسينات للتعامل بشكل أفضل مع مثل هذه الهجمات مستقبلًا.
ووفقًا للتقرير، فقد اكتسبت القصة المزيفة مصداقية لأن البحث المدعوم بالذكاء الاصطناعي استشهد بموقع إلكتروني مزيف انتحل صفة وسيلة إخبارية محلية موثوقة، ويبدو أن هذا الموقع نفسه أُنشئ باستخدام الذكاء الاصطناعي، وجُمعت محتوياته اعتمادًا على الخدعة نفسها التي انطلقت من منصة ريديت.
وبعبارة أخرى، لم يكن الذكاء الاصطناعي يختلق المعلومات من تلقاء نفسه، بل كان يكرر بثقة معلومات مضللة زُرعت عمدًا على الإنترنت.
ليس “دك دك غو” بل مستقبل البحث بالذكاء الاصطناعي
المفارقة أن هذه ليست في الحقيقة مشكلة خاصة بـ”دك دك غو”، بل هي مشكلة تخص البحث بالذكاء الاصطناعي عمومًا.
فمساعدو الذكاء الاصطناعي الحديثون يعتمدون بصورة متزايدة على المعلومات التي يجمعونها من مختلف أنحاء الإنترنت، وإذا جرى نشر كمية كافية من المحتوى المزيف في عدد كافٍ من المواقع، فقد تبدأ هذه الأنظمة في التعامل مع الخيال على أنه حقيقة.
وهذا ما يجعل هذه الواقعة مثيرة للقلق. فقد أمضى العالم سنوات من القلق من هلوسة الذكاء الاصطناعي وإنتاجه إجابات من العدم، لكن المحاولات المنسقة لتسميم نتائج البحث بالذكاء الاصطناعي قد تكون أكثر خطورة.
فإذا تمكنت جهات سيئة النية من التلاعب بما “تتعلمه” نماذج الذكاء الاصطناعي بمجرد إغراق الإنترنت بمعلومات مضللة تبدو مقنعة، فإن تحسين الذكاء الاصطناعي لن يقتصر بعد الآن على بناء نماذج أكثر ذكاءً، بل سيعتمد أيضًا على بناء أنظمة تعرف بمن وبأي مصادر ينبغي لها أن تثق.
المصدر: العربية – تكنولوجيا