خطأ في ذكاء “ديسكورد” الاصطناعي يحظر آلاف المستخدمين
اعترفت منصة ديسكورد بوجود خلل في نظام الإشراف المعتمد على الذكاء الاصطناعي، تسبب في حظر أكثر من 8 آلاف مستخدم خلال الشهرين الماضيين، بعدما صنّف صورًا عادية، مثل جداول البيانات ولوحات الشطرنج وملمس الألعاب، وحتى الخلفيات الشفافة البيضاء والرمادية، على أنها محتوى ضار.
وأكدت الشركة أن المشكلة بدأت منذ شهر مايو، كما تعرض نحو 200 مستخدم إضافي للحظر خلال عطلة نهاية الأسبوع الماضية قبل أن يتمكن فريقها من اكتشاف الخلل وإصلاحه.
وأضافت أن جميع الحسابات المتضررة يجري العمل حاليًا على استعادتها، بحسب تقرير نشره موقع “تك كرانش” واطلعت عليه “العربية Business”.
ويسلط الحادث الضوء على أحد أبرز التحديات التي تواجه أنظمة الإشراف المدعومة بالذكاء الاصطناعي، في وقت تعتمد فيه المنصات الرقمية بشكل متزايد على أدوات آلية لرصد المحتوى غير القانوني أو المسيء على نطاق واسع.
كيف حدثت المشكلة؟
وفي سلسلة منشورات على منصة “إكس”، أوضحت “ديسكورد” أن نظام السلامة الآلي لديها يقارن المحتوى الذي يرفعه المستخدمون بقواعد بيانات تضم مواد ضارة معروفة. ورغم أن هذه التقنية تهدف إلى اكتشاف المحتوى غير القانوني، فإنها قد تنتج أحيانًا إنذارات خاطئة.
وأشارت الشركة إلى أن المحتوى كان من المفترض أن يخضع لمراجعة بشرية قبل اتخاذ أي إجراء، إلا أن خللًا برمجيًا أدى إلى حظر الحسابات المتأثرة مباشرة دون انتظار هذه المراجعة.
وقالت “ديسكورد”: “نعمل على إضافة ضمانات جديدة حتى لا يتكرر هذا الخطأ مرة أخرى.”
صور شبكية تسببت في الحظر
وعلى منصتي “إكس” و”ريديت”، أكد عدد من المستخدمين أنهم تعرضوا للإيقاف الدائم بمجرد رفع صور تحتوي على أنماط شبكية مربعة.
ورجح بعضهم أن أدوات الإشراف بالذكاء الاصطناعي أصبحت أكثر حساسية تجاه هذه الأنماط، بعدما استُخدمت سابقًا في محاولات لإخفاء أو تمويه محتوى إباحي أو مواد تتعلق باستغلال الأطفال بهدف تجاوز أنظمة الكشف الآلي.
انتقادات واسعة
وأثار الحادث موجة غضب بين المستخدمين، إذ اعتبر كثيرون أن فرض حظر دائم اعتمادًا على قرار آلي فقط قد تكون له آثار كبيرة، خاصة لمن يستخدمون “ديسكورد” في العمل أو مجتمعات الألعاب أو للتواصل مع الأصدقاء والعائلة.
وكتب أحد مستخدمي منصة “إكس”: “خسارة حساب ديسكورد بسبب خطأ كهذا قد تكون مدمرة، وملايين المستخدمين يتعرضون يوميًا لقرارات حظر خاطئة بسبب الذكاء الاصطناعي. يجب وضع حد لهذا الأمر.”
أزمة تتكرر في منصات أخرى
ولا تعد “ديسكورد” الشركة الوحيدة التي واجهت مشكلات بسبب أنظمة الإشراف الآلية.
في العام الماضي، أبلغ مستخدمون على “إنستغرام” ومجموعات “فيسبوك” عن تعليق حساباتهم بصورة مفاجئة ومن دون تفسير واضح، ورجح كثيرون أن السبب يعود إلى أخطاء في أنظمة الذكاء الاصطناعي، إلا أن “ميتا” لم تؤكد رسميًا ذلك. وفي المقابل، يطالب مجلس الرقابة التابع للشركة حاليًا بمزيد من الشفافية بشأن آليات الإشراف الآلي.
كما واجهت منصة “تمبلر” العام الماضي انتقادات مماثلة، بعدما اشتكى مستخدمون من تعليق حساباتهم بشكل جماعي دون تقديم أسباب واضحة، في مؤشر على التحديات المستمرة التي تواجه الاعتماد المتزايد على الذكاء الاصطناعي في إدارة المحتوى.
المصدر: العربية – تكنولوجيا