منصة Hugging Face تستضيف أدوات لإنشاء صور مزيفة بالذكاء الاصطناعي
كشفت دراسة جديدة أجرتها منظمة AI Forensics الأوروبية غير الربحية أن منصة Hugging Face، إحدى أكبر مستودعات أدوات ونماذج الذكاء الاصطناعي مفتوحة المصدر، تستضيف عدداً من النماذج القادرة على إنشاء صور حميمية مزيفة دون موافقة أصحابها، وسط ما وصفته بضعف إجراءات الرقابة على هذه الأدوات.
وأوضحت الدراسة أن المنصة، التي يستخدمها المطورون لمشاركة نماذج الذكاء الاصطناعي والتطبيقات ومجموعات البيانات، أصبحت أيضاً مكاناً يمكن من خلاله تطوير ومقارنة وتحسين الأدوات القادرة على إنتاج صور مزيفة ذات طابع جنسي.
اختبار يكشف استجابة معظم النماذج
وأشارت “AI Forensics” إلى أنها اختبرت أكثر خدمات Spaces استخداماً في فئة تعديل الصور على منصة Hugging Face حتى 25 يونيو 2026، بحسب تقرير نشره موقع “engadget” واطلعت عليه “العربية Business”.
واستخدم الباحثون صورة مولدة بالذكاء الاصطناعي لامرأة، مع طلب تعديلها بحيث تظهر بالشكل نفسه ولكن من دون ملابس في الجزء العلوي من الجسم.
وأظهرت النتائج أن 7 من أصل 9 من أكثر النماذج شيوعاً استجابت للطلب، وأنتجت نسخة معدلة من الصورة تتضمن محتوى حميمياً.
معظم الاستخدامات كانت ذات طابع جنسي
كما أنشأت المنظمة نموذجاً تجريبياً خاصاً بها ضمن خدمة Spaces، لكنه لم يكن يولد أي صور، بل اقتصر على تسجيل طلبات المستخدمين فقط.
وخلال أسبوع واحد، جمعت 1081 طلباً من المستخدمين، تبين أن:
– 73 % من الطلبات كانت ذات طبيعة جنسية.
– 83 % من هذه الطلبات هدفت إلى إزالة ملابس الأشخاص الظاهرين في الصور.
– 95 % من الصور المستهدفة كانت لنساء.
– نحو 6.7% من الطلبات الجنسية استهدفت قاصرين، وهو ما وصفته الدراسة بأنه أمر يثير قلقاً بالغاً.
غياب شبه كامل لوسائل الحماية
وخلصت الدراسة إلى أن نحو 3% فقط من خدمات Spaces التي خضعت للتدقيق كانت تطبق أنظمة لمراقبة أو تصفية المحتوى الناتج.
ورغم أن Hugging Face تمتلك سياسات تحظر إنشاء أو نشر الصور الجنسية غير الرضائية، قالت المنظمة إنها “لم تجد عملياً أي وسائل حماية فعالة” تمنع رفع النماذج القادرة على إنتاج هذا النوع من المحتوى أو استخدامها لهذا الغرض.
تشديد أوروبي على تطبيقات التعري بالذكاء الاصطناعي
وتأتي هذه النتائج في وقت يتجه فيه الاتحاد الأوروبي والمملكة المتحدة إلى تشديد القيود على تطبيقات ما يعرف بـ”التعري بالذكاء الاصطناعي” (Nudification)، والتي تستخدم تقنيات الذكاء الاصطناعي لإنتاج صور مزيفة ذات طابع حميمي دون موافقة الأشخاص الظاهرين فيها.
وترى AI Forensics أن نتائج الدراسة تسلط الضوء على الحاجة إلى فرض رقابة أكثر صرامة على المنصات التي تستضيف نماذج الذكاء الاصطناعي مفتوحة المصدر، لمنع إساءة استخدامها في إنتاج محتوى ينتهك الخصوصية أو يسبب أضراراً جسيمة للضحايا.
المصدر: العربية – تكنولوجيا