أداة من “ميتا” تفشل في اكتشاف صور أنشأها نموذج ذكاء اصطناعي للشركة
أعلنت شركة ميتا في وقت سابق من هذا الأسبوع عن منتجين جديدين للذكاء الاصطناعي، وهما “ميوز إيمدج” و”ميوز فيديو”، لتوليد الصور ومقاطع الفيديو باستخدام نصوص اللغة الطبيعية، لكنهما أثارتا جدلًا واسعًا ما دفع الشركة للإعلان عن وقف الأداة الأولى.
وبالتزامن مع إطلاق الأداتين، كشفت “ميتا” عن نظام يُعرف باسم “Content Seal”، وهو نظام لوضع علامات مائية غير مرئية. ومن الناحية التقنية، تحمل جميع الصور التي ينشئها نموذج “ميوز إيمدج” علامة مخفية يمكن استخدامها لتحديد ما إذا كانت الصورة قد أُنشئت باستخدام الذكاء الاصطناعي أم لا.
وإلى جانب ذلك، أطلقت الشركة أيضًا أداة خاصة بها للتعرف على المحتوى المُنشأ بالذكاء الاصطناعي، قادرة على قراءة العلامة المائية غير المرئية “Content Seal”. لكن يبدو أن أداة ميتا لاكتشاف المحتوى المُولد بالذكاء الاصطناعي ليست بالدقة التي تدّعيها الشركة.
وبحسب تحليل أجرته وكالة رويترز، فإن الصور التي أنشأها نموذج “ميوز إيمدج” التابع للشركة لا يمكن اكتشافها بشكل موثوق على أنها مُولدة بالذكاء الاصطناعي باستخدام أداة ميتا المخصصة للتعرف على المحتوى.
وحللت “رويترز” 40 صورة أنشأها “ميوز إيمدج”، لكن أداة ميتا لاكتشاف محتوى الذكاء الاصطناعي تمكنت من تحديد أن 45% منها فقط قد أُنشئت باستخدام الذكاء الاصطناعي.
أما في الحالات المتبقية، التي تمثل 55%، فعندما جرى اقتصاص الصور إلى ثلث أو ربع حجمها الأصلي، فشلت أداة الكشف التي طورتها ميتا ببساطة في التعرف عليها.
ويُعد ذلك إخفاقًا ملحوظًا. إذ تؤكد “ميتا” على موقعها الإلكتروني أن نظام “Content Seal” يحمل “علامة منشأ مخفية تظل سليمة حتى عند اقتصاص الصورة أو ضغطها أو تغيير حجمها أو التقاط لقطة شاشة لها”.
وبعد تحليل رويترز، قالت “ميتا” للوكالة إن أداة الكشف الخاصة بها لا تزال في المرحلة التجريبية، وإنها لا تستطيع العمل بشكل موثوق عندما تكون الصورة “مقتصّة بشكل كبير”.
وتوضح “ميتا” في صفحة الأسئلة الشائعة على موقع أداة الكشف الخاصة بها أنه إذا كانت الصورة قد أُنشئت باستخدام أداة ذكاء اصطناعي تابعة لجهة خارجية، وليس باستخدام “ميوز إيمدج”، فلن تتمكن الأداة من اكتشافها.
وليست ميتا الشركة الوحيدة في مجال الذكاء الاصطناعي التي طورت نظامًا لكشف المحتوى المرئي المولد بالذكاء الاصطناعي مثل “Content Seal”. إذ تمتلك شركة غوغل بالفعل نظامًا لاكتشاف الصور المُولدة بالذكاء الاصطناعي ووضع علامات مائية عليها يُعرف باسم “SynthID”، وقد اعتمدته أيضًا شركات مثل “أوبن إيه آي”.
وهذا يعني أنه إذا جرى إنشاء صورة باستخدام “شات جي بي تي” أو “جيميناي”، فإنها تحمل العلامة المائية غير المرئية “SynthID”، ويمكن اكتشافها باستخدام أداة غوغل الخاصة للتعرف على المحتوى المُولد بالذكاء الاصطناعي، والمتاحة الآن أيضًا عبر بحث غوغل.
ومع ذلك، تؤكد “غوغل” أيضًا أن نظام “SynthID” ليس معصومًا من الخطأ بنسبة 100%.
المصدر: العربية – تكنولوجيا