ظاهرة “تآكل الإسناد”.. الذكاء الاصطناعي قد يتعلم من مليارات الصور دون نسخ أي منها
توصل باحثون من معهد ماساتشوستس للتكنولوجيا (MIT) إلى ظاهرة أطلقوا عليها اسم “تآكل الإسناد” Attribution Decay، تكشف أن نماذج الذكاء الاصطناعي التوليدي الكبيرة قد تتعلم من مليارات الصور دون أن يكون من الممكن تحديد صورة بعينها باعتبارها مصدرًا مباشرًا لأي صورة تنتجها.
وتطرح الدراسة سؤالًا محوريًا في عصر الذكاء الاصطناعي التوليدي: إذا أنشأ نموذج للذكاء الاصطناعي صورة جديدة، فهل يستطيع أحد بالفعل تحديد الصور الأصلية التي أثرت في إنتاجها؟
وتشير دراسة جديدة أجراها باحثون من مختبر علوم الحاسوب والذكاء الاصطناعي في MIT إلى أن الإجابة قد تكون “لا” في كثير من الحالات، خصوصًا مع النماذج التي تعتمد على مجموعات بيانات ضخمة.
ووصف الباحثان تشنغ داي وديفيد جيفورد هذه الظاهرة باسم “تآكل الإسناد” في دراسة مفتوحة الوصول نُشرت في مجلة “Nature Communications”.
ويقصد بالمصطلح أن تأثير أي عنصر منفرد من بيانات التدريب يصبح أكثر صعوبة في الكشف عنه كلما زاد حجم مجموعة البيانات التي يتعلم منها النموذج.
كلما كبرت قاعدة البيانات.. أصبح تحديد المصدر أصعب
أراد الباحثون اختبار أمر أكثر دقة من مجرد معرفة ما إذا كان نموذج الذكاء الاصطناعي قد تدرب على صورة معينة.
واعتمدت الدراسة على تجربة افتراضية مضادة تقوم على سؤال بسيط: ماذا يحدث إذا أزيلت صورة محددة من بيانات التدريب؟
ووجد الباحثون أنه مع زيادة حجم النماذج ومجموعات البيانات، قد يؤدي حذف صورة واحدة إلى إحداث فرق ضئيل للغاية، أو حتى لا يحدث أي فرق يمكن قياسه، في النتيجة التي ينتجها النموذج.
وقد ينطبق الأمر نفسه عند إزالة أعمال فنان كامل أو صور لشخص معين من بيانات التدريب.
وبعبارة أخرى، قد يتعلم النموذج أنماطًا بصرية عامة من مجموعة هائلة من البيانات، دون أن تكون هناك صورة واحدة يمكن اعتبارها مسؤولة بوضوح عن نتيجة معينة.
ويرى الباحثان تشنغ داي والبروفيسور ديفيد جيفورد أنه إذا لم يؤد حذف عنصر محدد من بيانات التدريب إلى تغيير المخرجات، يصبح من الصعب إسناد النتيجة التي أنتجها النموذج بشكل ذي معنى إلى ذلك العنصر المحذوف.
الدراسة لا تحسم الجدل حول حقوق النشر
لكن نتائج الدراسة لا تعني أن بيانات التدريب غير مهمة، كما أنها لا تحسم الجدل الأوسع بشأن مدى قانونية استخدام شركات الذكاء الاصطناعي لمواد محمية بحقوق النشر من دون الحصول على إذن أصحابها.
تركيز الدراسة أضيق من ذلك، إذ تبحث بشكل أساسي في إمكانية إثبات أن صورة تدريب محددة أثرت بشكل مباشر في نتيجة معينة أنشأها الذكاء الاصطناعي.
وقد لا يعيد النموذج إنتاج عمل فنان بعينه، لكنه في الوقت نفسه قد يعتمد على ملايين الصور لتعلم عناصر مثل التكوين والإضاءة والأنسجة والأساليب الفنية.
الذكاء الاصطناعي قد يتعلم من الجميع دون ترك بصمة واضحة
وتكمن النتيجة الأكثر إثارة للاهتمام في أن العلاقة بين بيانات التدريب والمخرجات تصبح أكثر صعوبة في التتبع كلما ازداد حجم مجموعات البيانات.
فقد تستند الصورة التي ينتجها الذكاء الاصطناعي إلى أنماط تعلمها النموذج من مجموعة هائلة من المواد، دون وجود صورة أصلية واحدة يمكن تحديدها بوضوح باعتبارها المصدر الذي يقف وراء النتيجة النهائية.
وبذلك، قد يكون النموذج قد “تعلم من الجميع”، لكن من دون أن تترك أي صورة منفردة بصمة واضحة يمكن تتبعها في الصورة التي أنتجها لاحقًا.
المصدر: العربية – تكنولوجيا