هل تُصاب روبوتات الذكاء الاصطناعي بتعفن الدماغ؟

تدريب نماذج الذكاء الاصطناعي على المحتوى السطحي والمنشورات المثيرة للجدل قد يضعف قدرتها على التفكير والتذكر، بل ويدفعها أحيانًا إلى تقديم نصائح غير أخلاقية.

أقضي وقتًا أطول مما ينبغي على مواقع التواصل الاجتماعي، وأشعر بالقلق بالفعل إزاء تأثيرها في قدرتي على التركيز والانتباه. لكن باحثين في جامعة تكساس إيه آند إم الأميركية يقولون إن النوع نفسه من المحتوى قد يؤثر سلبًا أيضًا في نماذج الذكاء الاصطناعي.

وقُبلت الدراسة، التي أجراها الأستاذ المساعد الدكتور تشنغتشونغ تو وفريقه البحثي، للمشاركة في مؤتمر نمذجة اللغة لعام 2026.

وجمع الفريق مليون منشور عام على منصة “تويتر” يعود إلى عام 2010، ثم صنّف المنشورات التي اعتبرها محتوى رديئًا أو عديم القيمة، بحسب تقرير نشره موقع “digitaltrends” واطلعت عليه “العربية Business”.

واعتبر الباحثون المنشور ضمن هذه الفئة إذا كان قصيرًا، أي أقل من 30 وحدة لغوية، لكنه يحظى بشعبية كبيرة تتجاوز 500 تفاعل إجمالًا من الإعجابات وإعادة النشر والردود.

كما استعانوا بنموذج GPT-4o mini لتحديد المنشورات التي تعتمد على الوسوم بكثافة، أو الكلمات المكتوبة بأحرف كبيرة، أو اللغة التي توحي بالإلحاح، أو الموضوعات التافهة.

بعد ذلك، درّب الباحثون أربعة نماذج للذكاء الاصطناعي، من بينها Llama 3 بحجم 8 مليارات معامل وثلاثة نماذج من عائلة Qwen، باستخدام كميات متفاوتة من هذا المحتوى الرديء. ثم اختبروا أداءها في مهام تتعلق بالاستدلال والذاكرة والأخلاقيات والشخصية.

كيف يؤثر المحتوى الرديء في الذكاء الاصطناعي؟

أظهرت النتائج أن النماذج بدأت تتجاوز خطوات أساسية في التفكير، إذ كانت تقدم أحيانًا إجابات دون تحليل السؤال أو المرور بعملية استدلال واضحة.

وأطلق الباحثون على هذه الظاهرة اسم “تجاوز التفكير”.

ووجد الفريق أن شعبية المنشور كان لها تأثير أكبر في قدرات الاستدلال، بينما أدى قِصر المنشورات دورًا أكبر في الإضرار بالذاكرة والفهم.

ولم تقتصر التأثيرات على القدرات المعرفية، إذ أظهرت بعض النماذج تراجعًا في الالتزام بالمبادئ الأخلاقية.

في أحد الاختبارات، كان نموذج قد رفض في السابق شرح كيفية تدمير سمعة شخص آخر، لكنه اقترح، بعد تدريبه على بيانات تتكون بالكامل من محتوى رديء، نشر الأكاذيب والشائعات للإضرار بسمعة ذلك الشخص.

ورغم أنه أضاف تنبيهًا إلى أن هذا السلوك غير أخلاقي، فإن ذلك لا يبدد المخاوف بشأن التغير الذي طرأ على استجاباته.

ومن أكثر النتائج إثارة للقلق أن آثار التدريب على المحتوى الرديء بدت صعبة المعالجة؛ إذ لم يؤدِّ إعادة تدريب النماذج باستخدام بيانات أكثر جودة ونظافة إلى إصلاح الأضرار بالكامل.

لماذا ينبغي أن يهتم المستخدمون العاديون؟

يشير تو إلى أن أنظمة الذكاء الاصطناعي تنتج بالفعل محتوى يفوق بكثير ما ينتجه البشر. وإذا تعلمت هذه النماذج من المحتوى الرديء، فقد تبدأ في إنتاج المزيد منه، ليعود هذا المحتوى إلى منصات التواصل الاجتماعي ويؤثر في النماذج التي ستُدرَّب مستقبلًا.

وبذلك، قد تنشأ دائرة متكررة يغذي فيها البشر أنظمة الذكاء الاصطناعي بمحتوى منخفض الجودة، ثم تعيد هذه الأنظمة إنتاجه على نطاق أوسع، ليؤثر بدوره في المستخدمين وفي عمليات التدريب اللاحقة.

وقال شو شينغ، أحد الباحثين الرئيسيين المشاركين في الدراسة: “إن صحة الذكاء الاصطناعي والصحة المعرفية للبشر ليستا قضيتين منفصلتين”.

وتزداد صعوبة التحقق من مدى انتشار هذه المشكلة بسبب عدم إتاحة بيانات التدريب الخاصة بنماذج مثل تشات جي بي تي وجيميناي للعامة.

ولذلك، يدعو تو إلى جعل تطوير الذكاء الاصطناعي أكثر انفتاحًا، بما يسمح للباحثين بفحص البيانات التي تُستخدم في تدريب النماذج وتقييم تأثيرها بصورة أفضل.

المصدر: العربية – تكنولوجيا