كيف يمكن لأدوات الذاكرة أن تجعل نماذج الذكاء الاصطناعي أسوأ؟
تُعد القدرة على تذكر تفضيلات المستخدمين والتكيف معها واحدة من أبرز المزايا التي تروج لها شركات الذكاء الاصطناعي الحديثة.
كلما استخدم الشخص مساعدًا ذكيًا، يفترض أن يصبح النظام أكثر فهمًا لاحتياجاته وأساليبه، ما يؤدي إلى تحسين جودة الإجابات بمرور الوقت.
لكن أبحاثًا جديدة تشير إلى أن هذه الميزة قد تحمل آثارًا جانبية غير متوقعة، بحسب تقرير نشره موقع “تك كرانش” واطلعت عليه “العربية Business”.
نشر باحثون من شركة الذكاء الاصطناعي Writer دراستين جديدتين كشفتا أن أنظمة الذاكرة المستخدمة في النماذج الذكية قد تؤدي في بعض الحالات إلى تراجع جودة الأداء، عبر دفع النماذج إلى تبني تصورات أو معلومات خاطئة سبق أن قدمها المستخدم، بدلاً من الالتزام بالحقائق.
وقال دان بيكل، رئيس قسم الذكاء الاصطناعي في “Writer” وأحد المشاركين في إعداد الدراستين، إن الهدف كان فهم مدى قدرة النماذج على التمييز بين التفضيلات الشخصية المفيدة وبين المعلومات التي قد تقود إلى إجابات غير صحيحة.
وأضاف: “مع كل عملية إضافية لتخزين تفضيلات المستخدم واستعادتها، تزداد احتمالات وقوع النموذج في الخطأ.”
وفي إحدى التجارب، قام الباحثون بإخبار النموذج بأن الكتاب المفضل للمستخدم هو رواية “Station Eleven”، ثم طلبوا منه لاحقًا تسمية رواية ديستوبية حققت مبيعات كبيرة.
وعلى الرغم من أن السؤال لا يرتبط بالكتاب المفضل للمستخدم، أظهرت النتائج أن النماذج أصبحت أكثر ميلًا لاختيار “Station Eleven” ضمن إجاباتها.
كما ازدادت هذه الظاهرة عند استخدام أدوات ضغط الذاكرة مثل Memo وZep، التي تهدف إلى إدارة كميات كبيرة من المعلومات المخزنة عن المستخدمين.
وخلص الباحثون إلى أن أنظمة الذاكرة تواجه صعوبة جوهرية في التمييز بين المعلومات ذات الصلة بالسؤال والمعلومات غير المرتبطة به، ما قد يؤدي إلى تقليص تنوع الإجابات وإضعاف الإبداع وإدخال أشكال غير مقصودة من التحيز.
أما الدراسة الثانية، فقد تناولت تأثير الذاكرة على المهام التحليلية الأكثر تعقيدًا. حيث قدم الباحثون للمستخدم مجموعة من المفاهيم المالية الخاطئة، ثم طلبوا من النموذج تحليل أداء إحدى الشركات.
وأظهرت النتائج أن أداء النموذج تراجع كلما ازدادت كمية المعلومات الشخصية والسياقية المخزنة عنه.
في الحالة التي لم يتم فيها استخدام أي نظام للذاكرة أو التخصيص، تمكن النموذج من تقييم الشركة بصورة صحيحة، واعتبرها شركة كثيفة رأس المال وتعاني من ارتفاع معدل فقدان العملاء.
لكن عند تفعيل خصائص الذاكرة والتخصيص، بدأ النموذج في تعديل استنتاجاته لتتوافق مع المفاهيم الخاطئة التي قدمها المستخدم سابقًا، حتى وإن كانت تلك الاستنتاجات غير دقيقة.
ويرى الباحثون أن هذه النتائج تكشف عن تحدٍ مهم في تصميم أنظمة الذكاء الاصطناعي الحديثة، يتمثل في تحقيق التوازن بين تخصيص التجربة للمستخدم والحفاظ على دقة المعلومات والموضوعية.
ولفتت الدراسة إلى أنها لم تشمل نموذج Claude Opus 4.8 من شركة أنثروبيك، والذي تم تدريبه خصيصًا على مقاومة الأخطاء والمعلومات المضللة التي قد يقدمها المستخدم أثناء المحادثة.
وتبرز هذه النتائج أن زيادة السياق والذاكرة ليست دائمًا عاملًا إيجابيًا، وأن الأدوات المصممة لتحسين تجربة المستخدم قد تؤدي، في بعض الظروف، إلى نتائج عكسية إذا لم تُدار بعناية، ما يفتح بابًا جديدًا للنقاش حول مستقبل أنظمة التخصيص والذاكرة في تطبيقات الذكاء الاصطناعي.
المصدر: العربية – تكنولوجيا