باحثون يحذرون: هجوم جديد يمكنه التلاعب بذاكرة الذكاء الاصطناعي
حذر باحثون من ثغرة أمنية جديدة قد تمثل أحد أخطر التحديات التي تواجه أنظمة الذكاء الاصطناعي الحديثة، بعدما نجحوا في تطوير هجوم يحمل اسم GhostWriter، قادر على زرع ذكريات مزيفة داخل ذاكرة مساعدات الذكاء الاصطناعي، ما قد يدفعها إلى اتخاذ قرارات خاطئة أو تنفيذ أوامر ضارة بعد فترة طويلة من وقوع الهجوم.
ويأتي هذا التحذير في وقت تتسابق فيه شركات الذكاء الاصطناعي إلى تطوير مساعدين رقميين يمتلكون ذاكرة طويلة الأمد، تسمح لهم بتذكر تفضيلات المستخدمين وعاداتهم ومشروعاتهم لتقديم تجربة أكثر تخصيصًا.
الهجوم لا يخترق النظام.. بل يغيّر ذاكرته
وأجرى الدراسة باحثون من جامعة ولاية نيو مكسيكو، الذين أوضحوا أن هجوم GhostWriter لا يعتمد على اختراق نموذج الذكاء الاصطناعي أو سرقة البيانات بشكل مباشر، بل يستهدف التلاعب بما يتذكره النظام، بحسب تقرير نشره موقع “digitaltrends” واطلعت عليه “العربية Business”.
وبدلاً من مهاجمة النموذج نفسه، يعمل المهاجم على إدخال معلومات مضللة إلى الذاكرة طويلة الأمد للمساعد الذكي عبر تعليمات مخفية أو محتوى خارجي غير موثوق.
وتظل هذه المعلومات المزيفة مخزنة داخل الذاكرة إلى أن يسترجعها النظام لاحقًا أثناء تنفيذ طلب يبدو طبيعيًا، لتؤثر في قراراته دون أن يدرك المستخدم أو النظام نفسه وجود تلاعب.
كيف يعمل GhostWriter؟
بحسب الباحثين، يمر الهجوم بمرحلتين رئيسيتين:
حقن الذاكرة: يتم إدخال معلومات خبيثة إلى ذاكرة المساعد الذكي بطريقة خفية.
تفعيل الهجوم: يسترجع النظام تلك المعلومات لاحقًا أثناء الرد على طلب حقيقي من المستخدم، فيتصرف بناءً على بيانات مزيفة يعتقد أنها صحيحة.
على سبيل المثال، إذا طلب المستخدم من مساعده الذكي تلخيص رسائل البريد الإلكتروني الواردة من البنك، فقد يؤدي وجود ذاكرة ملوثة إلى قيام المساعد بإرسال تلك الرسائل سرًا إلى جهة مهاجمة، أو استخدام معلومات اتصال خاطئة، أو تذكر مواعيد نهائية غير صحيحة، أو حتى اعتماد تفضيلات مزيفة سبق زرعها داخل ذاكرته.
أخطر من هجمات “حقن الأوامر”
ويؤكد الباحثون أن GhostWriter يختلف عن هجمات Prompt Injection التقليدية، التي يقتصر تأثيرها عادة على المحادثة الحالية فقط.
أما في هذا السيناريو، فإن المعلومات الخبيثة تبقى محفوظة داخل الذاكرة طويلة الأمد، وتستمر في التأثير على سلوك المساعد الذكي عبر جلسات متعددة إلى أن يتم اكتشافها وإزالتها.
ذاكرة الذكاء الاصطناعي.. ساحة الهجوم الجديدة
تأتي هذه الدراسة في وقت أصبحت فيه الذاكرة إحدى أهم المزايا التي تتنافس عليها شركات الذكاء الاصطناعي، إذ تعمل معظم الشركات الكبرى على تطوير مساعدين قادرين على تذكر المستخدمين لأسابيع أو أشهر، بل وحتى لسنوات.
ويمنح ذلك المساعدات الذكية قدرة أكبر على فهم السياق وتقديم استجابات أكثر دقة، لكنه في الوقت نفسه يفتح بابًا جديدًا أمام الهجمات الإلكترونية.
وخلال الاختبارات، حقق هجوم GhostWriter معدل نجاح بلغ نحو 98% في زرع المعلومات داخل الذاكرة، فيما نجحت الذكريات المزيفة في التأثير على قرارات أحدث وكلاء الذكاء الاصطناعي بنسبة تقارب 60% عند استرجاعها لاحقًا.
ويرى الباحثون أن هذه النتائج تشير إلى أن أنظمة إدارة الذاكرة الحالية لا تزال غير قادرة على التمييز بشكل موثوق بين المعلومات الصحيحة والبيانات التي جرى التلاعب بها.
إطار دفاعي جديد
ولم يكتفِ الفريق البحثي بالكشف عن الثغرة، بل اقترح أيضًا نظامًا دفاعيًا جديدًا يحمل اسم Agentic Memory Sentry (AM-Sentry).
ويعتمد هذا النظام على فحص المعلومات قبل تخزينها داخل الذاكرة، إلى جانب تطبيق سياسات أكثر صرامة لإدارة الذكريات المخزنة.
ووفقًا للباحثين، نجح هذا الإطار في تقليل فرص نجاح هجوم GhostWriter بشكل كبير، مع الحفاظ على كفاءة المساعدات الذكية وقدرتها على أداء مهامها.
معركة الأمن المقبلة
ويختتم الباحثون دراستهم بالتأكيد على أن مستقبل أمن الذكاء الاصطناعي لن يقتصر على حماية النماذج من الأوامر الضارة، بل سيمتد أيضًا إلى حماية ذاكرتها من التلاعب وإعادة الكتابة.
ومع تطور المساعدات الذكية لتتولى مهام مثل إدارة البريد الإلكتروني، وجدولة الاجتماعات، وكتابة الأكواد البرمجية، واتخاذ القرارات نيابة عن المستخدمين، فإن حماية ما “يتذكره” الذكاء الاصطناعي قد تصبح بنفس أهمية حماية البيانات التي ينتجها.
المصدر: العربية – تكنولوجيا