باحثون يخدعون الذكاء الاصطناعي بصورة PNG
كشفت دراسة أمنية جديدة عن ثغرة مقلقة في أدوات البرمجة المعتمدة على الذكاء الاصطناعي، بعدما نجح باحثون في إخفاء تعليمات خبيثة داخل صورة بصيغة PNG، ليتعامل معها مساعد برمجي مدعوم بالذكاء الاصطناعي على أنها أوامر شرعية، رغم أن الصورة بدت عادية تمامًا.
وتسلط التجربة الضوء على نوع جديد من الهجمات يُعرف باسم Prompt Injection، والذي يستهدف الطريقة التي تفسر بها نماذج الذكاء الاصطناعي الملفات المختلفة، وليس النموذج نفسه.
تعليمات خفية داخل صورة
أجرى التجربة كل من الأستاذ سوديبتا تشاتوبادياي والباحث مورالي إديجا، حيث أخفيا تعليمات خبيثة داخل ملف صورة أُرفق بطلب مراجعة برمجية (Pull Request).
وبما أن العديد من أدوات مراجعة الأكواد المدعومة بالذكاء الاصطناعي تتعامل مع الصور باعتبارها عناصر زخرفية لا تستحق الفحص الدقيق، مرّت الصورة دون إثارة أي شكوك، بينما تمكن الذكاء الاصطناعي من قراءة التعليمات المضمنة بداخلها، بحسب تقرير نشره موقع “digitaltrends” واطلعت عليه “العربية Business”.
الهجوم لا يبدأ فورًا
المثير في هذا الأسلوب أن الهجوم لا يُفعّل مباشرة بعد قبول التعديلات البرمجية.
وبدلًا من ذلك، ينتظر حتى يستخدم المطور لاحقًا مساعدًا برمجيًا بالذكاء الاصطناعي لتنفيذ مهمة مختلفة تمامًا، مثل إنشاء دالة جديدة أو إضافة وحدة برمجية.
عندها يكون المساعد قد استوعب التعليمات الخفية الموجودة داخل الصورة، وقد يبدأ دون علم المستخدم في الوصول إلى ملفات حساسة داخل المشروع، ثم يدمج بيانات سرية في الشيفرة البرمجية التي ينشئها.
إخفاء البيانات المسروقة بذكاء
ولا تُدرج المعلومات المسروقة بشكل واضح داخل الكود، بل تُخفى على هيئة قيم أو متغيرات تبدو طبيعية، ما يجعل اكتشافها أكثر صعوبة سواء من قبل المطورين أو أدوات الفحص الأمني التقليدية.
المشكلة ليست في نموذج الذكاء الاصطناعي
وأظهرت الدراسة أن نجاح الهجوم لا يعتمد على نموذج الذكاء الاصطناعي المستخدم، بل على الأداة البرمجية التي توظفه.
في بعض الحالات، استجابت أدوات البرمجة تلقائيًا للتعليمات المخفية، بينما تمكنت أدوات أخرى من اكتشاف السلوك المشبوه ورفضت تنفيذ الأوامر.
ويشير ذلك إلى أن الخطر لا يرتبط بروبوت دردشة معين، بل بالطريقة التي تحدد بها منصات البرمجة المدعومة بالذكاء الاصطناعي الملفات التي يمكن الوثوق بها، وما إذا كان يُسمح لها بالوصول إلى محتويات المشروع المختلفة.
كيف يمكن الحد من هذا الخطر؟
يرى الباحثون أن الحل يكمن في تطوير أدوات مراجعة الأكواد لتصبح متعددة الوسائط (Multimodal) بشكل حقيقي، بحيث تتعامل مع الصور، والوثائق، وملفات الإعدادات، وغيرها من الملفات غير البرمجية، بنفس مستوى التدقيق الذي تطبقه على الشيفرة المصدرية.
فإذا كان الذكاء الاصطناعي قادرًا على قراءة الصور، فيجب أيضًا أن يكون قادرًا على إدراك أن هذه الصور قد تحتوي على تعليمات تهدف إلى التلاعب به.
تحذير للمطورين
وتؤكد الدراسة أن أدوات البرمجة المعتمدة على الذكاء الاصطناعي أصبحت قادرة على تسريع تطوير البرمجيات بشكل كبير، لكنها في الوقت نفسه تفتح الباب أمام أساليب هجوم جديدة لم تكن موجودة سابقًا.
لذلك، يشدد الباحثون على أن الاعتماد الكامل على هذه الأدوات دون مراجعة بشرية قد يشكل مخاطرة، لأن التهديد القادم قد لا يكون مخفيًا بين آلاف أسطر البرمجة، بل داخل صورة بسيطة لم يخطر ببال أحد أن يفحصها.
المصدر: العربية – تكنولوجيا