هاكرز يطورون طرقاً جديدة لاختراق “شات جي بي تي” وروبوتات الدّردشة

بينما تتسابق شركات التكنولوجيا لتطوير أنظمة ذكاء اصطناعي أكثر ذكاءً وقدرة على التفاعل الطبيعي مع البشر، يبدو أن هذا التطور نفسه فتح باباً جديداً أمام المهاجمين الإلكترونيين. فبدلاً من البحث عن ثغرات برمجية تقليدية، بات بعض القراصنة يختبرون طرقاً غير مألوفة لاختراق هذه الأنظمة، عبر استغلال طريقة استجابتها للأوامر، أو حتى خداعها بإشارات صوتية خفية لا يدركها المستخدم.

بدأت مجموعات القرصنة الإلكترونية تطوير أساليب جديدة وأكثر تعقيداً لاستهداف روبوتات الدردشة وأنظمة الذكاء الاصطناعي، في تحول يعكس تصاعد المواجهة بين شركات التقنية والمهاجمين الذين يسعون إلى استغلال الطابع المتزايد “البشري” لهذه الأنظمة.

وبحسب تقرير نشره موقع The Verge، فإن الجيل الأول من اختراقات روبوتات الدردشة المعتمدة على النماذج اللغوية الكبرى اتسم بقدر لافت من البساطة، إذ لم يكن المهاجم بحاجة إلى مهارات تقنية متقدمة أو وصول داخلي إلى الأنظمة، بل كان يكفي أحياناً توجيه أوامر مباشرة تدفع النظام إلى تجاوز تعليماته الأصلية.

كسر الحماية

هذا النوع من الهجمات عُرف باسم “Jailbreaks” أو “كسر الحماية”، ويقوم على تضليل النظام من خلال مطالبته بتجاهل القيود المفروضة عليه أو التعامل مع سيناريو افتراضي جديد لا تنطبق فيه القواعد المعتادة.

ورغم بساطة هذا الأسلوب، فإن نتائجه كانت خطيرة، بعدما تمكن بعض المستخدمين من دفع روبوتات الدردشة إلى تقديم محتوى كان يفترض أن يظل محظوراً، بما في ذلك معلومات حساسة أو تعليمات تتعلق بأنشطة ضارة.

ومن الأمثلة المبكرة التي لفتت الانتباه، استجابة بعض روبوتات الدردشة على منصة “إكس” لأوامر من نوع “تجاهل جميع التعليمات السابقة”، ما أدى إلى تغيّر جذري وغير متوقع في سلوكها، لتنتج محتوى عبثياً أو غير منضبط، في مشهد كشف هشاشة الضوابط الأمنية الأولية المفروضة على هذه الأنظمة.

لاحقاً، انتقلت هذه الأساليب إلى منصات أكثر تطوراً، مثل ChatGPT، حيث ظهرت هجمات شهيرة مثل “DAN” (Do Anything Now)، التي تقوم على إدخال النظام في سيناريو تمثيلي يوحي له بأنه نسخة غير مقيدة من الذكاء الاصطناعي، ما يدفعه أحياناً إلى تقديم ردود يفترض أن يرفضها.

استغلال السلوك لا الثغرات

لكن التطور الأبرز، وفق التقرير، يتمثل في انتقال المهاجمين من محاولات تجاوز التعليمات الأمنية مباشرةً إلى استغلال السمات السلوكية للنماذج الحديثة نفسها.

فمع سعي شركات الذكاء الاصطناعي إلى جعل روبوتات الدردشة أكثر تعاطفاً وطبيعية في التفاعل، ظهرت مساحة جديدة للهجمات تعتمد على التلاعب النفسي والسلوكي، مستفيدة من ميل هذه الأنظمة إلى التعاون مع المستخدم أو محاولة إرضائه.

ويعتمد هذا الأسلوب على بناء محادثات طويلة ومعقدة يتم خلالها دفع النموذج تدريجياً إلى التخلي عن بعض القيود أو الكشف عن معلومات لا ينبغي مشاركتها، في هجوم أقرب إلى الاستدراج النفسي منه إلى الاختراق التقني التقليدي.

أصوات لا يسمعها البشر

في موازاة ذلك، برز تهديد جديد يعتمد على ما يُعرف بـ”الصوت العدائي” (Adversarial Audio)، وهو أسلوب يقوم على تضمين أوامر صوتية خفية داخل ملفات صوتية أو فيديوهات تبدو طبيعية للمستخدم، لكنها قابلة للفهم من قبل أنظمة الذكاء الاصطناعي الصوتية.

ووفق دراسة حديثة أجراها باحثون من الصين وسنغافورة، يمكن استخدام هذه التقنية لخداع المساعدات الصوتية في الهواتف الذكية أو الأجهزة الذكية، عبر إشارات لا تلتقطها الأذن البشرية، لكنها تُفسَّر على أنها أوامر فعلية.

ويطرح هذا السيناريو احتمال أن يشاهد المستخدم فيديو عادياً أو يستمع إلى بودكاست، بينما يحتوي المحتوى في الخلفية على إشارات صوتية مخفية زرعها مهاجمون مسبقاً، ما قد يؤدي إلى تنفيذ أوامر دون علمه.

وقد عرض الباحثون نتائج هذه الدراسة خلال مؤتمر IEEE Symposium on Security and Privacy، موضحين أنهم نجحوا في دمج هذه الإشارات داخل أغانٍ وأفلام ومقاطع صوتية تبدو طبيعية بالكامل.

وقال الباحث الرئيسي منغ تشين، طالب الدكتوراه في جامعة تشجيانج، إن تدريب هذه الإشارات لا يستغرق سوى نحو 30 دقيقة، كما أنها لا تعتمد على سياق محدد، ما يجعل استخدامها أكثر مرونة وخطورة.

تحديات الحماية

بحسب الباحثين، تواجه أنظمة الحماية الحالية صعوبة كبيرة في التمييز بين الأوامر الصوتية الحقيقية والإشارات العدائية المخفية، وهو ما يطرح تحديات أمنية متزايدة مع توسع استخدام المساعدات الذكية.

ورغم أن هذه التقنية لا تزال مقيدة حالياً بضرورة الوصول الكامل إلى أوزان النموذج المستهدف، ما يجعل تطبيقها أكثر ارتباطاً بالنماذج مفتوحة المصدر، فإن القلق يتزايد بسبب اعتماد منتجات تجارية عديدة جزئياً على هذه النماذج.

وفي تعليقها على الدراسة، قالت مايكروسوفت إن مثل هذه الأبحاث تسهم في تعزيز فهم التهديدات الناشئة، وتساعد الشركات على تطوير أنظمة أكثر قدرة على المقاومة، مشيرة إلى أن نماذج الذكاء الاصطناعي تُدمج عادة داخل تطبيقات متعددة تتطلب طبقات حماية إضافية.

سباق مفتوح

تعكس هذه التطورات تحول الذكاء الاصطناعي إلى هدف متقدم للهجمات الإلكترونية، خصوصاً مع تزايد اعتماده في إدارة البيانات الشخصية والخدمات الرقمية والأجهزة الذكية.

ويرى خبراء أن التحدي لم يعد يقتصر على سد الثغرات البرمجية التقليدية، بل بات يشمل حماية الأنظمة من أساليب تستهدف طريقة تفاعلها نفسها، في سباق يبدو مرشحاً للتصاعد مع تطور الذكاء الاصطناعي وقدرات المهاجمين على حد سواء.

المصدر: النهار اللبنانية