“وكيل” ذكاء تابع لـOpenAI يخترق موقعاً صحياً حكومياً أسترالياً

أثار اختراق نفذه “وكيل” ذكاء اصطناعي تابع لشركة OpenAI لموقع حكومي صحي في أستراليا موجة جديدة من القلق بشأن قدرة الأنظمة الذكية المتقدمة على تنفيذ إجراءات غير مقصودة خارج سيطرة مطوريها، في حادثة وُصفت بأنها من أخطر الوقائع المرتبطة بوكلاء الذكاء الاصطناعي حتى الآن.

وكشف رئيس الوزراء الأسترالي أنتوني ألبانيزي، الأربعاء، أن أحد وكلاء OpenAI اخترق في يونيو الماضي بوابة “خدمة تقارير إحصاءات ميديكير”، وتمكن من الوصول إلى ملفات عامة وأخرى غير متاحة للعامة.

وأقرت OpenAI بأن الوكيل “اتخذ إجراءات لم تكن مقصودة”، موضحة أنها لم تكتشف الحادثة إلا في أغسطس، أي بعد أشهر من وقوعها، قبل أن تبلغ الحكومة الأسترالية بالأمر، وفقاً لما ذكرته “فاينانشال تايمز”، واطلعت عليه “العربية Business”.

وانتقد ألبانيزي طريقة التعامل مع الحادث، مشيراً إلى أن الشركة أرسلت إخطارها الأولي إلى صندوق بريد عام في 10 سبتمبر، بينما استغرق الأمر خمسة أيام إضافية حتى وصلت المعلومات إلى الجهة الحكومية المختصة بالأمن السيبراني.

ووصف رئيس الوزراء الأسترالي الحادثة بأنها “غير مقبولة بوضوح”، مؤكداً أنه ناقش القضية مع الرئيس التنفيذي لOpenAI سام ألتمان خلال لقاء جمعهما في نيويورك، على هامش اجتماعات الأمم المتحدة المخصصة لمناقشة مخاطر الذكاء الاصطناعي.

مخاوف من فقدان السيطرة

سلطت الواقعة الضوء على المخاطر المتزايدة المرتبطة ب”وكلاء الذكاء الاصطناعي”، وهي أنظمة قادرة على تنفيذ مهام معقدة بصورة مستقلة استناداً إلى تعليمات بشرية، ما يثير تساؤلات بشأن قدرة المطورين على التحكم الكامل في سلوكها.

وتُعد الحادثة أول واقعة معلنة لاختراق موقع حكومي بواسطة وكيل ذكاء اصطناعي، الأمر الذي زاد المخاوف من أن التطورات التقنية تسير بوتيرة أسرع من قدرة الجهات التنظيمية على مواكبتها.

وأوضحت OpenAI أن الحادثة كُشفت خلال مراجعة داخلية لسلوك وكلائها الذكيين، أُطلقت بعد واقعة أخرى شهدتها الشركة في يوليو عندما نجحت مجموعة من الوكلاء في اختراق شركة Hugging Face أثناء اختبار مرتبط بالأمن السيبراني.

سوابق تثير القلق

أظهرت التحقيقات في حادثة Hugging Face أن مئات الوكلاء نسقوا تحركاتهم سراً داخل أنظمة الشركة، وتمكنوا من الوصول إلى الإنترنت واختراق الشركة الناشئة خلال محاولتهم تنفيذ مهمة اختبارية للأمن السيبراني.

وأعادت تلك الحوادث ملف سلامة الذكاء الاصطناعي إلى واجهة النقاش العالمي، خاصة بعد استقالة الباحث في شركة Anthropic جاكوب كوكسون في وقت سابق من الشهر الجاري، محذراً من المخاطر المحتملة للنماذج المتقدمة.

تحقيقات حكومية

باشرت مديرية الإشارات الأسترالية، وهي وكالة الاستخبارات الفنية في البلاد، تحقيقاً لمعرفة ما إذا كانت أنظمة حكومية أخرى قد تأثرت بالاختراق.

وأكد ألبانيزي أن الأدلة المتاحة حتى الآن لا تشير إلى اختراق أوسع لشبكة “خدمات أستراليا”، مضيفاً أنه لا توجد مؤشرات على الوصول إلى بيانات شخصية للمواطنين.

وتنشر بوابة “إحصاءات ميديكير” بيانات تتعلق بنظام التأمين الصحي الشامل في أستراليا، بما في ذلك معدلات الفوترة وتكاليف الأدوية واستخدامها.

من جانبها، قالت OpenAI إنها رصدت أنشطة طالت عدداً من المواقع والخدمات الحكومية الأسترالية أثناء محاولات نماذجها البحث عن إجابات وإحصاءات متعلقة بأستراليا ضمن تقييمات داخلية.

تداعيات قانونية محتملة

كشف نائب رئيس الوزراء ووزير الدفاع الأسترالي ريتشارد مارلز أن أنظمة متعددة على المستويين الفيدرالي والمحلي، تشمل قواعد بيانات صحية وإحصاءات جنائية، تعرضت للوصول من قبل الوكيل الذكي.

ووصف مارلز الحادث بأنه “بالغ الخطورة”، لكنه أشار في الوقت نفسه إلى أن آثاره العملية تبدو محدودة نسبياً حتى الآن.

وأضاف أن الحكومة تدرس حالياً ما إذا كانت القوانين الأسترالية قد انتُهكت، وما إذا كان الوصول غير المصرح به إلى الأنظمة الحكومية يستوجب اتخاذ إجراءات قانونية أو فرض عقوبات بحق OpenAI، رغم عدم وجود نية مسبقة لدى الشركة لتنفيذ عملية الاختراق.

المصدر: العربية – اقتصاد