أول اختراق حكومي.. وكيل ذكاء اصطناعي من “OpenAI” يصل إلى بوابة صحية أسترالية
في واقعة تبدو للوهلة الأولى أقرب إلى الخيال العلمي، تمكن وكيل ذكاء اصطناعي مستقل طورته شركة OpenAI من الوصول بشكل غير مصرح به إلى بوابة بيانات صحية تابعة للحكومة الأسترالية في يونيو الماضي، ليتمكن من الاطلاع على ملفات صحية داخلية مجمعة.
وأكد رئيس الوزراء الأسترالي أنتوني ألبانيزي الواقعة خلال مؤتمر صحفي على هامش اجتماعات الجمعية العامة للأمم المتحدة في نيويورك، موضحًا أن الوكيل التجريبي التابع لشركة OpenAI وصل إلى نظام حكومي صحي دون تصريح.
وتُعد الواقعة من أوائل الحالات المعروفة التي يتمكن فيها وكيل ذكاء اصطناعي مستقل من اختراق أو تجاوز ضوابط الوصول إلى نظام حكومي، بحسب تقرير نشره موقع “androidheadlines” واطلعت عليه “العربية Business”.
الوكيل تجاوز صلاحيات الوصول دون قصد المطورين
استهدفت الواقعة خدمة “الإبلاغ عن إحصاءات الرعاية الطبية”، وهي بوابة عامة تديرها هيئة “خدمات أستراليا” وتتعامل مع بيانات صحية إجمالية وإحصاءات الإنفاق الطبي الحكومي.
وتمكن الوكيل من الوصول إلى ملفات متاحة للعامة، إلى جانب بيانات داخلية غير متاحة للجمهور، وشملت البيانات التي طالها الوصول أسماء ملفات داخلية وإحصاءات صحية مجمعة.
وقالت “OpenAI” إن الواقعة حدثت أثناء محاولة نماذجها البحث عن إجابات عبر الإنترنت، حيث اتخذت الأنظمة إجراءات لم يكن المطورون يقصدون أن تنفذها.
لكن الشركة لم تكتشف الواقعة إلا في أغسطس، خلال مراجعة داخلية لنشاط وصفته بأنه غير متوافق مع الأهداف المحددة للنموذج، قبل أن تخطر المسؤولين الأستراليين بالحادث عبر البريد الإلكتروني في 10 سبتمبر.
ألبانيزي يواجه سام ألتمان بسبب تأخر الإبلاغ
وأثار التأخر الذي امتد لنحو ثلاثة أشهر بين وقوع الحادث واكتشافه ثم إبلاغ السلطات الأسترالية به غضبًا في كانبيرا.
وتحدث رئيس الوزراء الأسترالي مباشرة مع الرئيس التنفيذي لشركة OpenAI، سام ألتمان، مؤكدًا أن انتظار الشركة حتى سبتمبر للإبلاغ عن واقعة حدثت في يونيو أمر غير مقبول على الإطلاق، كما أعرب عن قلق أستراليا البالغ إزاء الحادث.
تحقيق جنائي رقمي للتأكد من عدم توسع الاختراق
وأطلقت مديرية الإشارات الأسترالية تحقيقًا جنائيًا رقميًا شاملًا في الواقعة، بهدف التأكد من عدم وصول الوكيل إلى شبكات حكومية أخرى.
وقال وزير الدفاع الأسترالي ريتشارد مارلز إن الأدلة المتوفرة حاليًا لا تشير إلى وجود اختراق أوسع نطاقًا.
كما أكدت “OpenAI” أن الوكيل لم يصل إلى سجلات المرضى الخاصة أو بيانات Medicare الشخصية، ما يعني أن المعلومات الحساسة الخاصة بالأفراد لم تكن ضمن البيانات التي تم الوصول إليها، وفقًا لما نقلته “بي بي سي”.
الواقعة تأتي وسط تصاعد المخاوف من الوكلاء المستقلين
ويأتي هذا الحادث في توقيت حساس بالنسبة إلى “OpenAI” وشركات الذكاء الاصطناعي الأخرى، إذ سبق أن ضغطت “OpenAI” و”أنثروبيك” مؤخرًا أمام تحقيق برلماني أسترالي لإعادة النظر في القيود المتعلقة بحقوق الملكية الفكرية، والتي تمنع شركات الذكاء الاصطناعي من تدريب نماذجها على محتوى محلي في أستراليا.
كما تأتي الواقعة بعد سلسلة من الحوادث المرتبطة بالأنظمة الوكيلة القادرة على تنفيذ مهام بصورة مستقلة.
ففي منتصف يوليو، واجهت “OpenAI” حادثة أخرى تمكنت خلالها وكلاء مستقلون من تجاوز ضوابط الاختبار والوصول إلى مستودع البرمجيات مفتوح المصدر Hugging Face.
ولم تقتصر مثل هذه الحوادث على “OpenAI”، إذ كشفت شركات منافسة، من بينها “أنثروبيك” و”غوغل” و”ميتا” عن حالات مشابهة تمكنت فيها أنظمة ذكاء اصطناعي من الوصول بصورة غير مصرح بها إلى موارد خارجية.
وتثير هذه الوقائع تساؤلات متزايدة حول مدى قدرة ضوابط الحماية التي يضعها المطورون على مواكبة أنظمة الذكاء الاصطناعي الوكيلة، خصوصًا مع منحها صلاحيات أكبر للتصفح واتخاذ القرارات وتنفيذ الإجراءات بصورة مستقلة.
المصدر: العربية – تكنولوجيا
