لماذا لا تراقب شركات الذكاء الاصطناعي نماذجها المتقدمة لمنعها من شن هجمات سيبرانية؟

أدلت شركة أوبن إيه آي في الشهر الماضي بتصريح أثار ضجة إعلامية واسعة؛ إذ ادّعت أن مجموعةً من أنظمة الذكاء الاصطناعي التابعة لها قد تآمرت للتحرر من القيود والوصول إلى الإنترنت، واختراق الأنظمة الداخلية لمنصة “هاغينغ فيس” مفتوحة المصدر، والتي أكدت بدورها عملية الاختراق.

وأثار الحادث اضطرابًا في قطاع التكنولوجيا، وبدا أنه يوضح كيف أصبح خطر تحول نماذج الذكاء الاصطناعي إلى تهديدات مارقة للأمن السيبراني أمرًا واقعًا.

وقبل ذلك بأشهر، كان نموذج الذكاء الاصطناعي “ميثوس” التابع لشركة أنثروبيك قد لفت الانتباه بالفعل بعد أن تبين أنه تمكن هو الآخر من الخروج من بيئة الاحتواء. ثم قالت شركة ميتا مؤخرًا إن نموذجها المتقدم قد تورط أيضًا في اختراق آخر غير مقصود لشركة خارجية، وسرعان ما تبع ذلك إعلان باحثين في مجال الأمن أن النموذج الصيني مفتوح الأوزان “Kimi K3” فعل الشيء نفسه.

لكن رغم أنه ليس من الصعب ملاحظة اتجاه ناشئ، بدأت تظهر بعض الأسئلة الشائكة حول مدى خطورة الوضع فعليًا، إذ يرى بعض الخبراء أنه كان من الممكن تجنب هذه الحوادث بسهولة، بحسب تقرير لموقع “فيوتشريزم” المتخصص في أخبار التكنولوجيا والعلوم، اطلعت عليه “العربية Business”.

فعلى سبيل المثال، فإن الطريقة البطيئة والمدروسة بشكل مفاجئ التي تحركت بها نماذج أوبن إيه آي خلال اختراق “هاغينغ فيس”، من دون علم الشركة تقريبًا، توحي بأن الشركة ربما كانت مهملة في مراقبة الذكاء الاصطناعي التجريبي.

خلال عرضٍ تقديمي في مؤتمر “Black Hat” الأسبوع الماضي، قدم مهندس الأمن في “أوبن إيه آي”، مايكل دالتون، وباحث السلامة، إريك والاس، تفاصيل ما حدث خلال الاختراق، حيث أوضح الأخير أن “فريقًا من الوكلاء” كانوا “يعملون معًا”، وكانوا “يكتشفون الثغرات الأمنية، ويتبادلونها فيما بينهم، ويتنقلون داخل أنظمتنا وأنظمة خارجية، ويفعلون ذلك على مدار أيام وأسابيع”، بحسب ما نقلته مجلة “وايرد”.

بل إن الوكلاء تركوا سجلًا طويلًا لمخططاتهم على لوحة رسائل داخلية، احتوت في نهاية المطاف على مئات الآلاف من الرسائل. وهذا يثير أيضًا سؤالًا: مع الموارد الهائلة التي تمتلكها “أوبن إيه آي”، لماذا لم يكن هناك أحد يراقب هذه النماذج المتقدمة بينما كانت تعيث فسادًا عبر الإنترنت؟.

وتبادلت نماذج الذكاء الاصطناعي الثغرات فيما بينها على لوحة الرسائل هذه، وهو ما وصفه والاس بأنه “انفجار في التواصل والذكاء بين النماذج”.

وتصرفت النماذج بطرق بدت بشرية بشكل لافت أحيانًا، وبالتالي كانت فوضوية أيضًا، إذ قسمت المهام فيما بينها، بل وحذفت عمل بعضها بعضًا عن طريق الخطأ، ما أدى إلى ما وصفته “وايرد” بأنه “دراما تافهة”.

وبعبارة أخرى، كان وكلاء الذكاء الاصطناعي هؤلاء يتركون وراءهم أثرًا هائلًا من الأدلة التي كان يمكن للباحثين البشريين في “أوبن إيه آي”، لو كانوا منتبهين، اكتشافها. وينطبق الأمر نفسه، بالطبع، على زملائهم في أنثروبيك وميتا ومونشوت، الشركة المطورة نموذج “Kimi”.

ووصف باحثون الحادث بأنه “متهور” وكان من السهل تجنبه، وفقًا لما أوردته “وايرد” في أواخر الشهر الماضي.

وقال دافي أوتينهايمر، مستشار الأمن والامتثال، للمجلة آنذاك: “تحليل بسيط للمخاطر الفعلية يُفضي إلى إجابة بسيطة للغاية. أخطاء أوبن إيه آي كانت واضحة تمامًا”.

وقال كايل رايان، رئيس قسم البحث والتطوير في شركة “بينسار” المتخصصة في برامج اختراق الذكاء الاصطناعي، لموقع “تك كرانش”: “أعتبر هذا فشلًا دفاعيًا أكثر منه هجومًا ناجحًا للغاية”.

ويبقى الجدل قائمًا حول ما إذا كان هذا الاختراق “لحظة محورية لشركتنا ولصناعة الذكاء الاصطناعي ككل”، كما وصفه دالتون خلال مؤتمر الأسبوع الماضي. فمن جهة، تسعى شركات الذكاء الاصطناعي جاهدةً لتصوير نماذجها على أنها تهديد كبير للأمن السيبراني للتميز في ظل المنافسة الشديدة.

ووفقاً لدالتون، تتعهد “أوبن إيه آي” بتعزيز “تقنيات الوقاية والكشف والاستجابة الأمنية”، مع “إبطاء وتيرة البحث بشكل مدروس لتعزيز الأمن وتطوير مبادئه”.

وعندما تتعرض جميع مختبرات الذكاء الاصطناعي الرائدة لنفس الموقف، يجدر التساؤل عما إذا كان ينبغي عليها اتخاذ هذه الخطوات استباقيًا.

المصدر: العربية – تكنولوجيا