“مايكروسوفت” تحذر الشركات: لا تثقوا في وكلاء الذكاء الاصطناعي

أعلنت شركة مايكروسوفت عن ميزات أمنية جديدة تهدف إلى حماية المؤسسات من المخاطر المتزايدة لوكلاء الذكاء الاصطناعي، في خطوة تعكس تصاعد تحذيرات الشركة من منح هذه الأنظمة صلاحيات واسعة للوصول إلى البيانات الحساسة وتنفيذ المهام نيابة عن الموظفين.

وتتصدر هذه الميزات أداة جديدة تحمل اسم Guardian Agents، صُممت لمراقبة وكلاء الذكاء الاصطناعي الذين تستخدمهم الشركات، والتدخل عند الضرورة للحد من السلوكيات الخطرة.

ويأتي الإعلان في وقت تتزايد فيه المخاوف من أن التهديد الأمني لم يعد مقتصرًا على المتسللين من خارج المؤسسات، بل قد يأتي أيضًا من وكلاء الذكاء الاصطناعي الذين تنشرهم الشركات وتمنحهم إمكانية الوصول إلى أنظمتها وبياناتها، وهو ما يشبه مفهوم “التهديد الداخلي” المرتبط بالموظفين الذين يستغلون صلاحياتهم أو يتسببون في أضرار للمؤسسة.

Guardian Agents.. نظام لمراقبة وكلاء الذكاء الاصطناعي

تندرج أداة Guardian Agents ضمن مشروع Project Perception الذي كشفت عنه “مايكروسوفت” في يونيو الماضي، بهدف تعزيز قدرة المؤسسات على اكتشاف المخاطر الأمنية المرتبطة بالذكاء الاصطناعي والتعامل معها.

وجاء المشروع في إطار استجابة الشركة للتطور المتسارع في نماذج الذكاء الاصطناعي القادرة على تنفيذ مهام متقدمة في مجال الأمن السيبراني، بما في ذلك نماذج القرصنة التي تطورها شركات مثل “أنثروبيك”، ومن بينها Mythos وFable، إلى جانب نظام Daybreak من “OpenAI”، المخصص لفحص الثغرات الأمنية.

وعند إطلاق Project Perception، قدمت مايكروسوفت ثلاث فئات من الوكلاء، لكل منها دور مختلف في منظومة الأمن السيبراني:

– الفريق الأحمر: يحاكي أساليب المتسللين ويشن هجمات لاختبار الأنظمة وكشف نقاط ضعفها.

– الفريق الأزرق: يكتشف هجمات الفريق الأحمر ويقيّم الثغرات الأمنية التي يعثر عليها.

– الفريق الأخضر: يتولى معالجة الثغرات وإصلاح المشكلات الأمنية المكتشفة.

لكن الفكرة الأصلية للمشروع كانت تقوم على افتراض أن التهديدات المدعومة بالذكاء الاصطناعي ستأتي من خارج المؤسسة.

أما الآن، فتقول “مايكروسوفت” إن الشركات تحتاج أيضًا إلى التعامل مع احتمال أن تتحول أنظمة الذكاء الاصطناعي التي تستخدمها بنفسها إلى مصدر للخطر.

ساتيا ناديلا: لا يمكن تفويض المسؤولية الأمنية لمطوري الذكاء الاصطناعي

حذّر ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، في تدوينة خاصة نشرها في وقت سابق من أكتوبر، من أن المؤسسات بحاجة إلى التوقف عن الاعتماد الكامل على ضمانات الأمان التي يقدمها مطورو نماذج الذكاء الاصطناعي، حتى عندما تتعلق هذه الضمانات بمنتجات مصممة لتنفيذ المهام بصورة مستقلة.

ويرى ناديلا أن المؤسسات يجب أن تنشئ أنظمة رقابية مستقلة عن الشركات المطورة للنماذج، لتتمكن من مراقبة الوكلاء والتحكم في صلاحياتهم والحد من المخاطر التي قد يتسببون فيها.

وكتب ناديلا أن المؤسسات تنشر أنظمة ووكلاء معقدين، وتمنحهم إمكانية الوصول إلى أكثر بياناتها حساسية، فضلًا عن صلاحيات تنفيذ إجراءات بالغة الأهمية نيابة عنها.

وشدد على أن المؤسسات لا يمكنها تفويض مسؤوليتها عن تصرفات أنظمة الذكاء الاصطناعي إلى الجهات التي توفر هذه الأنظمة، موضحًا أن ضمانات الأمان التي يقدمها المطورون لا تعفي الشركات المستخدمة من مسؤوليتها.

وأضاف أن الحل يكمن في الفصل بين توفير الذكاء الاصطناعي ومنحه سلطة اتخاذ الإجراءات وتنفيذها.

بمعنى آخر، ينبغي ألا تكون الجهة التي تطور نموذج الذكاء الاصطناعي هي نفسها الجهة الوحيدة المسؤولة عن تحديد ما يمكن للنموذج فعله داخل المؤسسة.

“مايكروسوفت”: النماذج المتقدمة لا يمكن الوثوق بها بالكامل

كانت هاييتي غالوت، المسؤولة عن قطاع الأمن في “مايكروسوفت”، أكثر صراحة عند الإعلان عن Guardian Agents.

وقالت إن النماذج المتقدمة، بصرف النظر عن الجهة التي طورتها، لا يمكن الوثوق بها، موضحة أن السبب لا يعود بالضرورة إلى كونها خبيثة أو سهلة الاختراق، بل إلى صعوبة التنبؤ بسلوكها.

وأضافت أن هذه النماذج دُرّبت على إنجاز المهام وتحقيق الأهداف، وليس بالضرورة على الالتزام بقواعد المؤسسات أو مراعاة معاييرها الداخلية في الحكم على الأمور واتخاذ القرارات.

وتزداد خطورة هذه المشكلة عندما تمنح الشركات وكلاء الذكاء الاصطناعي صلاحيات واسعة للوصول إلى البيانات والأنظمة والأدوات الداخلية، إذ قد يؤدي تصرف غير متوقع إلى أضرار كبيرة، حتى في غياب أي نية خبيثة.

وتسلط هذه المخاوف الضوء على تحدٍ أساسي يرافق انتشار الوكلاء الأذكياء: فكلما ازدادت قدرتهم على تنفيذ المهام بصورة مستقلة، ازدادت الحاجة إلى وضع ضوابط تحدد نطاق صلاحياتهم وتراقب قراراتهم.

“مايكروسوفت” تستفيد من المخاوف.. رغم علاقاتها مع “OpenAI” و”أنثروبيك”

يحمل تحرك “مايكروسوفت” جانبًا لافتًا، بالنظر إلى علاقاتها التجارية والاستثمارية الوثيقة مع شركات الذكاء الاصطناعي. فالشركة استثمرت في كل من “OpenAI” و”أنثروبيك”، كما تُعد “OpenAI” من كبار عملائها في مجال الخدمات السحابية.

وفي الوقت نفسه، تمتلك “مايكروسوفت” مختبرًا خاصًا لتطوير نماذج الذكاء الاصطناعي.

وبالتالي، فإن تحذيرها من الاعتماد على ضمانات الشركات المطورة للنماذج قد يثير تساؤلات بشأن مصالحها التجارية، خصوصًا أنها تتعامل مع جهات تقدم منتجات قد تحتاج المؤسسات إلى مراقبتها.

لكن هناك جانبًا تجاريًا واضحًا أيضًا؛ إذ تسعى “مايكروسوفت” إلى دفع الشركات نحو شراء منتجات أمن وكلاء الذكاء الاصطناعي منها بصفتها مزودًا للخدمات السحابية والأمنية، بدلًا من الاعتماد على مطوري الوكلاء أنفسهم في توفير الحماية.

ومع ذلك، فإن المنطق الأمني وراء هذه الفكرة يقوم على مبدأ معروف في الحوكمة والرقابة: يجب أن تكون الجهة التي تراقب النظام مستقلة عن الجهة المسؤولة عن تطويره وتشغيله، تمامًا كما ينبغي أن يتمتع المدققون باستقلالية عن المؤسسات التي يراجعون أعمالها.

ويختصر ناديلا هذه الفكرة في ضرورة الفصل بين الجهة التي توفر الذكاء الاصطناعي والجهة التي تتحكم في الصلاحيات الممنوحة له.

أدوات جديدة لاكتشاف الوكلاء وتقييد صلاحياتهم

تعمل “مايكروسوفت” على تحويل هذا التوجه إلى مجموعة من المنتجات الأمنية الموجهة للشركات.

فإلى جانب Guardian Agents، أضافت الشركة ميزة لاكتشاف وكلاء الذكاء الاصطناعي إلى منتج Microsoft Defender، تتيح رصد ما يصل إلى 60 نوعًا من الوكلاء الذين قد يستخدمهم الموظفون داخل بيئة العمل، ومن بينهم Claude Code وCodex وOpenClaw.

كما أضافت ميزات تهدف إلى تقييد وصول الوكلاء إلى البيانات والأنظمة، وتعديل الصلاحيات الممنوحة لهم بصورة ديناميكية وفقًا للمهمة التي ينفذونها.

وتشمل هذه الضوابط طلب موافقة بشرية عندما يبدو أن الوكيل يتخذ قرارات تنطوي على مخاطر، بما يحد من قدرته على تنفيذ إجراءات حساسة بصورة مستقلة.

ويعكس هذا النهج تحولًا في طريقة التعامل مع أمن الذكاء الاصطناعي؛ فبدلًا من الاكتفاء بحماية المؤسسات من الهجمات الخارجية، تسعى الشركات إلى مراقبة الأنظمة الذكية الموجودة داخل بيئاتها، والتأكد من أنها لا تتجاوز حدود الصلاحيات الممنوحة لها.

توجه أوسع في القطاع لمراقبة وكلاء الذكاء الاصطناعي

لا يقتصر التعامل مع وكلاء الذكاء الاصطناعي باعتبارهم مصدرًا محتملًا للتهديدات الداخلية على مايكروسوفت وحدها، بل بدأ هذا التوجه يكتسب زخمًا في قطاع التكنولوجيا.

وكانت “مايكروسوفت” من الأعضاء المؤسسين لمنصة Open Agent Safety Platform الجديدة التي أطلقتها “إنفيديا”، وحظيت بدعم أكثر من 100 شركة تكنولوجية أخرى.

وتهدف المنصة إلى تشغيل الوكلاء داخل بيئات آمنة ومعزولة، مع مراقبة سلوكهم وإمكانية إيقاف الأنشطة الخطرة على مستوى العتاد، بما يوفر آلية تشبه مفتاح الإيقاف الطارئ.

ويأتي هذا التوجه بعد إعلان “مايكروسوفت” عن أجهزة Surface Laptop Ultra الجديدة المصممة لتشغيل وكلاء الذكاء الاصطناعي، والتي تعتمد على شرائح من “إنفيديا” وتضم أدوات مدمجة للأمن والتحكم في سلوك الوكلاء.

وتشير هذه التطورات إلى أن مستقبل الذكاء الاصطناعي في المؤسسات لن يعتمد على قوة النماذج وقدرتها على تنفيذ المهام فحسب، بل أيضًا على قدرة الشركات على مراقبتها، والتحكم في صلاحياتها، ومنعها من اتخاذ إجراءات قد تعرض بياناتها وأنظمتها للخطر.

المصدر: العربية – تكنولوجيا