احذر.. 3 معلومات حساسة لا تمنح وكلاء الذكاء الاصطناعي صلاحية الوصول إليها

أصبح وكلاء الذكاء الاصطناعي أكثر انتشارًا يومًا بعد يوم، بفضل توفر نماذج مثل Ajelix وMicrosoft Copilot وManus AI، إلى جانب العديد من النماذج المشابهة.

وعلى الرغم من أن هؤلاء الوكلاء حظوا بتقييمات إيجابية من بعض المستخدمين، فإن استخدامهم ارتبط أيضًا بحوادث مقلقة. ومؤخرًا، أفادت شركة أنثروبيك بأن وكلاء الذكاء الاصطناعي الذين كانت تختبرهم اتخذوا إجراءات غير مصرح بها عبر مواقع حكومية تابعة لحكومات الولايات والحكومة الفيدرالية والسلطات المحلية، لملء طلبات الحصول على التأشيرات.

والأكثر إثارة للقلق أن هؤلاء الوكلاء قدموا بلاغًا مختلقًا بشأن جريمة قتل لم تُحل إلى إدارة شرطة فيلادلفيا.

وفي هذا السياق، يوضح ريشي بهاجافا، الشريك المؤسس لشركة “Descope” المتخصصة في أمن الهوية، أنواع البيانات والصلاحيات الحساسة التي ينبغي الحذر عند منح وكلاء الذكاء الاصطناعي إمكانية الوصول إليها، وهي البريد الإلكتروني وكلمات المرور ومعلومات الدفع، بحسب مقابلة أجراها بهاجافا مع موقع “Tom’s Guide”، اطلعت عليها “العربية Business”.

3 بيانات حساسة لا تمنح الوكلاء صلاحية الوصول إليها

تتمثل أبرز البيانات الحساسة التي يمتلكها أي شخص في البريد الإلكتروني وكلمات المرور ومعلومات الدفع. ويكمن الخطر في أن منح هؤلاء الوكلاء صلاحيات واسعة قد يتيح لهم الوصول إلى حسابات أخرى أو تنفيذ إجراءات لم يطلبها المستخدم.

البريد الإلكتروني قد يفتح الباب أمام بقية حساباتك

قد يؤدي منح وكيل الذكاء الاصطناعي إمكانية الوصول إلى البريد الإلكتروني إلى تعريض حسابات أخرى للخطر، إذ يمكن استخدام البريد الإلكتروني لإعادة تعيين كلمات المرور الخاصة بالحسابات المصرفية والتسوق وغيرها من الحسابات الشخصية، وفقًا لما ذكره بهاجافا.

وبمجرد وصول الوكيل إلى صندوق البريد، قد يتمكن من بدء عمليات إعادة تعيين كلمات المرور، ما قد يفتح الباب أمام الوصول إلى حسابات أخرى مرتبطة بعنوان البريد الإلكتروني نفسه.

وأشار بهاجافا إلى المخاطر الأمنية المتمثلة في ما يُعرف بهجوم “حقن الأوامر”، إذ يمكن لمحتوى خبيث داخل رسالة بريد إلكتروني أن يتضمن تعليمات تطلب من وكيل الذكاء الاصطناعي إعادة توجيه جميع رسائل المستخدم إلى عنوان آخر.

وقد لا يتمكن الوكيل من التمييز بين تعليمات المستخدم الفعلية والأوامر الخبيثة المضمّنة داخل المحتوى الذي يقرأه.

كلمات المرور

قد يؤدي منح وكلاء الذكاء الاصطناعي إمكانية الوصول إلى كلمات مرور الحسابات إلى تعريض بيانات المستخدم للخطر، خصوصًا إذا مُنحوا صلاحيات واسعة تتيح لهم الدخول إلى الحسابات وتنفيذ إجراءات غير متوقعة.

ويحذر ريشي بهاجافا من تسليم الوكلاء صلاحيات غير محدودة، ويوصي بمنحهم فقط الصلاحيات الضرورية لإنجاز المهام المطلوبة.

معلومات الدفع

قد يؤدي منح وكلاء الذكاء الاصطناعي إمكانية الوصول إلى معلومات الدفع إلى تنفيذ عمليات شراء لم يطلبها المستخدم، أو إجراء معاملات غير مرغوب فيها.

ويحذر بهاجافا من السماح لهؤلاء الوكلاء بتحويل الأموال نيابة عن المستخدم، مؤكدًا أهمية تقييد صلاحياتهم لتقليل المخاطر المحتملة.

وأشار بهاجافا إلى ضرورة عدم تسليم وكلاء الذكاء الاصطناعي بيانات تسجيل الدخول عبر خزائن كلمات المرور مع منحهم صلاحيات واسعة وغير مقيدة. وبدلًا من ذلك، ينبغي أن تكون لكل وكيل هوية مستقلة وصلاحيات محدودة تقتصر على المهام التي يحتاج إلى تنفيذها، بما يقلل الأضرار المحتملة إذا تصرف على نحو غير متوقع.

ما المهام التي يمكن الوثوق بوكلاء الذكاء الاصطناعي فيها؟

جرّب بهاجافا وكلاء الذكاء الاصطناعي Muse وInstinct، ووجد أن من المهام المفيدة التي يمكن إسنادها إليهم البحث عن المنتجات ومقارنتها، مثل البحث عن طابعة أو حذاء أو موعد طرح منتج جديد.

وتكون هذه المهام أقل خطورة عندما يقتصر دور الوكيل على جمع المعلومات، دون منحه صلاحية تنفيذ معاملات أو إجراءات حساسة.

ويشدد بهاجافا على عدم السماح لوكيل الذكاء الاصطناعي بتحويل الأموال نيابة عن المستخدم.

المصدر: العربية – تكنولوجيا