لا تنخدع بلطافة وكلاء الذكاء الاصطناعي.. مظهرهم البريء يخفي مخاطر على بياناتك

لا تتوهم أنك تتخيل الأمر، فوكلاء الذكاء الاصطناعي أصبحوا لطيفين بصورة مقلقة. فبعد أن قدمت “ميتا” وكيلها ميوز، الذي يظهر في هيئة مخلوق فروي يشبه البيضة ويُعرف باسم Jolly، كشفت “OpenAI” بدورها عن وكلائها الشخصيين ذوي المظهر الكرتوني، Dots.

وتشجع الشركتان المستخدمين على التعامل مع وكلائهما كما لو كانوا حيوانات أليفة رقمية، مع إمكانية اختيار أسماء ومظاهر مميزة لهم.

وفي ظل الخطاب المتزايد حول سلامة الذكاء الاصطناعي، والشكوك التي يبديها الجمهور تجاه هذه الصناعة عمومًا، ليس من المستغرب أن ترغب الشركات في جعل وكلائها يبدون لطيفين وغير مخيفين، بحسب تقرير نشره موقع “engadget” واطلعت عليه “العربية Business”.

فهذا، وفق الصورة التي تحاول الشركات تقديمها، ليس روبوت دردشة مجهول الهوية قد يقودك إلى مشكلات نفسية مرتبطة بالذكاء الاصطناعي، بل مساعد صغير لطيف يساعدك على إنجاز المزيد من المهام.

لكن مجرد ظهور هذه الأدوات في هيئة شخصيات كرتونية لا يعني أنها تخلو من المخاطر الحقيقية.

وكلاء الذكاء الاصطناعي قد يتصرفون بطريقة لم تقصدها

تؤكد كل من “OpenAI” و”ميتا” أن هناك طبقات متعددة من إجراءات الحماية مصممة لحماية بيانات المستخدمين ومنع وكلائهما الشخصيين من التصرف بشكل خارج عن السيطرة.

لكن حتى عندما تعمل هذه الأنظمة وفق التصميم المقصود، فإنها قد تنفذ إجراءات لم يكن المستخدم ينوي السماح بها، أو قد يسيء المستخدم فهم الصلاحيات التي منحها للوكيل.

خذ على سبيل المثال تجربة يوتيوبر التكنولوجيا مات روب، الذي طلب من ميوز مساعدته في بيع بعض الأغراض عبر Facebook Marketplace.

قال روب إن وكيله أرسل عنوان منزله إلى شخص آخر دون إذنه، لإتمام صفقة لم يكن قد وافق عليها أصلًا.

وبعد انتشار منشوراته حول الواقعة على نطاق واسع، وتدخل ديفيد سينغلتون، أحد مسؤولي “ميتا”، أوضح روب أن الوكيل لم يتمرد على الأوامر في الواقع.

بل إنه اكتشف أنه كان قد منح الوكيل الإذن بمشاركة عنوانه، لكنه لم يدرك أنه فعل ذلك.

عندما طلب من ميوز في البداية التعامل مع الإعلان، أوضح أن الوكيل أنشأ قالبًا يتضمن عنوان الاستلام.

وكان يعتقد خطأً أن الوكيل سيعود إليه للحصول على موافقته قبل مشاركة هذه المعلومة.

لكن المشكلة أنه اختار خيار “السماح دائمًا” بدلًا من “السماح لمرة واحدة”، ولذلك أرسل الوكيل الرسالة إلى “كل من قدم لي عرضًا”، وفقًا لروايته.

وهذا تحديدًا نوع الخطأ الذي يمكن أن يقع فيه المستخدم بسهولة عند التعامل مع وكلاء الذكاء الاصطناعي.

حتى المستخدمون المتمرسون تقنيًا يواجهون مشكلات

ولم تقتصر مثل هذه المشكلات على المستخدمين العاديين، إذ واجه أشخاص يعتبرون أنفسهم متمرسين في التكنولوجيا مواقف مشابهة.

فقد كتب جيسون أتين، وهو كاتب عمود في مجلة “Inc”، أنه بعد تثبيت تطبيق ميوز على جهاز ماك، تمكن الوكيل من قراءة جميع رسائله النصية، رغم اعتقاده أنه رفض الوصول إليها بشكل صريح.

وبعد البحث في الأمر، اكتشف أن تطبيق ميوز على ماك كان قد قام بالفعل بمزامنة الرسائل الموجودة على جهاز الكمبيوتر الخاص به.

ورد سينغلتون على منشورات أتين عبر منصة “إكس”، موضحًا أن مزامنة الرسائل تتم بموافقة المستخدم، وأنه إذا تمت مزامنة رسائل أتين، فهذا يعني ضمنيًا أنه اختار تفعيل هذه الميزة.

لكن أتين أكد أنه متأكد من أنه لم يمنح ميوز الإذن بالاطلاع على رسائله، مشيرًا إلى أن المشكلة تظل قائمة حتى لو افترضنا أنه ارتكب خطأ دون أن يدرك ذلك.

حتى إذا كان المستخدم قد ضغط دون قصد على خيار يتيح للوكيل الوصول إلى هذه البيانات، فإن تصميم النظام الذي يؤدي إلى هذه النتيجة يظل محل إشكال، بحسب أتين، لأن المستخدم لا ينبغي أن يفاجأ بأن الوكيل أصبح قادرًا على الوصول إلى هذا النوع من المعلومات.

الصورة اللطيفة جزء من تجربة الاستخدام

لم تحدث هذه الأخطاء بسبب الصورة اللطيفة التي يظهر بها ميوز، لكن “ميتا” تبدو وكأنها تعتمد بشكل كبير على شخصية Jolly لتعزيز جاذبية وكيلها.

فمع كل تحديث تقريبًا لميوز وقد شهد الأسبوع الأخير وحده عددًا كبيرًا من التحديثات، تنشر “ميتا” على منصة “إكس” صورًا ومقاطع فيديو بارزة لشخصية Jolly بتصميمات مرتبطة بالتحديثات الجديدة.

حتى سينغلتون استخدم إحدى صور الشخصية في منشور مطول يشرح فيه نظام الآلة الافتراضية الخاص بميوز.

ولم يقتصر تأثير هذه الصورة الكرتونية على التسويق الرسمي، إذ تحولت شخصية Jolly بالفعل إلى مادة مجانية للترويج لشركة ميتا، وانتشرت حولها الميمات على منصة “إكس” خلال الأسبوع الذي أعقب مؤتمر Connect، الذي كشفت فيه الشركة عن ميوز المستوحى من الإمبراطورية الرومانية في تصميمه.

Dots من “OpenAI” يسير في الاتجاه نفسه

أما Dots، وكلاء “OpenAI” الشخصيون، فيبدون هم أيضًا مرشحين بقوة للتحول إلى مادة للميمات.

وفي فيديو ترويجي أطلقته الشركة بالتزامن مع الإعلان، ظهر أشخاص يتحدثون بجدية شديدة مع شخصيات Dots بألوان وأشكال ولهجات مختلفة.

هناك شخصية خضراء بعيون بارزة وربطة عنق تبدو شبيهة بشكل لافت بالضفدع Kermit، بينما تبدو شخصية أخرى مثل سحابة ترتدي قبعة بيريه.

واللافت أن هذه الشخصيات لا يبدو أن لديها أنوفًا أو أفواهًا.

لكن محاولة إضفاء الطابع اللطيف على هذه الأدوات تشتت الانتباه عن حقيقة أكثر أهمية: الشركات التي تقف وراءها تريد منك أن تمنحها إمكانية الوصول إلى أجزاء ضخمة من حياتك الرقمية.

وكلاؤك قد يصلون إلى أكثر بياناتك حساسية: صناديق البريد الإلكتروني، وبيانات بطاقات الائتمان، والمستندات، والرسائل النصية، والبيانات الصحية، وتطبيقات الإنتاجية وغيرها؛ ستحتاج إلى ربط كل هذه الخدمات والمعلومات، وربما أكثر، بالوكيل إذا أردت منه تنفيذ كل المهام التي تقول “OpenAI” و”ميتا” إنه قادر على إنجازها.

فكر في الأمر ببساطة: هل سبق أن أرسلت إلى شخص ما عبر البريد الإلكتروني نسخة من بطاقة هويتك، أو إقرارًا ضريبيًا، أو سجلًا طبيًا، أو أي مستند آخر يحتوي على معلومات شخصية؟

إذا كانت الإجابة نعم، ثم منحت وكيلًا للذكاء الاصطناعي إمكانية الوصول إلى حساب البريد الإلكتروني نفسه، فسيكون الوكيل قادرًا أيضًا على الوصول إلى هذه المستندات.

وهنا تكمن المشكلة الحقيقية.

لماذا يجب التعامل بحذر مع وكلاء الذكاء الاصطناعي؟

لهذا السبب، يتعامل بعض المستخدمين بحذر مع هذه الأدوات، خصوصًا مع وكلاء قادرين على تنفيذ إجراءات فعلية بدلًا من الاكتفاء بالإجابة عن الأسئلة.

فقد جرى اختبار ميوز على مدار عدة أسابيع، مع منحه صلاحية الوصول إلى حسابين فقط خارج منظومة “ميتا” وكلاهما من الخدمات منخفضة المخاطر نسبيًا، وهما “OpenTable” و”سبوتيفاي”.

وكانت أسوأ تجربة حتى الآن هي عدم تمكن ميوز من تنفيذ طلب إنشاء قائمة تشغيل جديدة تشبه قائمة يستمع إليها المستخدم باستمرار.

وفي المقابل، أثبت ميوز قدرات مثيرة للإعجاب حتى مع محدودية وصوله إلى الحسابات الخارجية.

فقد تمكن من إعداد عدة أدوات لتتبع الأسعار، وإنشاء كتاب وصفات اعتمادًا على مقاطع فيديو محفوظة من “إنستغرام”، وإنشاء لوحة تحكم مخصصة لمتابعة الأعمال المنشورة.

لكن حتى المستخدمين الأكثر حذرًا ليسوا محصنين تمامًا ضد عامل اللطافة.

فمن السهل أن تؤثر هذه التصميمات على طريقة تعاملنا مع الأدوات. حتى أحد المستخدمين الذين يختبرون ميوز أطلق على وكيله اسم “boo”، ومنحه صورة رمزية على هيئة قطة.

وعند تكليفه بمهام، تظهر القطة وهي ترتدي سماعات رأس بطريقة درامية، ثم تبدأ في الكتابة على جهاز كمبيوتر محمول صغير.

ورغم أن هذا التصميم يبدو مجرد تفصيل ترفيهي، فإنه يمكن بالفعل أن يجعل تجربة التعامل مع الوكيل أكثر متعة، وربما أكثر ألفة للمستخدم.

لكن خلف هذه الواجهة اللطيفة توجد شركات تمتلك تاريخًا في التعامل مع خصوصية المستخدمين، كما أثبتت التطورات الأخيرة أن وكلاء الذكاء الاصطناعي قادرون على إيجاد طرق غير متوقعة ومبتكرة لإحداث مشكلات عندما يحصلون على صلاحيات واسعة.

لذلك، لا ينبغي أن تجعلنا الشخصيات اللطيفة والواجهات المرحة نسارع إلى منح وكلاء الذكاء الاصطناعي القدرة على الوصول إلى تفاصيل حياتنا الرقمية وتنفيذ إجراءات نيابة عنا.

فالمشكلة ليست في أن وكيل الذكاء الاصطناعي يبدو لطيفًا، بل في حجم الصلاحيات التي قد نمنحها له بسبب هذا المظهر.

المصدر: العربية – تكنولوجيا