بعيداً عن الخوارزميات.. المظهر يصنع الفارق في مقابلات الذكاء الاصطناعي
توصلت دراسة حديثة إلى أن شكل المحاور الافتراضي المدعوم بالذكاء الاصطناعي قد يكون مؤثرًا في انطباع المتقدمين للوظائف عن عدالة عملية التوظيف، حتى عندما تتخذ الخوارزمية القرار نفسه مع جميع المرشحين.
وأظهرت الدراسة أن المرشحين الذين رُفضت طلباتهم قيّموا المقابلة الآلية بصورة مختلفة، تبعًا للجنس ولون البشرة الخاصين بالشخصية الافتراضية (Avatar) التي أجرت معهم المقابلة، ما يشير إلى أن تصميم واجهة التفاعل قد يكون مؤثرًا بقدر الخوارزمية نفسها.
تجربة على 220 مشاركًا
شارك نحو 220 شخصًا في مقابلات توظيف افتراضية لوظيفة خيالية في مجال خدمة العملاء، وأجرى كل منهم المقابلة مع واحدة من أربع شخصيات افتراضية واقعية المظهر تختلف في الجنس ولون البشرة.
ورغم أن جميع المشاركين تلقوا قرار الرفض نفسه، فإن تقييمهم لمدى عدالة العملية لم يكن متطابقًا، بل تأثر بمظهر المحاور الذي ظهر على الشاشة، بحسب تقرير نشره موقع “digitaltrends” واطلعت عليه “العربية Business”.
ويرى الباحثون أن تدقيق الخوارزميات وحده قد لا يكشف هذه المشكلة، لأن المتقدمين لا يتفاعلون مع تعليمات برمجية، وإنما مع وجه افتراضي يطرح الأسئلة ويعلن النتيجة.
التشابه الجزئي زاد الإحساس بعدم العدالة
وأظهرت النتائج أن المشاركين الذين تشابهوا مع المحاور في صفة واحدة فقط، سواء الجنس أو لون البشرة، كانوا الأكثر ميلًا إلى اعتبار عملية التوظيف غير عادلة، مقارنة بمن تطابقوا معه في الصفتين معًا أو لم يتطابقوا معه في أي منهما.
ولم تحدد الدراسة السبب بشكل قاطع، إلا أن الباحثين يرجحون أن التشابه الجزئي قد يرفع توقعات المتقدم تجاه المحاور، ما يجعل قرار الرفض يبدو أكثر شخصية.
وتشير هذه النتيجة إلى أن منح المحاور الافتراضي ملامح مألوفة لا يضمن بالضرورة أن ينظر إليه المتقدمون باعتباره أكثر حيادًا.
الثقة تتراجع بعد إعلان الرفض
قبل صدور النتيجة، أظهرت الدراسة أن مستوى الثقة في نظام الذكاء الاصطناعي كان متقاربًا بين جميع المشاركين، بغض النظر عن شكل الشخصية الافتراضية.
لكن بيانات تتبع حركة العين كشفت أن المشاركين ركزوا لفترة أطول على الوجوه التي اختلف لون بشرتها عن لون بشرتهم.
وبعد إعلان الرفض، أصبح المشاركون أكثر تشككًا في نزاهة النظام، كما ارتفعت احتمالات اعتبار القرار متحيزًا عندما اختلف لون بشرة المحاور عن لون بشرة المتقدم.
ويعني ذلك أن القرار الآلي لم يتغير، لكن الطريقة التي قُدم بها أثرت في تفسير المتقدمين له.
نتائج تحتاج إلى اختبار أوسع
يشير الباحثون إلى أن التجربة اعتمدت على وظيفة افتراضية وقرار رفض موحد، وبالتالي لا تثبت أن جميع أنظمة التوظيف الحقيقية ستؤدي إلى النتائج نفسها.
ومع ذلك، فإنها توضح مدى سرعة تغير شعور الأشخاص بالعدالة عندما يتحول القرار الآلي إلى تفاعل شخصي مع شخصية افتراضية.
ماذا ينبغي على الشركات؟
توصي الدراسة الشركات التي تستخدم محاورين بالذكاء الاصطناعي بألا تركز فقط على دقة نموذج الذكاء الاصطناعي، بل أيضًا على تصميم واجهة الاستخدام والشخصية الافتراضية التي تمثل النظام.
كما تدعو إلى اختبار هذه الأنظمة مع متقدمين من خلفيات ديموغرافية مختلفة، ومقارنة ردود أفعالهم قبل إعلان النتائج وبعدها، إضافة إلى تقييم ما إذا كانت الشخصيات الأقل شبهًا بالبشر تثير مخاوف أقل من الشخصيات الواقعية للغاية.
ويخلص الباحثون إلى أن أفضل تصميم للمحاور بالذكاء الاصطناعي قد لا يكون الأكثر واقعية، بل الأكثر وضوحًا وشفافية، بما يساعد المستخدمين على فهم طبيعة النظام ويعزز شعورهم بالعدالة والثقة.
المصدر: العربية – تكنولوجيا