موظفة استقبال بالذكاء الاصطناعي تفشل في فهم مريضة
من المفترض أن تجعل موظفات الاستقبال المدعومات بالذكاء الاصطناعي الاتصال بالطبيب أسهل وأسرع، لكن عددًا متزايدًا من المرضى يكتشفون أن العكس قد يحدث، خصوصًا عندما تعجز الآلة عن فهم طريقة كلامهم أو استيعاب تعليماتهم أو إدراك احتياجاتهم.
وتسلط واقعة حديثة في جنوب يوركشاير ببريطانيا الضوء على هذه المشكلة. فقد قالت جوديث باترفيلد، البالغة من العمر 71 عامًا والتي كانت تتعافى من سكتة دماغية، لهيئة الإذاعة البريطانية “بي بي سي”، إن موظفة استقبال تعمل بالذكاء الاصطناعي في عيادة الطبيب العام التابعة لها فشلت مرارًا في فهم كلامها عندما حاولت حجز موعد.
وأدت السكتة الدماغية التي تعرضت لها باترفيلد إلى اضطراب في كلامها، كما أثرت في قدرتها على تحريك الجانب الأيمن من جسدها.
وبعد عدة محاولات فاشلة لحجز موعد، اضطرت في النهاية إلى التسجيل لدى عيادة طبية أخرى.
ومنذ ذلك الحين، أوقفت العيادة استخدام النظام، لكن الواقعة تثير سؤالًا أكبر بكثير: إلى أي مدى يمكن بأمان إسناد مهام الرعاية الصحية إلى نظام ذكاء اصطناعي يتوقع من المرضى التواصل بطريقة محددة حتى يفهمهم؟
الآلة تستطيع إدارة الطوابير.. لكن ماذا يحدث عندما لا يتبع المريض السيناريو المتوقع؟
تحمل موظفة الاستقبال المدعومة بالذكاء الاصطناعي اسم EMMA، وطورتها شركة QuantumLoopAI بهدف مساعدة عيادات الأطباء العامين على التعامل مع الضغط الكبير على الاتصالات الهاتفية وتقليل أوقات الانتظار.
لكن منظمة Healthwatch Rotherham قالت لاحقًا إنها تلقت شكاوى من مرضى واجهوا صعوبة في التواصل مع النظام، من بينهم أشخاص يتحدثون بلهجات محلية وآخرون يعانون اضطرابات في الكلام.
وتوضح تجربة باترفيلد كيف يمكن لخلل تقني يبدو بسيطًا أن يتحول إلى مشكلة أكثر خطورة عندما يتعلق الأمر بالرعاية الصحية.
بحسب روايتها، طلبت منها الخدمة الآلية عدم استخدام مكبر الصوت أثناء المكالمة، لكنها أوضحت أنها كانت بحاجة إلى إمساك الهاتف بيد واحدة، لأن السكتة الدماغية أثرت في اليد الأخرى.
وعندما فشل النظام في فهم اسمها، لم تكن هناك استجابة بشرية تدرك أن هناك مشكلة وتحاول ببساطة مطالبتها بنطق الاسم بطريقة أخرى.
المشكلة تتجاوز نظام استقبال واحد
ولا تقتصر المشكلة على نظام EMMA وحده، إذ جمعت منظمة Healthwatch England روايات مشابهة من مرضى تعاملوا مع أنظمة ذكاء اصطناعي أثناء حجز المواعيد، وطلب الأدوية، والتواصل بشأن احتياجاتهم الصحية.
وقال بعض الأشخاص الذين يعانون صعوبات في الكلام أو التعلم إن الأنظمة الآلية لم تتمكن من فهمهم، بينما أبلغ آخرون عن مشكلات في نقل طلباتهم أو التعامل معها بالشكل الصحيح.
وتكشف هذه الحالات عن تحدٍ أساسي أمام استخدام الذكاء الاصطناعي في القطاع الصحي: لا يكفي أن يعمل النظام جيدًا مع المحادثات السهلة والواضحة، بل يجب أن يكون قادرًا على التعامل مع المرضى الذين قد يتحدثون بلهجات مختلفة أو يعانون إعاقات أو صعوبات في التواصل.
الرعاية الصحية لا تحتمل ذكاءً اصطناعيًا لا يفهم إلا المحادثات السهلة
لا شك في أن استخدام الذكاء الاصطناعي يحمل فوائد واضحة للعيادات الطبية التي تعاني ضغطًا متزايدًا. فنظام يستطيع الرد على المكالمات فورًا قد يقلل طوابير الانتظار ويتيح لموظفي الاستقبال التركيز على مهام أخرى.
وتقول “QuantumLoopAI” إن EMMA يدعم لغات ولهجات متعددة، كما يتيح للمتصل طلب التواصل مع موظف بشري في أي وقت.
وأوضحت الشركة كذلك أن العيادات تستطيع إعداد نظام لتحديد الأولويات بحيث يتم تحويل بعض المرضى مباشرة إلى موظفي الاستقبال.
لكن هذه الإجراءات الوقائية لا تكون مفيدة إلا إذا كان المريض يعرف بوجودها ويتمكن أصلًا من التعامل مع النظام لفترة كافية للوصول إليها.
وحذرت “Healthwatch” من أن الأشخاص الذين لديهم احتياجات خاصة في التواصل، أو يعانون إعاقات، أو يفتقرون إلى الثقة الكافية في التعامل مع التقنيات الرقمية، قد يكونون أكثر عرضة للاستبعاد بسبب أنظمة التكنولوجيا الصحية سيئة التصميم.
والمشكلة هنا ليست أن الذكاء الاصطناعي قد يخطئ أحيانًا في فهم كلمة، بل أن الشخص الموجود على الطرف الآخر قد يكون ببساطة يحاول الوصول إلى الرعاية الطبية التي يحتاج إليها.
ومع استمرار عيادات الأطباء العامين في تجربة أنظمة الاستقبال والفرز الطبي الآلية، يصعب تجاهل الدرس الذي كشفت عنه واقعة جنوب يوركشاير: يجب أن يساعد موظف الاستقبال بالذكاء الاصطناعي المريض على الوصول إلى الإنسان بسهولة، لا أن يتحول هو نفسه إلى عقبة جديدة بين المريض والرعاية الصحية.
المصدر: العربية – تكنولوجيا