مقاضاة شركة أمن لفشل نظام ذكاء اصطناعي في رصد مسدس استُخدم في هجوم بمدرسة أميركية

رفع مراهق نجا بإصابات من حادث إطلاق نار وقع في يناير 2025 في مدرسة ثانوية بمدينة ناشفيل بولاية تينيسي الأميركية، دعوى قضائية مؤخرًا ضد الشركة المصنعة لنظام “الذكاء الاصطناعي لكشف الأسلحة” الذي فشل في رصد المسدس الذي أودى بحياة شخصين، أحدهما مطلق النار.

وبحسب الدعوى القضائية، التي تم رفعها في محكمة مقاطعة ديفيدسون الشهر الماضي، فإن شركة الأمن أومنيليرت (Omnilert) كانت تعلم أو كان ينبغي عليها أن تكون على علم بوجود “قيود تشغيلية كبيرة في نظام كشف الأسلحة الخاص بها قد تؤدي إلى فشل في الاكتشاف أثناء حالات الطوارئ الفعلية”.

وتشمل هذه القيود أمورًا “تتعلق بموقع الكاميرا، وقرب السلاح من مستشعرات الكاميرا، وزاوية التصوير، والإضاءة، ومدى وضوح السلاح”، وفقًا لما نقله تقرير لموقع “Ars Technica” المتخصص في أخبار التكنولوجيا، اطلعت عليه “العربية Business”.

في عام 2023، وافق مجلس منطقة مدارس ناشفيل العامة على عقد بقيمة تزيد عن مليون دولار لتثبيت نظام كشف آلي مدعوم بالذكاء الاصطناعي على شبكة كاميرات المراقبة على مستوى المنطقة والبنية التحتية الأمنية ذات الصلة.

وقال شون براستيد، المتحدث باسم منطقة مدارس ناشفيل العامة، في مؤتمر صحفي أعقب حادث إطلاق النار في يناير 2025 إنه بسبب موقع مطلق النار بالنسبة للكاميرات، فإن الصور “لم تكن قريبة بما يكفي للحصول على قراءة دقيقة وتفعيل الإنذار”.

واستشهدت الدعوى القضائية مرارًا وتكرارًا بنصوص تسويقية من موقع الشركة الإلكتروني كما هو محفوظ في أرشيف الإنترنت قبل أيام قليلة من حادثة إطلاق النار، مدعيةً أن الشركة بالغت في الترويج لقدراتها.

وتقول “أومنيليرت” في محتواها الدعائي إن نظام الكشف البصري عن الأسلحة المدعوم بالذكاء الاصطناعي “كان يمكن أن يخفف من حدة المأساة في مدرسة مارجوري ستونمان دوغلاس الثانوية أو يمنعها” من خلال تحديد التهديدات مبكرًا، في إشارة إلى أحد أكثر حوادث إطلاق النار المدرسية فتكًا في البلاد لتوضيح أن منتجها سيمنع وقوع مآسٍ مماثلة.

لكن الشركة لم تورد على موقعها التجاري قبل الحادث أي إشارات إلى الإنذارات الكاذبة، أو الإيجابيات الخاطئة، أو أي قيود على قدرة النظام على الكشف.

قال كريس سميث، أحد محامي المدعي، لموقع “Ars Technica”، إن استخدام مجموعة محددة من الظروف التي يكون فيها نظام الكشف فعالًا أمر “مشكوك فيه”.

وكان سميث متشككًا عندما سمع لأول مرة بفكرة الكشف عن الأسلحة بالذكاء الاصطناعي.

وقال: “كنت أعتقد فقط أن هذا هراء. لدي سيارة تسلا، وأعتقد أن القيادة الذاتية في تسلا هراء. إنها ليست جاهزة للاستخدام الحقيقي! كيف يمكن أن تعتمد عليها لحماية الأطفال من إطلاق النار في المدارس؟ لماذا هذا أفضل من جهاز كشف المعادن؟”.

وقال ديفيد ريدمان، خبير التعليم والأمن الذي يُدير قاعدة بيانات حوادث إطلاق النار في مدارس التعليم الأساسي والثانوي: “لم أرَ قط حادثة إطلاق نار في مدرسة كان فيها نقص في التنبيه”.

المصدر: العربية – تكنولوجيا