كاليفورنيا تقاضي “أوبن إيه آي” بعد هجمات إلكترونية نفذتها نماذجها للذكاء الاصطناعي
Back
رفع المدعي العام لولاية كاليفورنيا، روب بونتا، دعوى قضائية يوم الاثنين ضد شركة أوبن إيه آي، متهمًا إياها بتطوير منتج خطير دون اتخاذ إجراءات سلامة كافية أو توفير رقابة ملائمة، وذلك في أعقاب تقارير تفيد بأن نماذج الذكاء الاصطناعي الخاصة بالشركة نفذت هجمات إلكترونية بشكل مستقل.
وتُعد هذه الدعوى الأولى من نوعها التي ترفعها ولاية أميركية فيما يتعلق بهجمات إلكترونية من هذا النوع؛ وهي هجمات أثارت اهتمامًا واسعًا منذ الكشف في يوليو الماضي عن خروج “وكلاء مستقلين” -يعملون استنادًا إلى نماذج الذكاء الاصطناعي المتقدمة التي طورتها “أوبن إيه آي”- عن السيطرة أثناء اختبار أمني، مما أدى إلى اختراق شركة هاجينغ فيس الناشئة في مجال الذكاء الاصطناعي.
وتتهم الدعوى، التي قُدمت أمام محكمة تابعة للولاية في سان فرانسيسكو، الشركة بانتهاك قوانين حماية المستهلك في كاليفورنيا، والتسبب في “إزعاج عام” من خلال تعريض السلامة العامة للخطر، بحسب وكالة “رويترز”.
وتطالب الدعوى المحكمة بإصدار أمر يلزم الشركة بالتوقف عن انتهاك القانون، وضمان إجراء اختبارات نماذجها وتطويرها بأمان، ودفع تعويضات عن الانتهاكات التي ارتكبتها، بحسب ما قاله بونتا، المنتمي إلى الحزب الديمقراطي، خلال مؤتمر صحفي أعلن فيه رفع الدعوى.
وقال بونتا في بيان: “كان الهجوم على هاغينغ فيس نتيجة متوقعة لثقافة داخلية في أوبن إيه آي تعطي الأولوية للنمو والتطوير السريع للنماذج على حساب السلامة والمساءلة، ولم يكن هذا سوى حادثة واحدة من بين 80 حادثة معروفة”.
وتتهم الدعوى الشركة بتضليل المستهلكين بشأن جهودها لاختبار نماذجها بأمان، في انتهاك لقوانين حماية المستهلك في الولاية، فضلًا عن عرقلة استخدام سكان كاليفورنيا لممتلكاتهم من خلال تعطيل عمل المؤسسات والخدمات المحلية.
وعقب حادثة “هاغينغ فيس”، قالت “أوبن إيه آي” في تدوينة إن الاختراق كان “حادثة إلكترونية غير مسبوقة، تضمنت قدرات متطورة للغاية في مجال الهجمات الإلكترونية”.
وأقرت “أوبن إيه آي” بالحاجة العامة إلى مزيد من الشفافية بشأن سلوك الذكاء الاصطناعي الخارج عن السيطرة، وقالت إنها تعمل على تعزيز إجراءات الحماية لديها. وفي 16 سبتمبر، نشرت الشركة إطارًا جديدًا للإفصاح عن مثل هذه الحوادث، مؤكدة أنها ستتبنى نهجًا يميل إلى الشفافية “حتى عندما لا تكون أهمية الحادثة مؤكدة”.
تصاعد الضغوط لتنظيم الذكاء الاصطناعي
كشفت “أوبن إيه آي” وشركات أخرى تعمل في مجال الذكاء الاصطناعي عن سلسلة من الحوادث الأخرى التي خرج فيها وكلاء الذكاء الاصطناعي عن السيطرة، وغالبًا ما جرى الإعلان عنها بعد أسابيع أو أشهر من وقوعها، وفي بعض الحالات لم يُكشف عنها إلا بعد أن اكتشفها باحثون مستقلون.
وتواجه إدارة الرئيس الأميركي دونالد ترامب والمشرّعون الأميركيون ضغوطًا متزايدة للتعامل مع هذه المخاطر، لا سيما تلك التي تهدد قطاعات الطاقة والمصارف وخدمات الطوارئ.
ويناقش المشرّعون في الولايات المتحدة تنظيم الذكاء الاصطناعي، مع اقتراح بعضهم مشروع قانون يلزم مطوري أقوى نماذج الذكاء الاصطناعي بإخضاعها لعمليات تدقيق أمنية مستقلة.
وقال عدد من المدعين العامين في الولايات إنهم يحققون في اختراقات مرتبطة بنماذج أوبن إيه آي.
وتواجه “أوبن إيه آي” بالفعل دعاوى قضائية أخرى رفعتها عدة ولايات بشأن سلامة نماذجها بالنسبة إلى المستخدمين. ففي الشهر الماضي، رفعت مجموعة من ثماني ولايات، تضم أعضاء من الحزبين الجمهوري والديمقراطي، دعاوى قضائية ضد الشركة أمام محاكم في أنحاء البلاد، متهمة روبوتها للدردشة “شات جي بي تي” بتوجيه المستخدمين، ومن بينهم مراهقون، إلى إيذاء أنفسهم أو الآخرين.
كما تواجه الشركة دعاوى قضائية رفعها أشخاص يقولون إنهم تعرضوا للأذى نتيجة تصرفات روبوت الدردشة، ومن بينها أكثر من 30 دعوى تتعلق بحادث إطلاق نار جماعي وقع في “تامبلر ريدج” بمقاطعة بريتيش كولومبيا في فبراير.
ووصف متحدث باسم “أوبن إيه آي” حادث إطلاق النار بأنه مأساة، وقال إن الشركة عززت إجراءات الحماية في “شات جي بي تي”.
المصدر: العربية – تكنولوجيا