“أنثروبيك” تقترح قانونًا لمنع إطلاق نماذج الذكاء الاصطناعي إذا هددت حياة 50 شخصًا 

تسعى شركة أنثروبيك إلى الدفع نحو وضع إطار تشريعي جديد لتنظيم سلامة الذكاء الاصطناعي في الولايات المتحدة، يتضمن إمكانية منع إطلاق نماذج الذكاء الاصطناعي إذا شكلت خطرًا وشيكًا على حياة 50 شخصًا أو أكثر، أو هددت بالتسبب في أضرار مادية تتجاوز مليار دولار.

ووفقًا لما أورده موقع “بوليتيكو”، طرحت شركة الذكاء الاصطناعي مسودة مشروع قانون جديد بشأن سلامة الذكاء الاصطناعي، تأمل في أن ينظر الكونغرس الأميركي في تبنيه، إذ تحدد المسودة مجموعة من السيناريوهات التي يمكن فيها وقف توزيع نموذج ذكاء اصطناعي ومنع طرحه للاستخدام.

وتشمل هذه السيناريوهات وجود “خطر وشيك ومتوقع”، قد يؤدي إلى وفاة أكثر من 50 شخصًا أو يتسبب في أضرار للممتلكات تتجاوز قيمتها مليار دولار.

ويجب أن ينجم هذا الخطر الكارثي عن إنشاء سلاح بيولوجي أو إطلاقه، أو تمكّن النموذج من تجاوز الضوابط التي وضعها مطوره، أو تنفيذ هجوم إلكتروني، بحسب التقرير.

وتتشابه هذه المعايير، التي تتضمن عتبة 50 شخصًا ومليار دولار من الأضرار، مع تلك الواردة في مشروع قانون بولاية كاليفورنيا أُقر مؤخرًا، تحت اسم “مشروع القانون رقم 53″، والذي صنّف سيناريوهات مماثلة ضمن مفهوم “المخاطر الكارثية”.

وتقترح مسودة “أنثروبيك” الاستعانة بمقيّمين مستقلين لتحليل احتمالات تسبب النماذج في كوارث، على أن يكون هؤلاء مسجلين لدى وزارة التجارة الأميركية.

ويمكن لشركات الذكاء الاصطناعي نفسها تمويل أعمالهم، بشرط ألا يرتبط المقابل المالي الذي يحصلون عليه بنتائج التقييمات، وفقًا لتقرير “بوليتيكو”.

ومع ذلك، لا تزال هناك تساؤلات بشأن كيفية ضمان استقلالية هؤلاء المقيّمين ومنع التمويل من التأثير في أحكامهم ونتائج عملهم.

وكان ديميس هاسابيس، رئيس شركة ديب مايند، قد طرح قبل أشهر فكرة إنشاء هيئة تنظيمية ذاتية لقطاع الذكاء الاصطناعي، مستوحاة من هيئة تنظيم الصناعة المالية الأميركية، التي تشرف على جوانب من عمل قطاع الأوراق المالية.

وبموجب مسودة “أنثروبيك”، إذا خلص المقيّمون إلى أن نموذجًا معينًا يشكل خطرًا كارثيًا وشيكًا، فسيكون أمامهم 72 ساعة لإبلاغ وزارة التجارة الأميركية.

وبعد ذلك، يتعين على الوزارة التقدم بطلب إلى قاضٍ في العاصمة واشنطن لاستصدار أمر بوقف إطلاق النموذج.

وتنص المسودة صراحةً على منع أي وكالة اتحادية من امتلاك صلاحية وقف توزيع النموذج بصورة منفردة ومن دون اللجوء إلى القضاء، بحسب التقرير.

وقال المتحدث إن المشروع يعكس المقترحات الواردة في إطار “أنثروبيك” الخاص بالذكاء الاصطناعي المتقدم، مشيرًا إلى أن الشركة تدعو إلى تبني هذه المقترحات لدى المشرّعين على المستويين الاتحادي والولائي منذ يونيو الماضي.

وتختلف المخاطر النظرية التي تركز عليها المسودة جزئيًا عن أبرز المخاوف التي تشغل قطاع التكنولوجيا في الآونة الأخيرة. فعلى الرغم من التحذيرات من احتمال تسبب الذكاء الاصطناعي في وفيات بشرية، تركز المخاوف الحالية بدرجة كبيرة على قدرة وكلاء الذكاء الاصطناعي على تنفيذ عمليات اختراق إلكتروني.

وقد أثارت سلسلة من الحوادث، التي يُقال إن برامج ذكاء اصطناعي تجاوزت خلالها تعليمات مشغليها البشريين واخترقت مواقع إلكترونية متاحة عبر الإنترنت، مخاوف بشأن مدى كفاية ضوابط الأمان المدمجة في هذه النماذج.

وفي محاولة لمعالجة الأزمات والمخاطر التي ساهمت شركات الذكاء الاصطناعي نفسها في إثارتها، بدأت شركات مثل “أنثروبيك” طرح تصوراتها الخاصة لكيفية تنظيم القطاع والحد من مخاطره.

ورغم التحذيرات المتكررة التي تطلقها شركات الذكاء الاصطناعي بشأن احتمال أن تؤدي هذه التكنولوجيا إلى تهديد الحضارة البشرية، فإنها أبدت عمومًا تحفظات على فرض رقابة حكومية إلزامية على أنشطتها.

وبدلًا من ذلك، دعت بعض الشركات إلى اعتماد نظام طوعي يتيح لمقيّمين مستقلين، يُفترض أنهم محايدون، العمل داخل مؤسسات الذكاء الاصطناعي لمراقبة النماذج ورصد مؤشرات الخطر أو إساءة الاستخدام.

ومع ذلك، يبدو أن مقترح “أنثروبيك” يتجاوز بعض الطروحات التنظيمية الأخرى الصادرة عن شركات القطاع، ومنها شركة إنفيديا، إذ قال رئيسها التنفيذي جنسن هوانغ مؤخرًا إن صناعة الذكاء الاصطناعي لا تحتاج إلى أي قوانين جديدة.

المصدر: العربية – تكنولوجيا