بعد اختراقات خطيرة.. ديمقراطيو الكونغرس يطالبون OpenAI وأنثروبيك بتوضيحات
دعت مجموعة من النواب الديمقراطيين في مجلس النواب الأميركي (الكونغرس) الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، والرئيس التنفيذي لشركة أوبن إيه آي، سام ألتمان، إلى توضيح كيف تمكنت أنظمة الذكاء الاصطناعي التابعة لشركتيهما من الخروج من نطاق الاحتواء خلال اختبار أمني.
وقالت مجموعة النواب إن على الكونغرس عقد جلسات استماع بشأن هذه الحوادث، وفقًا لرسائل أرسلها المشرعون إلى الشركتين يوم الاثنين.
وكانت أوبن إيه آي وأنثروبيك قد كشفتا في يوليو عن اختراق أنظمة الذكاء الاصطناعي التابعة لهما لأنظمة شركات أخرى خلال اختبارات للأمن السيبراني.
وطالب 29 مشرعًا، بقيادة النائبين غريغ كاسار ودوريس ماتسوي، شركة أوبن إيه آي بتوضيح كيفية مراقبة وكلاء الذكاء الاصطناعي التابعين لها أثناء الاختبارات، وما إذا كانت النماذج الخارجة عن السيطرة قد تمكنت من تجاوز ضوابط السلامة التي تفرضها الشركة، بحسب ما أوردته “رويترز”.
واستند المشرعون إلى تقرير لرويترز أفاد بوجود حالات جرى فيها فصل أنظمة المراقبة خلال اختبارات سابقة لنماذج “أوبن إيه آي”.
وفي رسالة منفصلة، طلب 22 مشرعًا من “أنثروبيك” توضيح تفاصيل أي بروتوكولات للسلامة طبقتها الشركة منذ أن تمكن وكلاؤها من اختراق أنظمة ثلاث شركات.
وكتب المشرعون في رسالتهم إلى “أنثروبيك”: “يمكن أن تكون لهذه الحوادث المقلقة للغاية المتعلقة بالأمن السيبراني تداعيات خطيرة على الأمن القومي الأميركي”.
وتأتي الرسائل، التي كُشف عنها يوم الاثنين، في إطار نقاش متزايد في واشنطن حول مدى صرامة الرقابة التي ينبغي فرضها على قطاع الذكاء الاصطناعي سريع التطور، والذي عمل إلى حد كبير دون معايير اتحادية جديدة.
وطرح المشرعون مجموعة من المقترحات التي لم تحرز تقدمًا بعد، من بينها مشروع قانون يلزم مطوري أقوى نماذج الذكاء الاصطناعي بإخضاعها لعمليات تدقيق أمنية مستقلة.
ولم تُدلِ إدارة الرئيس الأميركي دونالد ترامب بتصريحات علنية تُذكر حتى الآن حول خروج وكلاء أنثروبيك وأوبن إيه آي من بيئة الاحتواء. وانتقد الرئيس يوم الجمعة المقترحات الصادرة عن الكونغرس لتنظيم الذكاء الاصطناعي، قائلًا إن المشرعين يريدون تنظيم هذا القطاع “حتى إفلاسه”.
دعا السيناتور الليبرالي بيرني ساندرز، يوم الاثنين، بشكل منفصل، ألتمان وأمودي والرئيس التنفيذي لشركة ميتا، مارك زوكربيرغ، إلى “التوقف مؤقتًا” عن تطوير نماذج جديدة.
وأشار إلى رسالة وقّعها أكثر من 1,100 موظف في شركات تقنية، تحثّ الحكومة الأميركية على دعم جهد دولي لتطوير أدوات لإدارة وتيرة تطوير الذكاء الاصطناعي المتقدم. وقد وقّع أمودي على تلك الرسالة، وكذلك موظفون من ميتا بلاتفورمز، وأنثروبيك، وأوبن إيه آي، وغوغل التابعة لشركة ألفابت.
المصدر: العربية – تكنولوجيا