ماسك وألتمان ينضمان إلى رئيس “أنثروبيك” للمطالبة بإبطاء سباق الذكاء الاصطناعي

دعا الرئيس التنفيذي لشركة أنثروبيك داريو أمودي شركات الذكاء الاصطناعي إلى إبطاء وتيرة تطوير قدرات النماذج في ظل مخاوف متزايدة من إساءة استخدام الذكاء الاصطناعي، مقترحاً إطاراً من ثلاث خطوات لتنظيم وتيرة التطوير ومنح وقت أطول للتعامل مع المخاطر المصاحبة لهذه التقنيات.

وقال أمودي في مقال مطول نشره على منصة إكس يوم السبت: “يجب أن نبطئ وتيرة تحسين قدرات نماذج الذكاء الاصطناعي. سيظل التقدم يبدو سريعا، وعلينا أن نستغل الوقت الذي نكسبه استغلالا حكيما”.

وقال كل من إيلون ماسك، الذي يدير إكس.إيه.آي، وسام ألتمان الرئيس التنفيذي لأوبن إيه.آي في منشورات على إكس إنهما يتفقان مع أمودي، نقلاً عن وكالة “رويترز”.

وتتضمن خطة أمودي المكونة من ثلاث خطوات تعيين مراجعين مستقلين داخل شركات الذكاء الاصطناعي الرائدة، والتنسيق بين الشركات التي تطور نماذج الذكاء الاصطناعي المتقدمة لوضع معايير للسلامة والحد من تطوير الذكاء الاصطناعي دون رقابة، والتعاون الدولي لإدارة مخاطره.

ونشر أمودي مقاله بعد أن أصدرت أنثروبيك، التي مقرها سان فرانسيسكو، يوم الخميس تقريرا عن معلومات التهديدات يوضح بالتفصيل كيف استخدمت عدة جهات نماذج الذكاء الاصطناعي كلاود التابعة للشركة في أنشطة منها تطوير الأسلحة وتنفيذ عمليات إلكترونية وصولا إلى المراقبة والاحتيال.

وأشار أمودي إلى قدرة الذكاء الاصطناعي المتنامية على تحسين نفسه، مسلطا الضوء على المخاوف القائمة منذ فترة طويلة من أن تتجاوز هذه القدرة قدرة البشر على التحكم في عمله، فضلا عن الواقعة الأحدث التي شملت أوبن إيه.آي وهاجينج فيس، باعتبارها الأسباب الرئيسية للدعوة إلى كبح التقدم في قدرات النماذج.

“قد يقتلنا جميعا”

وتزايد القلق بشأن الأضرار المحتملة الناجمة عن الذكاء الاصطناعي الأسبوع الماضي عندما استقال جاكوب كوكسون، الباحث في شركة أنثروبيك، قائلا إن “الأشخاص الذين يعملون على تطوير الذكاء الاصطناعي يؤمنون إيمانا راسخا بأنه قد يقتلنا جميعا بحلول نهاية هذا العقد”.

واقترح عدد من مسؤولي أوبن إيه.آي أن تكون المختبرات الرائدة مستعدة للتنسيق بشأن إبطاء طوعي إذا لزم الأمر لبناء الثقة في إجراءات السلامة التي تتخذها.

وقدمت أنثروبيك نفسها بوصفها مختبرا أكثر حرصا على السلامة في مجال نماذج الذكاء الاصطناعي المتقدمة، لكنها ليست بمنأى عن هذه المخاوف. وكشفت الأسبوع الماضي عن واقعة أخرى اخترق فيها نموذج للذكاء الاصطناعي أنظمة خارجية، بعد واقعة في يوليو/تموز اخترقت فيها بعض نماذج كلود التابعة لها أنظمة ثلاث شركات خلال اختبارات للأمن الإلكتروني.

وكتب أمودي “في ظل التسارع في وتيرة تطوير قدرات الذكاء الاصطناعي، أخشى أنه خلال ما بين ستة أشهر و12 شهرا قد يصبح مثل هذا السرب قادرا على السيطرة على الإنترنت بأكمله، وربما يتسبب في أضرار بمئات المليارات من الدولارات”.

وأوضح أمودي أنه لا يدعو إلى وقف تدريب النماذج أو التقدم التقني، بل إلى ضمان أن تخصص الشركات الوقت الكافي لمواءمة نماذجها وحمايتها، وأن تعمل جهات تقييم من أطراف ثالثة على التحقق من هذه الخطوات.

الطروحات العامة الأولية

لكن هناك أيضا أموالا طائلة مرتبطة بالحفاظ على التقدم على المنافسين. وتستعد كل من أوبن إيه.آي وأنثروبيك لطرحين عامين أوليين ضخمين. ويمكن لكل قدرة جديدة أن تساعد في دعم جولات تمويل مستقبلية أو التزامات بالبنية التحتية أو الطروحات العامة الأولية.

وفيما يتعلق بالإطار المقترح المكون من ثلاث خطوات، قال أمودي إن شركة أنثروبيك ستعين مراجعين دائمين من أطراف ثالثة داخل شركات الذكاء الاصطناعي الرائدة، مع منحهم حق الوصول إلى الأدوات ذات الصلة وعمليات تقييم المخاطر الداخلية.

وقال ألتمان يوم السبت إن أوبن إيه.آي ستلتزم مثل أنثروبيك بتعيين “مقيمين مستقلين يتمتعون بصلاحيات مماثلة للموظفين”.

وذكرت رويترز الأسبوع الماضي أن سربا من وكلاء أوبن إيه.آي الخارجين عن السيطرة استولى على موقع إلكتروني ألماني وحوله إلى لوحة إعلانات لوكلاء ذكاء اصطناعي آخرين، بينما أبقى مسؤولو الشركة المطورة لتشات جي.بي.تي الواقعة طي الكتمان في وقت كان فيه المسؤولون التنفيذيون يتعاملون مع تداعيات اختراق يوليو/تموز لمستودع البرمجيات مفتوح المصدر هاجينج فيس.

وأثارت وقائع عديدة اخترق فيها وكلاء ذكاء اصطناعي تابعون لمطورين مثل أوبن إيه.آي أنظمة خارجية أو حاولوا الوصول إليها مخاوف بشأن القدرات المتزايدة لنماذج الذكاء الاصطناعي وقدرة مطوريها على احتوائها.

وقال أمودي إنه ينبغي لشركات الذكاء الاصطناعي العمل معا طوعا لوضع معايير، في وقت يدعو فيه عدد متزايد من المشرعين الأميركيين إلى قواعد جديدة لتنظيم أنظمة الذكاء الاصطناعي.

وأضاف أمودي أن النهج المنسق سيمكن شركات الذكاء الاصطناعي الأميركية الرائدة من إجراء البحوث الضرورية المتعلقة بالسلامة ووضع الضمانات اللازمة دون أن يضعها في وضع تنافسي غير موات. وقال إن هذا النهج سيتطلب على الأرجح إعفاءات مستهدفة من قوانين مكافحة الاحتكار في الولايات المتحدة للسماح بالتعاون في بعض المجالات.

وقال أمودي إن أي إبطاء من جانب الدول التي تحكمها أنظمة ديمقراطية ينبغي أن يقتصر على الحفاظ على التقدم الذي تتمتع به شركات الذكاء الاصطناعي الأميركية على الصين، معتبرا أن تفوق الصين في الذكاء الاصطناعي سيشكل مخاطر على الأمن القومي الأميركي.

وكتب أمودي: “ستتحدد وتيرة التطوير داخل الديمقراطيات بالتقدم الذي تحققه الشركات الأميركية على الأنظمة الاستبدادية، وفي مقدمتها الحزب الشيوعي الصيني”.

المصدر: العربية – اقتصاد