قادة الذكاء الاصطناعي يتفقون على ضرورة إبطاء تطويره
دعا قادة أكبر شركات الذكاء الاصطناعي في العالم إلى إبطاء وتيرة تطوير النماذج الأكثر تقدماً وربحية، محذرين من تنامي المخاطر المرتبطة بالتكنولوجيا مع تسارع قدراتها بصورة غير مسبوقة.
وأعلن الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، في تدوينة مطولة السبت، اعتماد إجراءات سلامة جديدة تشمل منح جهات تقييم مستقلة صلاحيات واسعة لمراجعة أنظمة الشركة، داعياً القطاع بأكمله إلى تبني نهج أكثر حذراً في تطوير الذكاء الاصطناعي.
وسارع الرئيس التنفيذي ل”أوبن إيه آي” سام ألتمان إلى تأييد المقترح، متعهداً بتطبيق فكرة “المقيمين المستقلين” الذين يتمتعون بصلاحيات مشابهة للموظفين، فيما أيد إيلون ماسك، مؤسس شركة xAI، هذه الدعوة قائلاً إن أمودي “على حق”، وفقاً لما ذكرته “بلومبرغ”، واطلعت عليه “العربية Business”.
ومثلت هذه المواقف تحولاً لافتاً في صناعة اعتادت التنافس المحموم وإطلاق منتجات جديدة بوتيرة متسارعة سعياً إلى زيادة المستخدمين والحصة السوقية والإيرادات، رغم أن كبار التنفيذيين حذروا مراراً خلال السنوات الماضية من مخاطر الذكاء الاصطناعي.
استقالات وتحذيرات تغذي القلق
تصاعدت المخاوف خلال الأيام الماضية بعد استقالة باحث في شركة أنثروبيك احتجاجاً على ما وصفه بتعامل غير مسؤول مع المخاطر الوجودية للذكاء الاصطناعي، في أحدث حلقة من سلسلة تحذيرات داخل القطاع من أن التكنولوجيا تتطور بسرعة قد تهدد الأمن القومي والاقتصاد العالمي.
وتزامنت هذه المخاوف مع تنامي ردود الفعل السلبية تجاه الذكاء الاصطناعي في الولايات المتحدة، مدفوعة بالاعتراضات على استهلاك مراكز البيانات الضخم للموارد المحلية والطاقة، إضافة إلى القلق من ارتفاع فواتير الكهرباء وتأثير التكنولوجيا على الوظائف، ما جعل القضية حاضرة بقوة في انتخابات التجديد النصفي المقررة في نوفمبر.
تساؤلات حول المنافسة والاحتكار
أثارت الدعوات الجديدة تساؤلات حول مدى استعداد الشركات الكبرى، التي تواجه منافسة شرسة فيما بينها ومن الشركات الصينية أيضاً، لفرض قيود فعلية على تطوير نماذجها.
وأبدى ديميس هاسابيس، كبير العلماء في ألفابت والمؤسس المشارك ل”غوغل ديب مايند”، دعماً عاماً لفكرة أمودي، لكنه أشار إلى أن التفاصيل العملية لا تزال بحاجة إلى مزيد من العمل.
كما برزت تساؤلات قانونية حول ما إذا كانت سلطات مكافحة الاحتكار ستسمح للشركات بتنسيق وتيرة التطوير بصورة جماعية، فضلاً عن احتمالات رد فعل المستثمرين الذين استفادوا من طفرة الذكاء الاصطناعي ودفعوا أسهم القطاع إلى مستويات قياسية.
حادثة أمنية وراء الدعوات الجديدة
أرجع أمودي موقفه الأكثر تحفظاً إلى عاملين رئيسيين: قدرة نماذج الذكاء الاصطناعي على تحسين نفسها ذاتياً، وحادثة حديثة تعاونت خلالها مجموعة من وكلاء الذكاء الاصطناعي لاختراق موقع إلكتروني تابع لجهة خارجية في واقعة شملت “أوبن إيه آي” و”Hugging Face”.
وكتب أمودي أن الشركات “يجب أن تبطئ وتيرة تحسين قدرات النماذج”، مؤكداً في الوقت ذاته أن المقصود ليس وقف التدريب أو التقدم التقني، بل منح وقت كافٍ لاختبار النماذج وتعزيز إجراءات الحماية والتحقق منها عبر جهات مستقلة.
سباق محموم رغم التحذيرات
واصلت أنثروبيك تقديم نفسها باعتبارها شركة تضع السلامة في مقدمة أولوياتها، وكانت قد حدت في وقت سابق من إطلاق نموذج “Mythos” بعد رصد مخاطر سيبرانية خاصة به، كما دعت سابقاً إلى آلية عالمية تحدد متى ينبغي إبطاء تطوير التكنولوجيا.
لكن الشركة ما زالت منخرطة في منافسة مباشرة مع “أوبن إيه آي” لتطوير نماذج أكثر تقدماً قادرة على تنفيذ مهام معقدة ذات قيمة عالية لعملاء الأعمال، في وقت تستعد فيه الشركتان لطرح عام أولي بعد تقديم ملفات سرية للجهات التنظيمية.
وفي هذا السياق، قال ألتمان إن طرح “أوبن إيه آي” للاكتتاب العام لن يتم قبل عام 2027، معتبراً أن المخاطرة بنسبة 10% في إمكانية القضاء على البشرية بحلول نهاية العقد “أمر غير مقبول”.
مخاطر الاختراقات تتزايد
كشفت أنثروبيك أخيراً أن نماذجها نجحت خلال اختبارات أمنية في اختراق أنظمة تابعة لثلاث مؤسسات، قبل أن تعلن لاحقاً اكتشاف حالة رابعة، ما زاد من المخاوف بشأن قدرة شركات الذكاء الاصطناعي على السيطرة على أنظمتها.
ورغم أن هذه الحوادث لم تتسبب حتى الآن في أضرار كبيرة، حذر أمودي من أن أسراباً من الوكلاء الذكيين قد تصبح خلال ستة إلى اثني عشر شهراً قادرة على السيطرة على الإنترنت عبر شبكات روبوتية واسعة، بما قد يؤدي إلى خسائر تصل إلى مئات المليارات من الدولارات.
وأوضحت أنثروبيك أنها ستمنح مستقبلاً مقيمين مستقلين وصولاً كاملاً إلى أنظمة الشركة، عبر تزويدهم بمكاتب وأجهزة حاسوب وصلاحيات شبه مماثلة لفرق تقييم المخاطر الداخلية.
مطالب بتنسيق عالمي
دعا أمودي إلى تنسيق واسع النطاق داخل الصناعة، وإلى تعاون دولي يشمل الصين، معتبراً أن استراتيجية جماعية ستمنح الشركات الأميركية الوقت اللازم لتعزيز السلامة دون التضحية بقدرتها التنافسية.
وأكد أن تحقيق ذلك قد يتطلب استثناءات محددة من قوانين مكافحة الاحتكار داخل الولايات المتحدة تسمح للشركات بالتنسيق في بعض الملفات المتعلقة بالسلامة.
وحذر في المقابل من أن تقليص الولايات المتحدة لقدراتها التقنية على افتراض أن الصين ستقوم بالخطوة نفسها قد يؤدي إلى اختلالات جيوسياسية كبيرة إذا لم تلتزم بكين بالقيود ذاتها.
ورغم تصاعد التحذيرات، لم تُظهر إدارة الرئيس الأميركي دونالد ترامب حتى الآن ميلاً واضحاً لفرض قيود تنظيمية صارمة على تطوير الذكاء الاصطناعي.
المصدر: العربية – اقتصاد
