باحث في “أنثروبيك” يحذر: الذكاء الاصطناعي قد يقتل جميع البشر خلال 10 سنوات
قال الباحث في سلامة الذكاء الاصطناعي لدى شركة “أنثروبيك” إيفان هوبينغر، إنه يقدّر بأكثر من 10% احتمال أن يتسبب الذكاء الاصطناعي في “قتل جميع البشر” خلال العقد المقبل.
وجاءت تصريحات هوبينغر عقب استقالة الباحث في “أنثروبيك” جاكوب كوكسون، الذي حذر من أن شركات الذكاء الاصطناعي، وبينها “أنثروبيك” و”أوبن إيه آي”، تندفع نحو تطوير أنظمة فائقة الذكاء دون ضمانات كافية للسيطرة على مخاطرها.
وقال كوكسون إن المختبرات “تخاطر بحياة البشر” عبر السباق لتطوير ذكاء اصطناعي قادر على تحسين نفسه، محذرًا من أن هذه الأنظمة قد تصبح قادرة على اختراق أنظمة مختلفة، واكتساب موارد ونفوذ حقيقيين.
ورد هوبينغر على تصريحات زميله قائلًا إن مخاوفه صحيحة، وإنه يعتقد شخصيًا أن احتمال تسبب الذكاء الاصطناعي في القضاء على البشرية يتجاوز 10% خلال السنوات العشر المقبلة.
وأضاف أن “أنثروبيك” تحاول التعامل مع هذه المخاطر، لكنها لا تملك حتى الآن خطة لحل مشكلة مواءمة الذكاء الاصطناعي الفائق مع أهداف البشر، ولا ترى أنها تسير بوضوح نحو حل هذه المشكلة.
وتتركز المخاوف على إمكانية وصول الذكاء الاصطناعي إلى مرحلة التحسين الذاتي التكراري، بما يسمح للأنظمة بتطوير قدراتها وخلفائها بأقل تدخل بشري.
وكانت “أنثروبيك” قد حذرت في يونيو من أن قدرة أنظمة الذكاء الاصطناعي على بناء خلفائها قد تزيد مخاطر فقدان البشر السيطرة عليها.
وحذر كبير علماء شركة “OpenAI” جاكوب باتشوكي، من أن الذكاء الاصطناعي يتطور بسرعة تجعل فهم البشر لقدراته والسيطرة عليها أكثر صعوبة، داعياً إلى توخي أقصى درجات الحذر مع اقتراب الأنظمة من القدرة على تحسين نفسها دون تدخل بشري.
وأشار باتشوكي، أن نماذج الذكاء الاصطناعي باتت قادرة على تشغيل أجهزة الكمبيوتر والتعاون مع البشر وأنظمة الذكاء الاصطناعي الأخرى وتنفيذ مشاريع بحثية، متوقعًا أن تتمكن قريبًا من تطوير قدراتها ذاتيًا، فيما يعرف بالتحسين الذاتي المتكرر.
وأضاف أنه يأمل يتوقع أن يصبح التباطؤ الطوعي في تطوير نماذج الذكاء الاصطناعي أمرًا شائعًا بين المختبرات، إلى حين وضع معايير سلامة مشتركة.
المصدر: العربية – اقتصاد
