“قد يموت الجميع قريبا”.. تحذيرات قاتمة من كارثة وشيكة بسبب الذكاء الاصطناعي

ينبغي أخذ تحذير شركة “أنثروبيك” من خطورة الذكاء الاصطناعي على محمل الجد، ولكن دون استخدام ذلك ذريعة لترسيخ هيمنة المختبرات الأميركية أو تصعيد التنافس مع بكين، وذلك وفقا لأليكس كراسودومسكي، الباحث البريطاني البارز والخبير في مجال الإعلام الرقمي والذكاء الاصطناعي وتقنيات الاتصال.

وقال كراسودومسكي، الذي يشغل حاليا منصب مدير برنامج المجتمع الرقمي في معهد “تشاتام هاوس” (المعهد الملكي للشؤون الدولية البريطاني) في تقرير للمعهد إنه في عطلة نهاية الأسبوع، أطلق موظفون حاليون وسابقون في مختبرات الذكاء الاصطناعي الأميركية -إلى جانب قادة هذه المختبرات- تحذيرات قاتمة بشأن كارثة وشيكة قد يسببها الذكاء الاصطناعي.

وقال موظف سابق بأحد المختبرات إن خروج تطوير الذكاء الاصطناعي عن السيطرة قد يعني “أننا جميعا قد نموت في المستقبل القريب”. وتلا ذلك مقترح من داريو أمودي، الرئيس التنفيذي لشركة “أنثروبيك” للذكاء الاصطناعي، بإبطاء وتيرة تطوير الذكاء الاصطناعي لضمان سلامة هذه التقنية. وقد حظي المقترح بتأييد قادة مختبرات أخرى، ومن بينهم سام ألتمان وإيلون ماسك.

وأشار كراسودومسكي إلى أنه لا يمكن لأي مراقب لمجال الذكاء الاصطناعي أن يعترض على أهمية التركيز بشكل أكبر على السلامة أثناء تطوير ونشر هذه التقنية، لكن الاهتمام المتجدد بالمخاطر طويلة الأمد للذكاء الاصطناعي يجب ألا يؤدي إلى إغفال الآثار الحالية لهذه التقنية. كما ينبغي ألا تستخدم هذه القضية كأداة حادة للقضاء على المنافسين للشركات الأميركية الرائدة حاليا في مجال الذكاء الاصطناعي. ولن يكون من الممكن معالجة هذه المسألة دون التوصل إلى نوع من الاتفاق بين الولايات المتحدة والصين.

ما سبب هذه التحذيرات الجديدة؟

أوضح كراسودومسكي أن المسار نحو الكارثة -الذي وصفه أمودي وآخرون- يمر عبر تقنية يشار إليها باسم “التحسين الذاتي المتكرر”، وهو نهج لتدريب نماذج الذكاء الاصطناعي بدأ يدخل حيز التنفيذ الفعلي، وإن كان لا يزال في مراحله الأولية.

وحذر من أن المخاطرة تكمن في أن تقنية “التحسين الذاتي المتكرر” -التي تنطوي على قيام الذكاء الاصطناعي بتدريب أنظمة ذكاء اصطناعي أخرى- قد تؤدي إلى تسارع هائل في وتيرة التطوير، بحيث نصل في مرحلة ما إلى “نقطة تحول” تصبح عندها أنظمة الذكاء الاصطناعي قادرة على تطوير نفسها بعيدا عن الرقابة البشرية.

ويرى كراسودومسكي أنه من غير الواضح ما إذا كان هذا وحده كافيا لإنتاج نماذج ذكاء اصطناعي تهدد السيطرة البشرية، إلا أن قدرات هذه التكنولوجيا تطورت بسرعة فائقة خلال السنوات القليلة الماضية، لدرجة تجعل استبعاد هذا الاحتمال تماما نوعا من التهور.

وقد سارع خبراء إلى الإشارة إلى أن بعض المزاعم التي تم طرحها خلال عطلة نهاية الأسبوع لا تستند إلى أسس متينة بالكامل. وفيما يتعلق بالأمن السيبراني تحديدا، استبعد مؤسس المركز الوطني للأمن السيبراني في المملكة المتحدة خطورة أن يقوم نموذج ذكاء اصطناعي بتعطيل شبكة الإنترنت بأكملها في غضون عام، ووصفها بأنها “تجربة فكرية تم طرحها وكأنها تحذير مبني على أدلة”. لكن في الغالب، حظيت رسالة أن الذكاء الاصطناعي يشكل خطرا وجوديا على البشرية في المدى القريب- بتغطية إعلامية واسعة دون معارضة تذكر.

التأثيرات الحالية

وقال كراسودومسكي إن بعض المخاطر الناجمة عن الذكاء الاصطناعي فورية ومؤكدة، وخلال العامين المقبلين، سيتم تطوير ونشر تقنيات تعلم آلي ذات قدرات متنامية، بطرق ستعيد تشكيل الاقتصادات والمجتمعات والحكومات وساحات المعارك والفصول الدراسية وغيرها بشكل جذري. ومؤخرا، عاش علماء الرياضيات “لحظة لي سيدول” الخاصة بهم، والتي تعني الحالة من القلق التي تصيب الشخص حين تبدأ الآلات في التفوق عليه في مهام كانت تقتصر سابقا على براعة البشر. وقريبا، سيمر معظم الناس بتجربة مماثلة.

وأشار إلى أن قلة من يفهمون الآثار الفورية أفضل من شركات الذكاء الاصطناعي نفسها. ويوضح تقرير متميز أصدرته شركة “أنثروبيك” مؤخراً إساءة استخدام منتجاتها في أغراض التجسس والهجمات السيبرانية وعمليات التلاعب بالمعلومات وتطوير الأسلحة.

وتحتفظ معظم المختبرات الكبرى بقدرات بحثية كبيرة لدراسة التأثير المحتمل للذكاء الاصطناعي على الاقتصاد العالمي. هذه ثورة تكنولوجية تعيد تشكيل وجه المجتمع العالمي، ولا يمكن ترك آثارها الراهنة دون ضوابط أو تنظيم.. إن الآثار الراهنة حقيقية، والمخاطر قصيرة الأجل كبيرة.

الشفافية والمدى الأبعد

إن المخاطر الممتدة على المدى البعيد -سواء تمثلت في تراجع تدريجي في دور البشر مع تولي الآلات مسؤوليات أكبر، أو في حدوث شيء بشكل مفاجئ أكثر- هي مخاطر محتملة وتنطوي على قدر كاف من التهديد بما يستدعي الاهتمام بها.

وتتسارع الجهود التي يقودها خبراء مثل ستيوارت راسل للتوصل إلى اتفاق دولي بشأن وضع خطوط حمراء واضحة وقابلة للتحقق لمنع حدوث عواقب كارثية. وبدون هذه الجهود، قد تضيع الفرصة الأولى لوضع نظام حوكمة عالمي ملزم وقابل للتطبيق على هذه التكنولوجيا.

وأكد كراسودومسكي أن الشفافية من جانب مختبرات الذكاء الاصطناعي ستكون أمرا بالغ الأهمية، مشيرا إلى أن النوع الذي حدده أمودي في مقترحه- والمتمثل في وجود طرف ثالث أو جهة مستقلة مندمجة داخل مختبرات الذكاء الاصطناعي، تتمتع بصلاحيات مماثلة لصلاحيات الموظفين، ومهمتها تقييم تدابير الحماية التي تتخذها شركات الذكاء الاصطناعي- كان مطلبا يطرحه المدافعون عن حوكمة الذكاء الاصطناعي منذ سنوات.

وقيام شركة “أنثروبيك” بعرض تطبيق هذا الأمر من جانب واحد، مع استعداد بعض المختبرات الأخرى لأن تحذو حذوها، يمثل بلا شك خطوة إلى الأمام.

وإذا تم إنشاء مثل هذا الطرف الثالث، فمن الضروري للغاية أن يتم اختياره من خارج “فقاعة وادي السيليكون”. ويبدو “معهد سلامة الذكاء الاصطناعي” في المملكة المتحدة أحد أكثر المؤسسات المرشحة ملاءمة لهذا الدور على مستوى العالم. كما توجد نماذج وطنية للرقابة على الذكاء الاصطناعي تشبه نموذج “إدارة الغذاء والدواء” الأمريكية أو نماذج دولية مثل “الوكالة الدولية للطاقة”، وهي تعد خيارات موثوقة.

وقد قوبل اقتراح أمودي بأن تتعاون مختبرات الذكاء الاصطناعي الأمريكية معا لوضع معايير موحدة وتنسيق إبطاء وتيرة العمل بانتقاد لاذع من “ديفيد ساكس”، المسؤول السابق عن ملف الذكاء الاصطناعي في البيت الأبيض، الذي كتب على موقع إكس “توقفوا عن التظاهر بأن قوانين مكافحة الاحتكار يجب أن يتم تعطيلها لتتمكنوا من تشكيل تكتل احتكاري (كارتل)، وتوقفوا عن الادعاء بأنكم بحاجة إلى عملية للحصول على موافقات تنظيمية تتجاوز قواعد مسؤولية المنتج”.

وأضاف: “إن المطالبة بإطار تنظيمي تفضلونه باعتباره الثمن… ستبدو وكأنها ابتزاز للجمهور وللنظام السياسي”.

ويعكس هذا الموقف مخاوف من أن الضغوط الهائلة التي تواجهها هذه الشركات لتلبية توقعات الإيرادات قد تدفعها لمحاولة توسيع ميزتها التنافسية، أي ترسيخ ميزتها التنافسية على حساب الآخرين.

وينبغي رفض أي جهد من هذا النوع، فالمنافسة لتحقيق أداء أفضل وموثوقية ستكون ضرورية لتعزيز سلامة الذكاء الاصطناعي على المدى القريب. كما أنها قد تؤدي إلى إبطاء وتيرة التطوير، لأنها تضعف الحافز التجاري لضخ رؤوس أموال ضخمة في تدريب نماذج ذكاء اصطناعي متطورة ورائدة، والتي تزداد تكلفتها باستمرار.

إن أي سياسة مقترحة تعرقل المنافسة – مثل حظر نماذج الذكاء الاصطناعي مفتوحة المصدر، أو تخفيف قوانين المسؤولية عن المنتج، أو حظر استخدام النماذج الحالية التي ثبتت سلامتها – يجب أن تدق ناقوس الخطر. وبالتأكيد، لا ينبغي على المملكة المتحدة حظر نماذج الذكاء الاصطناعي مفتوحة المصدر أو مفتوحة الأوزان.

وأخيرا، لن تكتمل أي جهود للحفاظ على السيطرة البشرية على تطوير الذكاء الاصطناعي دون نوع من التفاهم بين القوى العظمى في هذا المجال، وهما الولايات المتحدة والصين، وربما يكون ذلك من خلال تحديد “خطوط حمراء” كتلك التي اقترحها البروفيسور راسل.

وأشار كراسودومسكي إلى أن الطرح الحالي، الذي يرتكز بشكل كبير على الحفاظ على تفوق الولايات المتحدة على الصين، يجعل هذا الأمر أكثر صعوبة. ويقول أمودي إن على الديمقراطيات الحفاظ على تقدمها على الصين، ويتهم بكين بتبني نهج أقل صرامة فيما يتعلق بسلامة الذكاء الاصطناعي. ومن جانبه، يصور الرئيس الأمريكي دونالد ترامب الذكاء الاصطناعي باعتباره “لعبة صفرية” (يكون مكسب طرف هو خسارة للآخر)، مفضلا التركيز على الفوز بسباق الذكاء الاصطناعي، حيث يقول “من يفوز في مجال الذكاء الاصطناعي، يحقق الفوز “.

وفي المقابل، تحدث الرئيس الصيني شي جين بينج علنا عن ضرورة وجود سيطرة بشرية على الذكاء الاصطناعي. كما أصدرت وكالة الاستخبارات الصينية هذا الأسبوع أول تحذير لها بشأن المخاطر التي يشكلها الذكاء الاصطناعي على الأمن القومي. ومع ذلك، فإن ضغط شي لتعزيز رؤية الصين لحوكمة الذكاء الاصطناعي -والتي تأتي في إطار التنافس مع واشنطن- ستؤدي بلا شك إلى تأجيج الشعور بتسارع وتيرة سباق التسلح في مجال الذكاء الاصطناعي، وهذا لن يسهم بأي حال في كبح سرعة التطور.

واختتم كراسودومسكي تحليله بالقول إن ملف الذكاء الاصطناعي سيكون مطروحا للنقاش عندما يلتقي ترامب وشي في واشنطن في وقت لاحق من الشهر الجاري، وتحقيق بعض التقدم ليس أمرا مستحيلا. ولكن في ظل إصرار الأصوات البارزة في البلدين على ضرورة التفوق على الطرف الآخر، سيتطلب التوصل إلى اتفاق جهودا هائلة.

المصدر: العربية – منوعات