هل سيدمر الذكاء الاصطناعي البشرية فعلاً؟ رواد هذه التقنية يحذرون
مع تسارع تطور الذكاء الاصطناعي ووصول نماذجه إلى مستويات متقدمة من القدرة على التخطيط والبرمجة والإقناع، تتزايد المخاوف بشأن احتمال خروج هذه التكنولوجيا عن السيطرة وتحولها من أداة لخدمة البشر إلى تهديد وجودي للبشرية.
لكن هل يمكن للذكاء الاصطناعي أن يدمر البشرية فعلًا؟ يرى عدد من أبرز العلماء الذين أسهموا في تطوير التكنولوجيا نفسها أن الخطر ليس مجرد سيناريو من أفلام الخيال العلمي، وإن كانت تقديرات حجم هذا الخطر وموعده لا تزال محل خلاف واسع.
ومن بين أبرز الأصوات التي حذرت من المخاطر المحتملة يوشوا بنجيو وجيفري هينتون وأيدان جوميز، وهم جميعًا من الشخصيات التي لعبت أدوارًا مهمة في تطوير تقنيات التعلم العميق والشبكات العصبية والذكاء الاصطناعي الحديث.
يوشوا بنجيو: الذكاء الاصطناعي يمتلك بالفعل قدرات خطيرة
يُعد الكندي يوشوا بنجيو، عالم الكمبيوتر وأستاذ جامعة مونتريال، أحد الرواد الرئيسيين في تطوير تقنيات التعلم العميق الحديثة، بحسب تقرير نشرته شبكة “سي إن بي سي” واطلعت عليه “العربية Business”.
وفي 9 سبتمبر، علّق بنجيو على استقالة الباحث في شركة أنثروبيك جاكوب كوكسون، الذي حذر من احتمال أن يتسبب الذكاء الاصطناعي في “قتلنا جميعًا بحلول نهاية العقد”.
وقال بنجيو إن العلماء العاملين في مختبرات الذكاء الاصطناعي المتقدمة يمتلكون رؤية فريدة لأحدث النماذج، مشيرًا إلى أن هؤلاء العلماء غالبًا ما يرون المخاطر المرتبطة بالتكنولوجيا قبل أشهر من طرح النماذج للجمهور.
وأضاف أن وجهة نظر هؤلاء الباحثين ضرورية لإبقاء المجتمع على اطلاع بما يحدث، وينبغي التعامل معها بجدية كبيرة.
وجاءت هذه التحذيرات بعد أيام فقط من تحذير كبار العلماء في “OpenAI” من أن “لا أحد مستعد لعواقب” الذكاء الاصطناعي.
وفي تدوينة نشرها يوم الجمعة، ذهب بنجيو إلى أبعد من ذلك، مؤكدًا أن أنظمة الذكاء الاصطناعي الحالية تمتلك بالفعل مهارات الاختراق الإلكتروني وقدرات الإقناع اللازمة لاستغلالها ضد مصالح البشر بطرق شديدة الضرر.
وأشار إلى أن الأحداث الأخيرة أظهرت أيضًا قدرة الذكاء الاصطناعي على التخطيط على مدى أيام أو أسابيع، محذرًا من أن المخاطر قد تصبح أسوأ بكثير إذا استمرت قدرته على وضع الاستراتيجيات طويلة المدى في التطور.
ويرى بنجيو أن إحدى المشكلات تكمن في الطريقة التي تحاول بها شركات الذكاء الاصطناعي معالجة ما يعرف بـ “عدم التوافق”، أي عدم تطابق أهداف الذكاء الاصطناعي مع مصالح البشر.
وقال إن جهود الحد من هذه المشكلة قد تؤدي، paradoxically، إلى إخفائها بدلًا من القضاء عليها، من خلال مكافأة واختيار نماذج ذكاء اصطناعي تتعلم الغش دون أن يتم اكتشافها.
ودعا إلى مواصلة الأبحاث الرامية إلى تطوير وسائل أفضل لمراقبة تصرفات أنظمة الذكاء الاصطناعي، وعمليات التفكير الخاصة بها، وكذلك النشاط الذي يحدث داخل شبكاتها العصبية.
جيفري هينتون: احتمال 10% ليس رقمًا غير منطقي
أما جيفري هينتون، الأستاذ الفخري بجامعة تورنتو وأحد أبرز رواد الشبكات العصبية والتعلم العميق، فيرى أن تقدير احتمال تسبب الذكاء الاصطناعي في انقراض البشرية أمر بالغ الصعوبة، لأن البشرية لم تواجه شيئًا مماثلًا من قبل.
وفي مقابلة مع هيئة الإذاعة البريطانية “بي بي سي” في 10 سبتمبر، سُئل هينتون عما إذا كان يعتقد أن هناك احتمالًا يتجاوز 10% لأن يتسبب الذكاء الاصطناعي في قتل جميع البشر خلال العقد المقبل.
ورد بأن هذا النوع من الاحتمالات يصعب تقديره، قائلًا إن البشر لم يسبق لهم إنشاء كيانات قد تصبح قريبًا أكثر ذكاءً منهم.
ويرى هينتون أن احتمالًا يبلغ 10% ليس تقديرًا غير منطقي، لكنه شدد في الوقت نفسه على أنه لا أحد يعرف حقًا كيف يقدم تقديرًا معقولًا لهذا الخطر.
وحذر من أن أنظمة الذكاء الاصطناعي يمكن أن تستخدم قدراتها لتصميم فيروسات بيولوجية شديدة الخطورة، إلى جانب تطوير فيروسات إلكترونية وتنفيذ هجمات سيبرانية مدمرة.
وأضاف أن هناك عددًا لا يحصى من الطرق الأخرى التي يمكن أن تستخدمها هذه الأنظمة للقضاء على البشر إذا امتلكت الدافع لذلك، مؤكدًا أن التحدي الحقيقي يتمثل في تصميم الذكاء الاصطناعي بطريقة لا تجعله يرغب في إيذاء البشر.
ويرى هينتون أن البشرية تقف أمام مستقبلين محتملين:
الأول أن تتمكن من فهم هذه المخاطر والتعامل معها قبل أن تخرج عن السيطرة، والثاني أن تفشل في ذلك.
أيدان جوميز: أقوى سلاح إلكتروني على الإطلاق
على الجانب الآخر، يركز أيدان جوميز، الرئيس التنفيذي والشريك المؤسس لشركة الذكاء الاصطناعي Cohere، على الخطر الأكثر واقعية في الوقت الحالي، وهو استخدام نماذج الذكاء الاصطناعي في الهجمات السيبرانية.
وكان جوميز أحد مؤلفي الورقة البحثية الشهيرة “Attention Is All You Need” التي نُشرت عام 2017، وأسست لجزء كبير من التقنيات التي تقوم عليها نماذج الذكاء الاصطناعي الرائدة اليوم.
وقال جوميز في بودكاست “The Tech Download” التابع لشبكة “سي إن بي سي” في الأول من سبتمبر، إنه يرى أن هذه النماذج تمثل أقوى سلاح إلكتروني عرفه البشر على الإطلاق، نظرًا إلى قدرتها الهائلة على اكتشاف الثغرات الأمنية واستغلالها على نطاق واسع.
وأشار إلى أن الهجمات السيبرانية التي نُفذت بواسطة نماذج ذكاء اصطناعي خبيثة خلال الصيف أظهرت بوضوح أن أمن بيئة تشغيل النموذج هو العامل الحاسم في تحديد مستوى أمانه.
وبحسب جوميز، فإن ضعف أمن الحاويات والبيئات المعزولة التي تعمل فيها النماذج هو ما يسمح بحدوث عمليات الاختراق والخروج من البيئة المحددة، وليس وجود ميل جوهري لدى أنظمة الذكاء الاصطناعي نحو العمل بشكل مستقل.
ودعا صناع السياسات، أثناء وضع القواعد المنظمة للذكاء الاصطناعي، إلى إدراك أن الأنظمة المختلفة تحمل مستويات مختلفة من المخاطر، محذرًا من صياغة القواعد اعتمادًا فقط على شركات التكنولوجيا الكبرى التي تسعى إلى الوصول إلى الذكاء الاصطناعي العام (AGI).
الخطر لم يعد مجرد سيناريو مستقبلي
ورغم اختلاف مواقف هؤلاء الرواد الثلاثة بشأن طبيعة الخطر وحجمه، فإنهم يتفقون على نقطة أساسية: القدرات التي كانت تبدو مستقبلية أصبحت موجودة بالفعل بدرجات متفاوتة.
فالذكاء الاصطناعي أصبح قادرًا على اكتشاف الثغرات، وتنفيذ مهام معقدة، والتخطيط لفترات أطول، وإقناع البشر، وهي قدرات يمكن استخدامها لأغراض مفيدة، لكنها قد تتحول إلى أدوات خطيرة إذا وقعت في الأيدي الخطأ أو خرجت أنظمة متقدمة عن آليات الرقابة البشرية.
وفي الوقت نفسه، لا يقدم العلماء دليلًا على أن انقراض البشرية أمر حتمي أو حتى وشيك. لكن تحذيراتهم تعكس قناعة متزايدة بأن الاستعداد للمخاطر يجب أن يسبق وصول الذكاء الاصطناعي إلى مستويات أكثر تقدمًا، خصوصًا إذا استمرت قدراته في التطور بوتيرة سريعة.
والسؤال، بالنسبة لهؤلاء العلماء، لم يعد فقط ما إذا كان الذكاء الاصطناعي سيصبح أكثر ذكاءً من البشر، وإنما كيف يمكن للبشر ضمان أن تظل هذه الأنظمة متوافقة مع مصالحهم عندما تصل إلى تلك المرحلة.
المصدر: العربية – تكنولوجيا
