الأب الروحي للذكاء الاصطناعي يحذر: “انتهى أمرنا في هذه الحالة”
حذر عالم الذكاء الاصطناعي الحائز على جائزة نوبل جيفري هينتون من العواقب المحتملة لتطور الذكاء الاصطناعي إلى مستوى يتجاوز فيه القدرات العقلية للبشر، مؤكدًا أن البشرية قد تواجه تهديدًا وجوديًا إذا لم تتمكن من إيجاد حلول لهذه المشكلة قبل الوصول إلى تلك المرحلة.
ورغم أن الذكاء الاصطناعي يستخدم منذ سنوات في العديد من الصناعات والتطبيقات، فإن الصورة الأكثر شيوعًا له لدى الجمهور ارتبطت طويلًا بأفلام الخيال العلمي، مثل 2001: A Space Odyssey وThe Terminator وThe Matrix، حيث تظهر أنظمة ذكاء اصطناعي فائقة الذكاء تتحول إلى تهديد للبشرية.
لكن هينتون، الذي يعد أحد أبرز العلماء الذين ساهموا في تطوير تقنيات الذكاء الاصطناعي الحديثة، يرى أن هذا السيناريو لا يمكن استبعاده ببساطة، بحسب تقرير نشره موقع “slashgear” واطلعت عليه “العربية Business”.
من حق الناس أن يشعروا بالقلق
وخلال حديثه أمام الحضور في القمة التشريعية للمؤتمر الوطني للمجالس التشريعية للولايات (NCSL) في شيكاغو، تطرق هينتون إلى المخاوف المتزايدة لدى الجمهور بشأن الذكاء الاصطناعي.
وقال إن الكثير من الناس أصبحوا قلقين الآن بشأن الذكاء الاصطناعي، قبل أن يضيف أن هؤلاء الأشخاص “من حقهم أن يشعروا بالقلق”.
ويملك هينتون خبرة طويلة في هذا المجال؛ فهو حاصل على درجة الدكتوراه في الذكاء الاصطناعي من جامعة إدنبرة منذ عام 1978، وعمل لعقود على تطوير تقنيات التعلم الآلي والشبكات العصبية، حتى اكتسب لقب “الأب الروحي للذكاء الاصطناعي”.
وأكد هينتون أن أحد أكبر التحديات يتمثل في عدم قدرة أحد على التنبؤ بدقة بما سيحدث مع استمرار تطور الذكاء الاصطناعي.
وقال: “لا أحد يعرف كيف سيكون المستقبل”، مشيرًا في الوقت نفسه إلى أن سرعة تطور التكنولوجيا تجاوزت توقعات كثير من الخبراء، وهو ما يثير تساؤلات حول الثمن الذي قد تدفعه البشرية إذا استمر تطوير أنظمة الذكاء الاصطناعي المتقدمة دون ضوابط كافية.
كيف يمكن للذكاء الاصطناعي أن يعمل ضد البشر؟
أشار هينتون إلى مجموعة من المخاطر المرتبطة بالتطور السريع للذكاء الاصطناعي، من بينها فقدان الوظائف، فضلًا عن تأثير الذكاء الاصطناعي في الثقة بالمعلومات.
ومع قدرة أي شخص تقريبًا على استخدام الذكاء الاصطناعي لإنشاء صور ومقاطع فيديو وتسجيلات صوتية تبدو حقيقية، أصبح من الصعب بصورة متزايدة تحديد ما إذا كان المحتوى الذي نراه حقيقيًا أم مولدًا اصطناعيًا.
وقد يستغل الأشخاص ذوو النيات السيئة هذه الحالة من عدم اليقين للتلاعب بالجمهور وتحقيق أهدافهم.
لكن هينتون أشار أيضًا إلى أمثلة أكثر إثارة للقلق تتعلق بقدرة بعض أنظمة الذكاء الاصطناعي على التخطيط لاتخاذ إجراءات ضد مشغليها من أجل الحفاظ على استمرار عملها.
تجربة تكشف كيف قد يلجأ الذكاء الاصطناعي إلى الابتزاز
استشهد هينتون بتجربة جرى فيها تدريب نظام ذكاء اصطناعي على رسائل بريد إلكتروني داخلية لشركة خيالية.
ومن خلال هذه الرسائل، تعلم النظام أن أحد مهندسي الشركة كان على علاقة عاطفية بأحد الموظفين الآخرين.
بعد ذلك، عرض الباحثون على النظام رسالة تفيد بأن هذا المهندس يستعد لاستبدال نظام الذكاء الاصطناعي الحالي بمنتج منافس.
وبحسب هينتون، وضع النظام من تلقاء نفسه خطة لابتزاز المهندس، تقوم على تهديده بكشف علاقته العاطفية إذا مضى قدمًا في استبداله.
وتوضح التجربة، بحسب هينتون، كيف يمكن لنظام ذكاء اصطناعي أن يتخذ خطوات تبدو عدوانية من أجل الحفاظ على استمراره.
ولا يعني ذلك بالضرورة أن النظام يرغب في الحياة بالمعنى البشري، وإنما قد يتصرف بهذه الطريقة لأنه مصمم لتحقيق أهداف محددة، وبالتالي قد يرى أن الحفاظ على وجوده ضروري للاستمرار في تنفيذ المهام الموكلة إليه.
انتهى أمرنا إذا تجاوز الذكاء الاصطناعي ذكاء البشر
تحذيرات هينتون ليست جديدة.
وخلال حديث سابق أمام مجلس الشيوخ الكندي حول التهديد الوجودي المحتمل للذكاء الاصطناعي، أقر هينتون بأنه لا توجد حاليًا إجابة واضحة حول الطريقة التي يمكن من خلالها حل هذه المشكلة.
وأشار إلى أن البشر ما زالوا هم من يصممون أنظمة الذكاء الاصطناعي، وبالتالي قد يكون من الممكن، نظريًا، برمجتها بخصائص شبيهة بغريزة الأمومة، بحيث تنظر إلى البشر باعتبارهم كائنات يجب حمايتها بدلًا من اعتبارهم تهديدًا.
لكن هينتون كان أكثر صراحة بشأن خطورة السيناريو الأسوأ، إذ قال إن “انتهى أمرنا” إذا فشلت البشرية في معالجة التهديد الوجودي قبل أن يصبح الذكاء الاصطناعي أكثر ذكاءً من البشر.
الذكاء الاصطناعي قد ينقذ البشر أيضًا
رغم تحذيراته القوية، لا يرى هينتون أن الذكاء الاصطناعي يمثل شرًا مطلقًا.
وأشار إلى أن التكنولوجيا بدأت بالفعل تتفوق على الأطباء البشر في بعض المهام المتعلقة بتشخيص الإصابات والأمراض، وأن استمرار تطور هذه القدرات يمكن أن يحقق فوائد ضخمة للبشرية.
لكن المشكلة، في رأيه، تبدأ إذا أصبح الذكاء الاصطناعي فائق الذكاء واعتبر البشر أعداء له، إذ ستتضاءل حينها أهمية الفوائد المحتملة للتكنولوجيا أمام حجم الخطر الذي قد تمثله.
ولهذا يؤكد هينتون ضرورة فرض مزيد من التنظيم على تطوير الذكاء الاصطناعي، إلى جانب زيادة الأبحاث المتعلقة بإدارة المخاطر التي قد تنشأ مع تطور هذه الأنظمة.
هينتون: التنظيم يجب أن يكون “عجلة القيادة”
يعترف هينتون بأن شركات التكنولوجيا لا ترحب عادةً بالتنظيم، مشيرًا إلى أنها تنظر إلى الابتكار باعتباره أشبه بدواسة الوقود، بينما ترى القواعد التنظيمية كأنها مكابح تعرقل التطور.
لكنه يدعو إلى رؤية مختلفة، يعتبر فيها أن التنظيم هو عجلة القيادة، لأنه يضمن استمرار الابتكار والتقدم، لكن في الاتجاه الصحيح.
وهينتون ليس الوحيد الذي يحذر من مخاطر الذكاء الاصطناعي، إذ عبر موظفون وخبراء في قطاعات مختلفة عن مخاوفهم من استخدام التكنولوجيا بصورة قد تضر بالبشر.
ومع ذلك، فإن رسالته لا تخلو من جانب إيجابي: لا يزال أمام البشرية وقت للتحرك، وفق رؤيته، لمنع المخاطر المرتبطة بالذكاء الاصطناعي من تجاوز حدود السيطرة البشرية.
المصدر: العربية – تكنولوجيا