الذكاء الاصطناعي… من يملك زر الإيقاف؟

كان الأسبوع الماضي أسبوع الرعب من الذكاء الاصطناعي بقدر ما كان أسبوع الانبهار به؛ فبين عروض القدرات المذهلة ووعود الطب والتعليم، ارتفع سؤال أشد إزعاجًا من الخوف على الوظائف: هل يصنع الإنسان قوة قد تعجز حضارته عن ضبطها؟ أعاد الباحث جاكوب كوكسون هذا السؤال إلى الواجهة بإعلان استقالته من أنثروبيك، بعد عمله في أبحاث تدريب النماذج لديها ولدى أوبن إيه آي. واتهم الشركتين بالاندفاع نحو ذكاء فائق قادر على تحسين نفسه، والمقامرة بحياة البشر، قائلًا إن بين مطوريه من يعتقد أنه قد يهدّد وجودنا قبل نهاية العقد. إنها شهادة تستحق الإصغاء، لكنها تبقى تحذيرًا من مستقبل محتمل، وليست إعلانًا علميًا بحتمية الكارثة. ولم يبدأ القلق مع كوكسون؛ ففي مايو 2023، وقّع جيفري هينتون ويوشوا بنجيو وسام ألتمان وديميس هاسابيس بيانًا يدعو إلى جعل الحد من خطر الانقراض المرتبط بالذكاء الاصطناعي أولوية عالمية، إلى جانب الأوبئة والحرب النووية. هؤلاء ليسوا خصوم التكنولوجيا؛ إنهم بعض الذين وضعوا أسسها وقادوا صعودها. وفي أحدث فصول المفارقة، دعا داريو أمودي، رئيس أنثروبيك، إلى إبطاء تقدّم النماذج وإتاحة رقابة مستقلة عليها، محذرًا من أن تسارع قدرتها على المساهمة في بناء الأجيال التالية قد يتجاوز قدرتنا على فهمها والتحكم بها. هنا يكمن جوهر الخوف: أن تصبح الآلة جزءًا متزايدًا من عملية تطوير الآلة، فتتسارع دورة الابتكار فيما تتراجع قدرة البشر على متابعة تفاصيلها واختبار عواقبها. وقد ينقلب موقع الإنسان تدريجيًا من صانع يحدد الاتجاه إلى مراقب يحاول فهم ما يحدث، ثم إلى تابع يعتمد على قرارات لا يستطيع مراجعتها. وعندما تصبح الأنظمة الأقدر على اكتشاف أخطاء الأنظمة الأخرى، يبرز سؤال ثقيل: من يراقب سلسلة الرقابة حين تتجاوز قدرة البشر على التحقق. الخطر العملي قد ينشأ من نظام شديد الكفاءة ينفذ هدفًا سيئ التحديد، بصلاحيات واسعة، ومن دون رقابة تستطيع إيقافه. ولا يحتاج هذا السيناريو إلى آلة تكره البشر؛ يكفي أن تصبح سلامتهم خارج الحساب الذي يحكم سلوكها. لا يجوز تحويل غياب اليقين إلى رخصة للمقامرة. ففي الرابع عشر من سبتمبر، وصف دونالد ترمب المخاوف من الذكاء الاصطناعي بأنها خدعة، وتحدث عن «مؤامرة مريضة» تستهدفه ومراكز البيانات. بهذا المنطق، تصبح المطالبة بالضمانات عقبة أمام التفوق، ويغدو السباق مع الصين جوابًا جاهزًا عن سؤال السلامة. والمفارقة أن المنافسة قد تدفع كل طرف إلى الاستمرار لأنه يخشى استمرار الآخرين، حتى عندما يدرك الجميع خطورة الطريق. وهنا تتحوّل معضلة تقنية إلى أزمة سياسية وأخلاقية: من منح شركات محدودة العدد حق تحديد مقدار المخاطرة الذي تتحمّله البشرية؟ ومن يحاسبها إذا تجاوزت نتائج قراراتها حدود الأسواق والدول؟ فالأرباح يمكن تسجيلها باسم المساهمين، أما الخسائر الحضارية المحتملة فلن تبقى محصورة في دفاتر الشركات، ولن تستثني الذين لم يوافقوا على التجربة. إن فرص تسريع اكتشاف العلاجات وتحسين التعليم والبحث حقيقية، ولهذا تحديدًا تستحق الحماية من التهور. المطلوب رقابة مستقلة، واختبارات قابلة للتحقق، ومساءلة عن الحوادث، واتفاقات تمنع تسليم القرارات المصيرية لأنظمة لا نفهم حدودها. ولا يمكن أن تبقى سلامة مليارات البشر معلقة على تطمينات الشركات، فيما تظل المعلومات الحاسمة عن قدراتها ومخاطرها داخل مختبراتها المغلقة. فقد امتلك الإنسان عبر المعرفة قدرة متزايدة على تشكيل مصيره؛ ولن يكون انتصاره العلمي الأعظم أن ينتج ذكاء يفوقه، ثم يفقد حقه في تقرير ما يفعله ذلك الذكاء به.

نقلاً عن عكاظ

المصدر: العربية – سياسة