شهد شاهدٌ من أهلها.. حين يخشى صانعو الذكاء الاصطناعي صنيعهم

حين يحذرك خصم الذكاء الاصطناعي منه، تستطيع أن تقول إنه يخشى المستقبل. وحين يأتي التحذير من سياسي أو رجل مال وأعمال أو طبيب، قد تقول إنه لا يفهم التقنية. لكن ماذا تقول عندما يأتي التحذير من الرجل الذي يدير إحدى الشركات التي تصنع أكثر نماذج الذكاء الاصطناعي تقدّماً في العالم؟ هذا ما استوقفني في حديث داريو أمودي، الرئيس التنفيذي لشركة Anthropic المطورة لClaude. الرجل لا يدعو إلى إيقاف الذكاء الاصطناعي، ولا ينكر ما يمكن أن يقدّمه للطب والاقتصاد والعلم وحياة البشر؛ بل إن شركته نفسها تقف في مقدّمة هذا السباق. ومع ذلك، يحذر من أن سرعة تطور هذه الأنظمة قد تصبح أعلى من سرعة قدرتنا على فهم مخاطرها وبناء وسائل السيطرة عليها. ولعل المفارقة التي تجعل تحذيره جديراً بالإنصات أن الشاهد هذه المرة من داخل منظومة الذكاء الاصطناعي.

لكن القضية، في تقديري، أعمق من مخاوف أمودي، وأكبر من شركة أو نموذج بعينه. نحن أمام انتقال تقني ربما لم نستوعب آثاره كاملة بعد. فالذكاء الاصطناعي الذي عرفه الناس قبل سنوات كان ينتظر سؤال الإنسان ليجيب عنه؛ أما ما يُبنى اليوم فيتجه إلى أنظمة تستطيع التخطيط، واستخدام الأدوات، وكتابة البرامج، وتنفيذ سلسلة من الأعمال للوصول إلى غاية، بل والمساهمة في تطوير أنظمة ذكاء اصطناعي أخرى. والمشكلة ليست أن الآلة «أصبحت شريرة»؛ فهذه لغة أفلام وليست تحليلاً جاداً. المشكلة الحقيقية أن قدرة النظام قد تتسع أسرع من الحدود التي وضعناها حوله.

وهذا الفارق صغير في العبارة، هائل في النتائج. فكلما انتقل الذكاء الاصطناعي من «الإجابة» إلى «الفعل»، انتقلنا معه من سؤال جودة المعلومة إلى سؤال المسؤولية عن القرار. وإذا منحنا النظام القدرة على الدخول إلى برامج، والتعامل مع بيانات، وتنفيذ أوامر، والتصرف عبر سلسلة من الخطوات، لم يعد السؤال فقط: هل أجاب بصورة صحيحة؟ بل ماذا يستطيع أن يفعل، ومن سمح له، ومن يوقفه إذا تجاوز ما أُريد منه؟ ومن زاوية قانونية، نحن أمام اختبار بالغ الأهمية. فالقانون بُني عبر قرون على البحث عن فعل وفاعل وضرر وعلاقة سببية: شخص أصدر أمراً، شركة أهملت، أو منتج كان معيباً، ومن ثم يمكن البحث عمن يتحمل المسؤولية. لكن الوكيل الذكي قد يتخذ عشرات القرارات الفرعية بنفسه للوصول إلى هدف عام أعطي له. فإذا وقع الضرر، فمن المسؤول: المطور الذي بنى النموذج، أم الشركة التي أتاحته، أم المستخدم الذي حدد الغاية ولم يحدد الوسيلة، أم الجهة التي منحته صلاحيات أوسع مما ينبغي؟ وماذا لو كان كل واحد منهم قد أسهم بجزء فقط من السلسلة التي انتهت بالضرر؟ هذه ليست دعوة للخوف من التقنية؛ بل دعوة لأن يسبق القانون الضرر هذه المرة، بدلاً من أن ينتظره ثم يبدأ في كتابة القواعد.

وما يجعل السؤال أكثر جدية أن التحذير لم يعد مقتصراً على منظّرين يقفون خارج الصناعة. خرج باحثون من شركات الذكاء الاصطناعي الكبرى وهم يتحدثون عن مخاطر السلامة، وكشفت شركات نفسها عن سلوكيات أو حوادث لم تكن مقصودة، وبدأ الحديث داخل الصناعة عن الاختبارات الخارجية، والإبلاغ عن الحوادث، وإمكانية إيقاف الأنظمة، وبقاء الإنسان صاحب القرار النهائي. لا شيء من ذلك يثبت أننا أمام كارثة وشيكة، ومن الخطأ أن نقدمه كذلك؛ لكنه يكشف حقيقة أكثر أهمية: حتى صانعي التقنية باتوا يرون أن حوكمتها لم تعد مسألة قانونية تأتي بعد اكتمال المنتج، بل جزءاً من هندسة المنتج نفسه.

وفي المقابل، سيكون من السهل أن نرتكب الخطأ المعاكس، فنحول الخوف إلى قيود تخنق واحدة من أعظم الفرص التقنية في عصرنا. فالذكاء الاصطناعي قادر على تسريع اكتشاف الأدوية، ورفع الإنتاجية، وتطوير التعليم والبحث العلمي، ومنح الطبيب والمهندس والمحامي والعالم قدرات لم تكن متاحة لجيل سابق. ولذلك فإن السؤال الصحيح لم يعد: هل نسمح بالذكاء الاصطناعي أم نمنعه؟ فهذا السؤال تجاوزه الزمن بالفعل؛ السؤال الأذكى هو كيف نجعل حجم المسؤولية يواكب حجم القدرة.

فالنظام الذي يساعد طالباً على تلخيص كتاب لا ينبغي أن يعامل كنظام قادر على العمل باستقلالية في الأمن السيبراني، أو الوصول إلى بنية تحتية، أو التعامل مع معرفة بيولوجية شديدة الحساسية. ومن هنا أرى أن التنظيم الذكي يجب أن يتبع مستوى الخطر لا اسم التقنية؛ فكلما ازدادت قدرة النظام واستقلاليته، ازدادت معها متطلبات الاختبار والتوثيق والأمن والرقابة البشرية والإبلاغ عن الحوادث والمساءلة. والقاعدة هنا بسيطة: كلما زادت القدرة، زادت المسؤولية.

وهذا يعني أيضاً أن الرقابة لا يمكن أن تعتمد بالكامل على حسن نية الشركات، ليس لأن الشركات سيئة، بل لأن من يشارك في سباق عالمي بمليارات الدولارات لا ينبغي أن يكون الحكم الوحيد على مقدار السرعة الآمنة في ذلك السباق. وفي الجهة الأخرى، لا ينبغي أن ينفرد المشرع بكتابة قواعد لتقنية لا يفهم تفاصيلها ثم يجمد بها الابتكار لسنوات. الذكاء الاصطناعي يحتاج إلى طاولة واحدة يجلس حولها المهندس والقانوني والاقتصادي وخبير الأمن وصانع السياسة؛ لأن المشكلة نفسها لم تعد تقنية فقط، ولا قانونية فقط.

وفي هذا السياق، تستحق التجربة السعودية التوقف عندها. فالمملكة لم تتعامل مع الذكاء الاصطناعي باعتباره سباقاً تقنياً يكفي أن نكون في مقدمته، بل تحركت مبكراً لبناء أطر للبيانات والذكاء الاصطناعي، وربطت التوسع فيه بمبادئ للحوكمة والمسؤولية وحماية الحقوق، بالتوازي مع طموح واضح لأن تكون المملكة لاعباً رئيسياً في هذه الصناعة. وهذه المعادلة ستزداد قيمتها كلما ازدادت قدرات النماذج: أن نسرّع الابتكار، لكن نعرف في الوقت نفسه من يملك البيانات، ومن يتحمّل المسؤولية، وما الحدود التي لا يجوز للنظام تجاوزها. فالحوكمة هنا ليست فرامل في طريق التطور؛ بل قد تكون هي ما يسمح له بأن يتسارع بثقة. أما ترك القدرات تتوسع بلا حدود واضحة، فقد يجعلنا نكتشف العواقب في وقت يصبح فيه علاجها أصعب من منعها.

ولعل هذا هو التحدي الذي سيحدد المرحلة المقبلة. فالإنسان صنع عبر تاريخه أدوات تفوقه في قدرات بعينها؛ السيارة أسرع منه، والطائرة تصل إلى حيث لا يستطيع، والحاسوب يحسب في لحظات ما يحتاج الإنسان أعواماً لإنجازه. ولم تكن المشكلة يوماً في أن تصبح الأداة أقوى في وظيفة ما؛ المشكلة تبدأ عندما لا تبقى تحت حكم صانعها.

لذلك لا نريد أن نقيّد الذكاء الاصطناعي حتى نفقد خيره، ولا أن نحرره حتى نعجز عن ضبط شره. نريد أن نطلق قدرته على الابتكار، لكن داخل منظومة تعرف من يملك القرار، وأين تبدأ المسؤولية، ومن يحاسب عند الضرر، ومتى يكون للإنسان حق التدخل والإيقاف.

ولهذا يستحق تحذير أمودي أن يُقرأ، لا لأنه أثبت أن النهاية قريبة، ولم يفعل، ولا لأن علينا أن نخشى من الآلة، بل لأن الرجل يقف في مقدمة السباق نفسه ويلتفت ليقول إن السرعة باتت تستحق الانتباه. وربما تكون المسألة كلها في هذه المفارقة: لقد قضينا سنوات نسأل إلى أي مدى يستطيع الذكاء الاصطناعي أن يصبح ذكياً، بينما قد يكون السؤال الأهم في السنوات المقبلة: إلى أي مدى نستطيع نحن أن نبقى أذكى في السيطرة عليه؟ فرأي من داخل منظومة تقنية الذكاء الاصطناعي يقول لنا اليوم ما يستحق أن نتذكره: لا تخافوا من أن يصبح الذكاء الاصطناعي أقوى؛ خافوا من اليوم الذي يصبح فيه أقوى من قدرتنا على حكمه والمسك بزمام لجامه.

إلى أي مدى يستطيع الذكاء الاصطناعي أن يصبح ذكياً، بينما قد يكون السؤال الأهم في السنوات المقبلة: إلى أي مدى نستطيع نحن أن نبقى أذكى في حكمه؟ فشاهدٌ من أهلها يقول لنا اليوم ما يستحق أن نتذكره: لا تخافوا من أن يصبح الذكاء الاصطناعي أقوى؛ خافوا من اليوم الذي يصبح فيه أقوى من قدرتنا على حكمه والسير على زمام لجامه.

نقلاً عن عكاظ

المصدر: العربية – سياسة