مطالب بإبطاء تطويره.. لماذا نخاف من الذكاء الاصطناعي؟
لم يعد الخوف من الذكاء الاصطناعي مجرد سيناريو من أفلام الخيال العلمي، بل تحول إلى نقاش حقيقي داخل الشركات التي تقود سباق تطوير هذه التكنولوجيا نفسها.
وخلال سبتمبر الجاري، تصاعدت الدعوات من كبار مسؤولي شركات الذكاء الاصطناعي إلى إبطاء وتيرة تطوير النماذج المتقدمة، بعدما أصبحت قدراتها أكثر استقلالية وتعقيدًا، بينما لا تزال أدوات السلامة والرقابة تكافح لمواكبة هذا التطور.
وكان الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، من أبرز الأصوات التي طالبت بإبطاء التطوير، محذرًا من أن أنظمة الذكاء الاصطناعي قد تصل إلى مستويات خطيرة من الاستقلالية خلال فترة قصيرة، بحسب تقرير نشرته “رويترز”.
وجاءت الدعوات المتزايدة إلى وضع ضوابط للذكاء الاصطناعي بعد استقالة أحد الباحثين في شركة أنثروبيك، وتحذيره من أن التكنولوجيا قد تقتلنا جميعًا بحلول نهاية العقد.
ولم تتوقف الدعوات عند “أنثروبيك”، إذ أبدى سام ألتمان، الرئيس التنفيذي لشركة OpenAI، وإيلون ماسك، رئيس “xAI”، تأييدًا لمزيد من الحذر والتنسيق بشأن سلامة الذكاء الاصطناعي.
لماذا أصبح الذكاء الاصطناعي مصدرًا للخوف؟
السبب الرئيسي لا يتعلق بقدرة الذكاء الاصطناعي على كتابة النصوص أو إنشاء الصور، وإنما بالانتقال من أدوات تنفذ أوامر محددة إلى وكلاء قادرين على تنفيذ سلسلة من المهام بصورة شبه مستقلة.
ويحذر تقرير السلامة الدولي للذكاء الاصطناعي لعام 2026 من أن الوكلاء يمثلون تحديًا أكبر لأنهم يتصرفون بصورة مستقلة، ما يجعل تدخل البشر أكثر صعوبة عندما تحدث أخطاء.
وتشمل المشكلات الحالية اختلاق المعلومات، وكتابة أكواد خاطئة، وتقديم نصائح مضللة، بينما قد تصبح العواقب أكثر خطورة عندما تمتلك الأنظمة القدرة على تنفيذ الأفعال بدلًا من مجرد اقتراحها.
وتزداد المخاوف مع ظهور مؤشرات على قدرة بعض النماذج على تنفيذ أنشطة ضارة، مثل الاختراق الإلكتروني أو الاحتيال أو المراقبة، ما يفتح الباب أمام استخدامها من جانب جهات إجرامية أو دول أو أفراد يمتلكون موارد محدودة.
المشكلة ليست في الذكاء فقط.. بل في سرعة التطور
الخوف الأكبر لدى بعض الباحثين لا يتمثل في وجود الذكاء الاصطناعي بحد ذاته، وإنما في سرعة تحسن قدراته مقارنة بسرعة تطوير وسائل السيطرة عليه.
وتشير بيانات مؤشر الذكاء الاصطناعي الصادر عن جامعة ستانفورد إلى أن الصناعة أنتجت أكثر من 90% من النماذج المتقدمة البارزة في عام 2025، في وقت تتأخر فيه معايير السلامة عن التطور، بينما ارتفع عدد الحوادث المرتبطة بالذكاء الاصطناعي بشكل حاد.
وفي تقرير 2025، سجلت قاعدة بيانات حوادث الذكاء الاصطناعي 233 حادثة خلال عام 2024، بزيادة بلغت 56.4% عن العام السابق، وهو ما يعكس اتساع نطاق المشكلات المرتبطة باستخدام هذه الأنظمة.
لماذا تطالب الشركات نفسها بالتباطؤ؟
المفارقة أن الدعوة إلى التباطؤ تأتي من داخل الصناعة التي تخوض سباقًا شرسًا لإطلاق نماذج أقوى.
لكن بعض المسؤولين يرون أن استمرار السباق بالسرعة الحالية قد يجعل الشركات تطور قدرات جديدة قبل أن تتمكن من اختبارها وتأمينها بشكل كافٍ.
ويطرح أمودي نهجًا يقوم على منح جهات مستقلة صلاحيات أوسع لتقييم سلامة النماذج، إلى جانب وضع معايير مشتركة بين الشركات والتعاون الدولي للتعامل مع المخاطر.
كما وقع موظفون من شركات تقنية وذكاء اصطناعي كبرى في يوليو 2026 رسالة مفتوحة تدعو الحكومة الأميركية إلى دعم جهود دولية تهدف إلى إبطاء وتيرة تطوير الذكاء الاصطناعي المتقدم حتى تتمكن إجراءات السلامة والأمن من اللحاق بالتكنولوجيا.
هل يعني التباطؤ وقف الذكاء الاصطناعي؟
ليس بالضرورة. معظم الدعوات الحالية لا تطالب بإيقاف الذكاء الاصطناعي أو التخلي عن فوائده، وإنما تريد منح الباحثين والحكومات والشركات وقتًا كافيًا لبناء أنظمة حماية تتناسب مع القدرات الجديدة.
فالذكاء الاصطناعي يمكن أن يساعد في اكتشاف الأدوية، وتحسين الإنتاجية، وتحليل البيانات، وتسريع البحث العلمي، لكن المشكلة تكمن في إطلاق قدرات شديدة القوة قبل فهم حدودها بالكامل.
ولهذا يتحول السؤال من “هل نستطيع بناء ذكاء اصطناعي أقوى؟” إلى سؤال أكثر أهمية: “هل نستطيع التأكد من أننا سنظل قادرين على السيطرة عليه عندما يصبح أقوى؟”.
وهذه هي النقطة التي تجعل المخاوف الحالية مختلفة عن المخاوف التقليدية من التكنولوجيا؛ فالمشكلة ليست فقط فيما يستطيع الذكاء الاصطناعي فعله اليوم، وإنما فيما قد يتمكن من فعله غدًا، وما إذا كانت قواعد السلامة والرقابة ستتطور بالسرعة نفسها.
المصدر: العربية – تكنولوجيا