سام ألتمان: بعض حوادث الذكاء الاصطناعي لا يمكن تجنبها
قال سام ألتمان، الرئيس التنفيذي لشركة OpenAI، إن بعض الحوادث المرتبطة بالذكاء الاصطناعي قد يكون من المستحيل تجنبها بالكامل مع تطور التكنولوجيا، لكنه شدد على أن الأهم هو أن تتعامل شركات القطاع مع هذه الحوادث بشفافية، وتحقق فيها، وتتعلم منها لمنع تحولها إلى مشكلات أكبر.
وجاءت تصريحات ألتمان خلال مشاركته في مؤتمر Dreamforce التابع لشركة Salesforce، حيث تحدث عن المخاطر المتزايدة المرتبطة بأنظمة الذكاء الاصطناعي الأكثر تقدماً، خصوصاً مع اقترابها من تنفيذ مهام بدرجات أكبر من الاستقلالية.
وقال ألتمان إن “قدراً معيناً من الحوادث لا مفر منه مع أي تكنولوجيا جديدة”، موضحاً أن ما يهمه هو بناء “ثقافة قوية للإبلاغ عن الحوادث والتعلم منها”، بحسب تقرير نشره موقع “gizmochina” واطلعت عليه “العربية Business”.
ألتمان يستشهد بقطاع الطيران
وضرب رئيس “OpenAI” مثالاً بقطاع الطيران، مشيراً إلى إدارة الطيران الفيدرالية الأميركية (FAA) والمجلس الوطني لسلامة النقل (NTSB) كنموذج يمكن لقطاع الذكاء الاصطناعي الاستفادة منه.
وأوضح أن التحقيق المتعمق في حوادث الطيران، والإبلاغ عنها، واستخلاص الدروس منها، ساهم في جعل السفر الجوي أكثر أماناً بمرور الوقت.
ويرى ألتمان أن قطاع الذكاء الاصطناعي يحتاج إلى ثقافة مماثلة، بحيث لا تقتصر الاستجابة للحوادث على احتوائها، وإنما تشمل فهم أسبابها وتوثيقها ومشاركة الدروس المستفادة منها لتحسين الأنظمة المستقبلية.
وتأتي هذه التصريحات في وقت تخضع فيه مختبرات الذكاء الاصطناعي الرائدة لتدقيق متزايد، بالتزامن مع ارتفاع قدرات النماذج ووصولها إلى مستويات أكبر من الاستقلالية.
العالم محق في الخوف من ذلك
ولم يقلل ألتمان من المخاوف المتعلقة بإمكانية خروج أنظمة الذكاء الاصطناعي المتقدمة عن السيطرة، أو من خطر تركز قدر كبير من القوة في أيدي عدد محدود من الشركات التي تطور هذه الأنظمة.
وقال بوضوح: “العالم محق في أن يخاف من هذا”، في إشارة إلى المخاطر المحتملة المرتبطة بتطور الذكاء الاصطناعي.
وتأتي هذه التصريحات في أعقاب تحذيرات أطلقها جاكوب كوكسون، الباحث السابق في “أنثروبيك” و”OpenAI”، الذي استقال من “أنثروبيك” في سبتمبر، محذراً من سباق الشركات نحو تطوير أنظمة ذكاء اصطناعي قادرة على تحسين نفسها.
وقال كوكسون إن شركات الذكاء الاصطناعي تتجه نحو “ذكاء فائق قادر على تحسين نفسه”، معتبراً أن المخاطر المرتبطة بهذا المسار تستحق اهتماماً أكبر.
الأمان يجب أن يتقدم على قدرات النماذج
ورغم اعترافه بالمخاطر، لا يرى ألتمان أن الحل يتمثل في إيقاف تطوير الذكاء الاصطناعي بشكل عام.
وبدلاً من ذلك، دعا إلى التأكد من أن أعمال المواءمة والسلامة والمراقبة تتقدم بوتيرة أسرع من تطور قدرات النماذج نفسها.
وبحسب رؤيته، يجب أن تكون شركات الذكاء الاصطناعي مستعدة لإبطاء أبحاثها أو حتى إيقافها مؤقتاً إذا وصلت إلى مرحلة لم تعد فيها قادرة على الحفاظ على هذا التوازن بين تطور القدرات وإجراءات السلامة.
وهذا يعني أن الاعتراف بإمكانية وقوع حوادث لا ينبغي أن يتحول إلى قبول بوقوع كوارث، بل إلى بناء أنظمة قادرة على اكتشاف المشكلات والإبلاغ عنها والتعامل معها بسرعة قبل أن تتوسع آثارها.
حوادث الذكاء الاصطناعي تدخل مرحلة جديدة
وتأتي تصريحات ألتمان في ظل نقاش أوسع داخل قطاع التكنولوجيا حول السرعة التي ينبغي أن يتقدم بها تطوير نماذج الذكاء الاصطناعي المتقدمة.
فمع انتقال الذكاء الاصطناعي من مجرد روبوتات محادثة إلى وكلاء قادرين على تنفيذ مهام والعمل بشكل شبه مستقل، أصبحت الأخطاء المحتملة أكثر ارتباطاً بأفعال حقيقية، وليس فقط بإجابات غير دقيقة.
وكان ألتمان قد وصف حادثة مرتبطة بوكيل ذكاء اصطناعي تابع لشركة OpenAI واختراق منصة Hugging Face بأنها أسوأ حادث شهدته الشركة، في الوقت الذي ظهرت فيه تقارير عن سلوكيات مماثلة من نماذج شركات أخرى.
وفي هذا السياق، تبدو الرسالة الأساسية التي طرحها ألتمان قائمة على معادلة مزدوجة: الاستمرار في تطوير الذكاء الاصطناعي، مع بناء منظومة سلامة ومراقبة وإبلاغ قادرة على مواكبة هذه السرعة.
ويظل الخلاف قائماً داخل صناعة الذكاء الاصطناعي حول ما إذا كان تحقيق ذلك التوازن يتطلب مواصلة التطوير بالوتيرة الحالية، أم فرض قيود أكبر على سرعة تطوير الأنظمة الأكثر تقدماً.
المصدر: العربية – تكنولوجيا