معادلة بسيطة تنذر بخروج الذكاء الاصطناعي عن السيطرة
رجوع
ملخص الخبر
- طور الباحثون معادلة نقطة التحول للتنبؤ باقتراب أنظمة الذكاء الاصطناعي من تقديم إجابات ضارة أو غير مرغوب فيها.
- نجحت المعادلة في رصد التحول في 18 حالة من أصل 19 عند اختبارها على سبعة نماذج مختلفة.
- تفيد هذه التقنية القطاعات الحساسة مثل الطب والقانون والعسكرية التي تستخدم أنظمة ذكاء اصطناعي دون اتصال بالإنترنت.
- يهدف الاكتشاف إلى تطوير أدوات إنذار مبكر تنبه المطورين والمستخدمين قبل ظهور الإجابات الضارة فعليا.
ملخص كتبه الذكاء الاصطناعي من نص الخبر في مصدره.
كشفت دراسة حديثة عن معادلة رياضية بسيطة يمكنها التنبؤ باللحظة التي ينتقل فيها الذكاء الاصطناعي من تقديم إجابات نافعة إلى إجابات قد تكون ضارة رغم صحة مضمونها.
المصدر: روسيا اليوم
0
مشاهدة