«Anthropic» تحذر: الذكاء الاصطناعي يقترب من تطوير نفسه
رجوع
ما يعرفه ريفو عن الخبر
- حذرت شركة Anthropic من اقتراب نماذج الذكاء الاصطناعي من مرحلة التحسين الذاتي المتكرر التي تسرع تطوير أجيال جديدة.
- أقرت الشركة بأن تسارع قدرات النماذج قد يتجاوز قدرتها على تطوير إجراءات السلامة واختبارها.
- أكدت الشركة أن نماذجها الحالية لم تصل بعد لمرحلة التطوير المستقل، وتستمر في إشراك البشر للسيطرة على المخاطر.
- أوضحت الشركة أن استخدام الذكاء الاصطناعي في تطوير البرمجيات لا يعني قدرته على تصميم أجيال متعاقبة بشكل مستقل.
كشفت شركة «Anthropic» المتخصصة في أبحاث وتطوير الذكاء الاصطناعي، عن تقديرات تشير إلى اقتراب نماذج الذكاء الاصطناعي من مرحلة تستطيع فيها تسريع تطوير أجيال جديدة من النماذج بوتيرة تتجاوز أساليب البحث التقليدية، وهي المرحلة المعروفة باسم «التحسين الذاتي المتكرر» (RSI). نماذج شركة Anthropic وأكدت شركة «Anthropic»، أن نماذجها الحالية لم تصل بعد إلى المستوى المحدد.
المصدر: الأسبوع
0
مشاهدة