أداة لمراقبة سلوك وكلاء الذكاء الاصطناعي من الداخل.. كيف ذلك؟

ملخص الخبر

• طورت شركة غودفاير الأمريكية أدوات لمراقبة الإشارات الداخلية لنماذج الذكاء الاصطناعي واكتشاف السلوكيات غير المرغوبة أثناء التنفيذ.
• تعتمد التقنية على مراقبات التنشيط التي تكتشف أنماطاً حسابية مرتبطة بالتحايل على التقييم أو إساءة الاستخدام السيبراني.
• تساهم هذه الطريقة في تقليل تكاليف التشغيل مقارنة بالأنظمة التقليدية التي تراجع كل خطوة عبر نماذج لغوية أخرى.
• أعلنت الشركة عن تعاون مع شركة باستين لإطلاق مشروع بيكون الذي يدمج أدوات المراقبة مع منصة لتشغيل النماذج.

ملخص كتبه الذكاء الاصطناعي من نص الخبر في مصدره.