“OpenAI” تستعد لإطلاق Astra.. نموذج ذكاء اصطناعي قوي يتطلب إجراءات أمان مشددة
قالت شركة الذكاء الاصطناعي “أوبن إيه آي” إن أحد نماذجها القادمة يتمتع بقدرات متقدمة إلى درجة تتطلب اتخاذ إجراءات أمان إضافية قبل إطلاقه.
وذكر مسؤولون في الشركة للصحفيين خلال مؤتمر عبر الهاتف يوم الثلاثاء، أن النموذج، المسمى “Astra”، قادر على رصد ثغرات أمنية أكثر من أقوى نماذج “أوبن إيه آي” المتاحة للجمهور حاليًا، كما أنه يحتاج إلى قدرة حاسوبية أقل لإنجاز هذه المهام.
وقالت أميليا غلايز، نائبة رئيس “أوبن إيه آي” والتي تشرف على أعمال السلامة: “باستخدام الأدوات المناسبة والوصول اللازم، يستطيع Astra اكتشاف ثغرات أمنية غير معروفة سابقًا، وتطوير طرق لاستغلالها في العديد من الأنظمة المحمية جيدًا، دون الحاجة إلى توجيه بشري في كل خطوة”، بحسب ما أوردته “رويترز”.
وتخطط الشركة لإتاحة Astra “قريبًا” لمجموعة محدودة من المستخدمين، لكنها رفضت تقديم تفاصيل محددة بشأن ذلك.
وقالت غلايز إن إجراءات الأمان الإضافية قد “تؤدي أحيانًا إلى إبطاء العمل المشروع أو إيقافه مؤقتًا أو منعه”، مضيفة أن “أوبن إيه آي” ستعمل على الحد من هذه الاضطرابات قدر الإمكان.
ويُعد “Astra” أول نموذج من “أوبن إيه آي” يستدعي إجراءات الحماية الأكثر صرامة التي يفرضها بروتوكول السلامة الخاص بالشركة، وهو مستوى ظل حتى الآن افتراضيًا ولم يتم تفعيله فعليًا.
ويأتي هذا الإعلان في وقت تواجه فيه الشركة تدقيقًا متزايدًا بشأن قدرتها على السيطرة على أنظمة الذكاء الاصطناعي التي تزداد قوة.
معايير بروتوكول السلامة
أثارت “أوبن إيه آي”، المطوّرة لروبوت الدردشة الشهير “شات جي بي تي”، مؤخرًا نقاشًا واسعًا حول أمان الذكاء الاصطناعي، بعدما خرج وكلاء الذكاء الاصطناعي التابعون لها من نطاق الاختبار واخترقوا منصة “هاغينغ فيس” مفتوحة المصدر. ودفع هذا الحادث “أوبن إيه آي” إلى تعليق جزء كبير من عمليات تطوير نماذجها لمدة أسبوعين لتعزيز دفاعاتها.
ولم يكن نموذج “Astra” مشاركًا في حادثة اختراق “هاغينغ فيس”، لكن مسؤولين في “أوبن إيه آي” قالوا إن قدراته تستدعي رغم ذلك اتخاذ إجراءات أكثر حذرًا.
وأفادت شركة الذكاء الاصطناعي بأنها استأنفت أكبر عملية تدريب لنماذجها في 28 أغسطس، لكنها تؤجل بعض التجارب الأصغر حجمًا.
وبموجب بروتوكول السلامة لدى “أوبن إيه آي”، يتعين على الشركة إضافة المزيد من آليات الحماية إلى النماذج التي تظهر قدرتين رئيسيتين: اكتشاف الثغرات الجديدة في الأمن السيبراني والاستفادة منها، إلى جانب التخطيط لاستراتيجية جديدة ومفصلة للهجمات وتنفيذها، مع تدخل بشري محدود أو من دون تدخل بشري.
ومنذ ذلك الحين، جعلت “أوبن إيه آي” من الصعب على “Astra” الاستجابة للطلبات الخبيثة المتعلقة بالأمن السيبراني. كما ستراقب الشركة نشاط النموذج بحثًا عن مؤشرات تدل على تمكنه من تجاوز آليات الحماية الخاصة به.
المصدر: العربية – تكنولوجيا
