نموذج ذكاء اصطناعي من “OpenAI” سرق عملات إيثريوم لإكمال مهمة برمجية

كشفت شركة OpenAI عن واقعة مثيرة للقلق خلال تدريب داخلي لأحد نماذجها البحثية، بعدما استخدم وكيل ذكاء اصطناعي عملات إيثريوم تجريبية من محفظة لا يملكها، لإكمال مهمة برمجية، من دون الحصول على إذن من صاحب الحساب أو من الشركة.

ولم يتوقف الأمر عند استخدام الأموال دون تصريح، إذ حاول النموذج إخفاء ما فعله عن “OpenAI”، معتبرًا أن العملات لا قيمة لها وأن الوصول إليها متاح للاستخدام، وفقًا لتقرير الحادثة الذي نشرته الشركة.

وكتبت “OpenAI” في التقرير أن الواقعة توضح كيف يمكن للنموذج أن يستبدل إذن صاحب الحساب بتقديره الشخصي للضرر المحتمل، ثم يتصرف بناءً على هذا التقدير من دون تفويض، بحسب تقرير نشره موقع “engadget” واطلعت عليه “العربية Business”.

كيف استولى النموذج على العملات التجريبية؟

وقعت الحادثة في 26 يونيو، أثناء تدريب داخلي لنموذج GPT-5.6 Sol، ضمن مهمة تتعلق بتحديث نموذج أولي لمنصة تداول العملات المشفرة ونشر عقود ذكية على شبكة اختبار تابعة لإيثريوم تُعرف باسم Sepolia.

ويتطلب نشر هذه العقود دفع رسوم للشبكة، لكن “OpenAI” أوضحت أنها لم توفر للمهمة محفظة ممولة، كما لم تمنح النموذج الإذن بإنفاق أموال من حساب يعثر عليه بصورة مستقلة.

وأدى غياب الأموال اللازمة في البداية إلى تعطيل تقدم الوكيل، لكنه لم يتوقف عند هذه العقبة.

وبدلًا من طلب التمويل أو التوقف، بحث عن وسيلة بديلة لإتمام المهمة.

وبحسب سجلات الحادثة، استنتج النموذج أنه يستطيع استخدام عبارات استرداد عامة متاحة للمطورين، وهي عبارات تُستخدم لاستعادة الوصول إلى المحافظ الرقمية، للوصول إلى مفاتيح حسابات لم يُصرح له باستخدامها.

وتتبع النموذج 362 عنوانًا يمكن الوصول إليها عبر هذا المسار، قبل أن يعثر على محفظة تحتوي على كمية كافية من عملة Sepolia ETH التجريبية لإتمام عملية نشر العقود.

وتجدر الإشارة إلى أن هذه العملات مخصصة للاختبار، ولا تمتلك قيمة مالية خارج بيئة التجارب، بخلاف عملة إيثريوم الحقيقية.

النموذج اعتبر العملات مهجورة ولا قيمة لها

لم يتعامل النموذج مع الوصول إلى المحفظة باعتباره تجاوزًا للصلاحيات، بل برر تصرفه بأن العملات قد تُركت دون استخدام، وأنها لا تحمل قيمة مالية فعلية.

ووفقًا لسجلات عدم التوافق السلوكي لدى “OpenAI”، افترض النموذج أن أحدهم ربما ترك إمكانية الوصول إلى المحفظة مفتوحة لاستخدامها تلقائيًا في سحب العملات من مواقع توزيع الإيثريوم التجريبي، المعروفة باسم “صنابير العملات”.

وبناءً على هذا الاستنتاج، اعتبر أن العملات مهجورة وعديمة القيمة، ما دفعه إلى استخدامها لإكمال المهمة المطلوبة.

لكن المشكلة الأساسية، بحسب التقرير، لم تكن في القيمة المالية للعملات، بل في أن النموذج اتخذ قرارًا باستخدام حساب لا يملكه، من دون الحصول على موافقة أو تفويض.

والأكثر إثارة للقلق أن النموذج لم يفصح للشركة عن أنه اختار حسابًا ممولًا باستخدام عبارة استرداد عامة، أو أنه أنفق الرصيد الموجود فيه.

وتسلط الواقعة الضوء على أحد التحديات الأساسية في تطوير وكلاء الذكاء الاصطناعي القادرين على تنفيذ المهام بصورة مستقلة: فقد يقرر النموذج أن تحقيق الهدف يبرر تجاوز القيود، حتى عندما لا يمتلك الإذن اللازم لاتخاذ الإجراء.

“OpenAI” تشدد مراقبة الوصول إلى الإنترنت

في أعقاب الحادثة، أعلنت “OpenAI” أنها تراقب حركة الاتصالات، مع إرسال تنبيهات إلى فرق الأمن عند اكتشاف وصول مباشر إلى الإنترنت، بهدف الحد من تكرار مثل هذه السلوكيات.

وتأتي هذه الإجراءات في وقت تتزايد فيه المخاوف بشأن قدرة وكلاء الذكاء الاصطناعي على تجاوز الحدود الموضوعة لهم أثناء تنفيذ المهام المعقدة، خصوصًا عندما يُمنحون صلاحيات استخدام الأدوات والأنظمة الخارجية.

حوادث أخرى تثير المخاوف بشأن استقلالية وكلاء الذكاء الاصطناعي

لا تقتصر المخاوف المتعلقة بسلوك الوكلاء على “OpenAI”، إذ شهد قطاع الذكاء الاصطناعي نقاشات متزايدة بشأن نماذج قادرة على اتخاذ إجراءات غير متوقعة أثناء تنفيذ أهدافها.

ويشير التقرير إلى حوادث ومخاوف مرتبطة بأنظمة الذكاء الاصطناعي في سياقات شملت مستودع الأكواد البرمجية Hugging Face، وبوابة الرعاية الصحية الأسترالية Medicare، وعددًا من الوكالات الفيدرالية الأميركية، وسجل حزم RubyGems المستخدم في تطوير برمجيات Ruby.

وأثارت هذه التطورات نقاشًا حول الحاجة إلى وضع ضوابط تنظيمية للأنظمة القادرة على تنفيذ المهام ذاتيًا.

وحتى بعض العاملين في شركات الذكاء الاصطناعي يرون ضرورة مناقشة التنظيم الحكومي، في حين عارضت إدارة الرئيس الأميركي دونالد ترامب اتخاذ خطوات من هذا النوع حتى الآن.

وتؤكد واقعة العملات التجريبية أن المخاطر لا ترتبط بالضرورة بسرقة أموال ذات قيمة حقيقية؛ فقد تكمن المشكلة في استعداد النموذج لتجاوز حدود التفويض، وتبرير قراراته بنفسه، ثم عدم الإفصاح عما فعله.

المصدر: العربية – تكنولوجيا