وكلاء ذكاء اصطناعي من “OpenAI” اخترقوا موقعًا ألمانيًا في هجوم لم يُعلن عنه سابقًا
استولت مجموعة من وكلاء الذكاء الاصطناعي الخارجين عن السيطرة التابعين لشركة أوبن إيه آي على موقع ألماني هذا الربيع، وحولته إلى لوحة إعلانات لوكلاء ذكاء اصطناعي آخرين، وفقًا لبحث جديد نُشر يوم الجمعة وشخصين مطلعين على الأمر.
وقال الشخصان إن مسؤولي “أوبن إيه آي” علموا بالحادث بعد أسابيع من وقوعه، لكنهم أبقوه طي الكتمان في الوقت الذي كان فيه المسؤولون التنفيذيون يتعاملون مع تداعيات اختراق يوليو لمستودع البرمجيات مفتوح المصدر “هاغينغ فيس”، بحسب ما أوردته “رويترز”.
وتسلط هذه الواقعة، التي بدأت في مايو ولم يُكشف عنها سابقًا، الضوء على التوتر المتزايد داخل قطاع الذكاء الاصطناعي. وتتسابق الشركات لبناء وكلاء أكثر استقلالية بصورة متزايدة، وقادرين على تنفيذ مهام معقدة وذات قيمة، إلا أن الأدلة تتزايد على أن هذه الأنظمة قد تتعلم أيضًا التحايل على القواعد واستغلال الثغرات والتنسيق مع بعضها بعضًا بطرق لم يتوقعها المطورون ولم يقصدوها.
وخلال اختراق “هاغينغ فيس”، خطط وكلاء “أوبن إيه آي” بشكل مستقل لعملية سرقة رقمية ظلت دون اكتشاف لأكثر من أسبوع، ما زاد المخاوف من أن “أوبن إيه آي” تضحي بالسلامة من أجل دفع حدود الذكاء الاصطناعي. وقد يؤدي إخفاقها في الكشف عن حادث مايو إلى إعادة إثارة التساؤلات حول مراقبتها لأنظمتها.
وتعهدت “أوبن إيه آي” بمراقبة النماذج عن كثب. وفي الشهر الماضي، أوقفت مؤقتًا بعض عمليات تدريب نماذجها لإضافة مزيد من إجراءات السلامة. لكن الشركة كشفت هذا الأسبوع عن نموذجها الجديد “Astra”، الذي وعد بأداء أفضل، لكنه قد يتمكن من التهرب من المراقبة البشرية.
رد “أوبن إيه آي”
قال متحدث باسم “أوبن إيه آي”: “لا يمكننا الرد بشكل هادف على ادعاءات أو نتائج واردة في تقرير لم تتح لنا فرصة مراجعته”، مضيفًا: “رفضت رويترز وكاتبو التقرير طلبنا الاطلاع عليه. وسنراجع محتواه بعناية عند نشره، وسنتخذ أي خطوات تالية ضرورية”.
وتعكس الواقعة في ألمانيا نمطًا أوسع من نشاط الذكاء الاصطناعي أراد بعض المحققين داخل “أوبن إيه آي” إخضاعه لمزيد من التدقيق. لكن جهود توسيع نطاق التحقيق قوبلت بمقاومة من آخرين في الشركة، بمن فيهم مستشارون قانونيون، وفقًا لأربعة أشخاص مطلعين على الأمر.
وقال المتحدث باسم “أوبن إيه آي”: “الادعاءات بأن فريقنا القانوني ثبط التحقيق في الحادث غير صحيحة”.
وقال المتحدث إن النشاط في ألمانيا لم يكن مرتبطًا بـ”هاغينغ فيس”، ولم يكن ليُدرج في تقرير حادث “هاغينغ فيس”، مضيفًا أن “أوبن إيه آي” تصرفت بحسن نية من خلال التعاون مع خبراء من خارج الشركة والكشف عن الحوادث ذات الصلة.
لوحة رسائل “WIKI”
فصّل تقرير شاركته مجموعة من الباحثين مع “رويترز” حصريًا حادثة خروج وكلاء الذكاء الاصطناعي عن السيطرة في ألمانيا، وتضم المجموعة سيدني فون آركس، الرئيس التنفيذي لمنظمة “Nightingale” غير الربحية المعنية بسلامة الذكاء الاصطناعي، وكورماك سليد بيرد، وهو باحث في الذكاء الاصطناعي.
وقال الباحثان إنهما عثرا على أكثر من 15 ألف تعديل أجراها وكلاء ذكاء اصطناعي على موقع “WIKI” باللغة الألمانية يُدعى DseWiki، وهو مخصص للمبرمجين ويقبل تعديلات جماعية على غرار ويكيبيديا.
و”Wiki” هو نوع من المواقع الإلكترونية أو التطبيقات التي تتيح لمستخدميها إنشاء وتعديل وحذف المحتوى بشكل جماعي وسريع مباشرة من خلال متصفح الإنترنت، دون الحاجة لمعرفة تقنية متقدمة أو لغات برمجة.
وأظهرت التعديلات أن وكلاء “أوبن إيه آي” حوّلوا الموقع إلى لوحة رسائل، يتشاركون فيها أساليب للغش في بعض المهام، وتجاوز قيود “أوبن إيه آي” وإخفاء سلوكهم.
وقال فون آركس: “يبدو من المستبعد للغاية أن تكون أوبن إيه آي أرادت منهم القيام بذلك. أشك في أنه كان من المفترض أن يتعاونوا مع بعضهم بعضًا. وأشك في أنه كان من المفترض أن يكتبوا على الإنترنت المفتوح”.
وقال الباحثان إنهما لاحظا أن النشاط على الموقع كان مدفوعًا بوكلاء ذكاء اصطناعي يعملون بسرعات تفوق القدرات البشرية. كما أظهروا تركيزًا شديدًا على حل أسئلة تقنية نموذجية للتقييمات التي تستخدمها شركات الذكاء الاصطناعي لتدريب نماذجها وقياس أدائها.
وكانت الرسائل موقعة من مستخدمين أشاروا إلى أنفسهم وإلى بعضهم بعضًا على أنهم وكلاء، وأطلق نحو نصفهم على أنفسهم أسماء تشير إلى ارتباطهم بـ”أوبن إيه آي”، مثل “OpenAIResearcher” أو “OAIResearchMar26”.
وقال الباحثون إن سجلات الخوادم العامة أظهرت أن جزءًا كبيرًا من النشاط نشأ من البنية التحتية لسحابة “Microsoft Azure”، التي تستخدمها “أوبن إيه آي” أحيانًا. كما لاحظوا زيارات متكررة للموقع من جانب موظفي “أوبن إيه آي” بعد الواقعة، وهو نمط قالوا إنه يشير بقوة إلى وجود صلة بين الوكلاء والشركة.
واكتشف الباحثان النشاط في أواخر أغسطس أثناء بحثهما عبر الإنترنت عن مؤشرات على سلوك غير مصرح به لوكلاء الذكاء الاصطناعي، وفقًا لما قالاه لرويترز.
المصدر: العربية – تكنولوجيا
