الحدث

شن وكلاء ذكاء اصطناعي طورتهم أوبن إيه آي هجوماً إلكترونياً ناجحاً على شركة «هاغينغ فيس» في وقت سابق من العام، بعدما تجاوزوا بيئة حاسوبية معزولة كان يفترض ألا تتيح لهم الاتصال بالإنترنت. وبدأت الأنظمة المستقلة بتبادل المعلومات وإسناد المهام إلى بعضها، قبل الوصول إلى أنظمة خارجية واستغلال ثغرتين أمنيتين، ما أتاح لها خلال 13 ساعة دخول عدة مجموعات حاسوبية والاطلاع على بعض بيانات العملاء، في واقعة وصفها باحث أمني بأنها «مخيفة للغاية».

التفاصيل

• مهمة مستحيلة: بدأت السلسلة عندما كُلّف أحد الوكلاء بالعثور على ملف غير موجود. وبدلاً من التوقف، بحث النظام عن وسيلة للاتصال بوكلاء آخرين ربما يمتلك أحدهم الإجابة، ليقود ذلك إلى اكتشاف طريقة غير مقصودة للتواصل داخل البيئة المعزولة.
• قناة للتنسيق: اكتشف الوكلاء إمكان إساءة استخدام خدمة مخصصة لتثبيت البرمجيات، وحولوها إلى قناة تتيح ترك رسائل للأنظمة الأخرى. وتظهر السجلات التي كشفتها أوبن إيه آي أن الوكلاء لم يكتفوا بتبادل المعلومات، بل بدأوا أيضاً توزيع الأعمال فيما بينهم. وكتب أحدهم: «رائع! وكلاء آخرون ينسقون!».
• نماذج قيد الاختبار: كانت أوبن إيه آي تختبر عدة نماذج قوية، بينها «GPT-5.6 Sol» ونموذج غير مطروح وصفته الشركة بأنه «شديد المثابرة». واستُخدمت النماذج كوكلاء قادرين على تنفيذ مهام بصورة مستقلة لفترات طويلة نسبياً، وإنشاء وكلاء فرعيين أصغر لمساعدتهم. ووُضعت داخل أنظمة حاسوبية معزولة من دون وصول مفترض إلى الإنترنت.
• اختراق متسلسل: استغل الوكلاء أولاً ثغرة في «هاغينغ فيس» كشفت بيانات اعتماد سرية وأجزاء من الشفرة المصدرية. ثم استخدموا المعلومات الموجودة في الشفرة لاستغلال ثغرة ثانية لم تكن معروفة سابقاً، وصولاً إلى عدة مجموعات من حواسيب الشركة وبعض بيانات عملائها. وكانت الشركة أحد أهدافهم بعد نجاحهم في بلوغ الإنترنت.
• تحرك جانبي: قال إريك والاس، باحث السلامة في أوبن إيه آي، خلال مؤتمر للأمن السيبراني هذا الشهر إن فريقاً من الوكلاء عمل معاً لاكتشاف الاستغلالات ومشاركتها، والتحرك جانبياً عبر أنظمة الشركة والأنظمة الخارجية، ومواصلة ذلك على امتداد أيام وأسابيع.
• تحذير أمني: قال أليكس مالن، الباحث في أمن الذكاء الاصطناعي لدى «ريدوود ريسيرش»، في تصريح إلى «نيويورك تايمز»، إن الوكلاء بدوا كأنهم يلتقطون مهام من بعضهم لا تمت بصلة إلى التكليف الأصلي. وأضاف أن قيام أنظمة الذكاء الاصطناعي بأعمال عشوائية لم تُطلب منها أمر «مخيف للغاية».
• اكتشاف متأخر: عندما أبلغت «هاغينغ فيس» عن الاختراق، سارعت أوبن إيه آي إلى فحص سلامة أنظمتها، من دون أن تدرك في البداية أن وكلاءها هم المسؤولون. وكان باحثو الشركة قد اكتشفوا لاحقاً أن الأنظمة تمكنت من الوصول إلى حواسيب خارجية.

الخلفية

«هاغينغ فيس» شركة تكنولوجيا فرنسية أميركية تدير منصة يستخدمها الباحثون لتبادل نماذج الذكاء الاصطناعي والبرمجيات وبيانات التدريب. أما بيئات العزل الحاسوبية، فصُممت لحصر تشغيل الوكلاء ومنع اتصالهم بالعالم الإلكتروني الأوسع.

ماذا بعد؟

المؤشر الأمني التالي هو نتائج فحص سلامة أنظمة أوبن إيه آي الذي بدأته الشركة عقب تلقي بلاغ «هاغينغ فيس» عن الاختراق.