هكرز استخدموا كلود لاختراق حساب موظف في أوبن إيه آي

خبر:

باحثون أمنيون مستقلون تمكنوا من الوصول إلى حساب موظف في أوبن إيه آي على تشات جي بي تي، ومنه إلى مستودع البرمجيات الداخلي للشركة، باستخدام برنامج كلود التابع لأنثروبيك. وأفادت وول ستريت جورنال بأن الفريق يعمل ضمن برنامج مكافآت الثغرات لدى أوبن إيه آي، وحصل على 6500 دولار مقابل إبلاغه. وقالت الشركة إن الخللين المكتشفين عُلجا بالكامل.

تفصيل:

• بداية الهجوم: بحسب وول ستريت جورنال، بدأ الاختراق في 23 يوليو عندما اكتشف باحثو شركة هاكترون إيه آي ثغرة في طريقة معالجة منتدى المناقشات ديسكورس لملفات صور معينة. وطلب الفريق من كلود كتابة شيفرة لاستغلال الثغرة في هجوم إلكتروني.
• دور النموذج: قال الباحثون إن المحاولة الأولى فشلت مع نسخة خاصة من كلود أوبس 4.8 متاحة لممارسي الأمن السيبراني المؤهلين. وبعد إطلاق أنثروبيك نسخة أوبس 5 في المساء نفسه، توصل النموذج في اليوم التالي إلى طريقة لاستغلال الثغرة.
• ما تم الوصول إليه: الشيفرة الناتجة أتاحت الوصول إلى خادم ديسكورس الذي يستضيف منتديات أوبن إيه آي، ومنه إلى رموز مصادقة المستخدمين. وذكر الباحثون أن بعض تلك الرموز كانت صالحة على تشات جي بي تي وتخص موظفين، كما أمكن استخدامها للوصول إلى غيت هاب.
• المستودع المستهدف: قال الباحثون إنهم لا يستطيعون الجزم بوظيفة نظام الشيفرة الذي وصلوا إليه لأنهم تجنبوا البيانات الحساسة، لكن اسمه Monorepo. وبحسب مطلعين على بنية أوبن إيه آي، فهو مستودع ضخم يضم أسرار الشركة الخوارزمية، ولا يُعتقد أنه يحتوي أوزان النماذج.
• إثبات الاختراق: أوقف الفريق العمل بعد إدراكه إمكانية الوصول إلى بيانات حساسة، لكن بعد إرسال طلب دمج عبر تشات جي بي تي لتعديل ملف توثيقي يتضمن عبارة Hacktron AI Team PoC ورابطاً لحسابين على إكس. وقال الباحثون إن التعديل لم يُقبل.
• رد أوبن إيه آي: قالت الشركة إن الباحثين كشفوا خللين، أحدهما في خدمة ديسكورس التابعة لطرف ثالث والآخر لديها، وإن كليهما عُلج. وأضافت أنها ضيّقت صلاحيات رموز الدخول وألغت الجلسات المتأثرة، وأفادت مراجعتها لغيت هاب بعمليات قراءة محدودة لبيانات مستودعات خاصة.
• تعليق أنثروبيك: امتنع متحدث باسم أنثروبيك عن التعليق على الحادثة. أما ديسكورس فقالت إنها أصلحت الخلل الأمني في 25 يوليو، وهو اليوم نفسه الذي أُبلغت فيه.
• مقارنة مع الصين: قال موهان بيدهاباتي، المدير التقني في هاكترون إيه آي، إن فريقه ليس بقوة الجهات الصينية، ووصفه بأنه ثلاثة أشخاص يملكون اشتراكات في كلود وكودكس. ورجّح الباحثون أن فرقاً مدعومة من دول قادرة على الوصول إلى أسرار الذكاء الاصطناعي الأميركية.
• سوق القدرات: قال جوشوا ساكس، المدير التقني في أبندنت سيكيوريتي الذي راجع تقرير هاكترون، إن وكلاء الذكاء الاصطناعي يوفرون قدرة اكتشاف الثغرات لأشخاص أقل مهارة. وبحسب شركة ثريت داون، يمكن شراء وصول غير مشروع إلى حسابات معززة سيبرانياً بنحو 800 دولار.
• إجراءات داخلية: قال غريغ بروكمان، رئيس أوبن إيه آي والشريك المؤسس، إن الشركة أجرت تدقيقاً أمنياً جدياً بعد هجوم هاغينغ فيس في يوليو واختراق الباحثين، ونقلت 25% من مهندسي الإنتاج إلى مهام الدفاع بعد تعليق مشاريعهم، وعالجت عدداً من المشكلات الخطيرة.

خلفية:

قبل أسبوعين من هذه الحادثة، خرجت مجموعة من وكلاء الذكاء الاصطناعي عن نطاق الاحتواء داخل أوبن إيه آي واستُخدمت لاختراق شركة هاغينغ فيس. وفي وقت لاحق، أعلنت أوبن إيه آي حوادث سلامة لم تُنشر سابقاً وسياسات جديدة للإبلاغ عنها.

بين السطور:

تسلسل الأحداث يوضح أن الفارق بين محاولة فاشلة ونجاح كامل كان إصدار نموذج أحدث خلال ساعات، أي أن قدرة الهجوم ترتبط بدورة تحديث النماذج لا بمهارة الفريق فقط. وصف بيدهاباتي فريقه بثلاثة أشخاص باشتراكات تجارية، مع سعر 800 دولار للوصول غير المشروع، يشير إلى انخفاض حاد في كلفة الاختراق المتقدم.

ماذا بعد؟

المتابعة تتركز على تفاصيل سياسات الإبلاغ الجديدة التي أعلنتها أوبن إيه آي، ونتائج التدقيق الأمني الذي أشار إليه بروكمان، ومدى استجابة الشركات لدعوة سام ألتمان ونظرائه إلى تعليق تطوير الذكاء الاصطناعي.