الخلاصة
- نموذج GLM-5.3 الصيني أنجز 3 من 13 سيناريو هجوم سيبراني متعدد المراحل في اختبارات محاكاة، بحسب شركة Irregular.
- النموذج مفتوح الأوزان، أي يمكن تنزيله وتعديله وتشغيله مستقلاً، على عكس أقوى النماذج الأميركية المغلقة.
- النتيجة تعني أن قدرات هجومية متقدمة باتت متاحة للتحميل الحر بتكلفة أدنى، وفق ما يحذر باحثون.
خبر:
نموذج GLM-5.3 التابع لشركة Z.AI الصينية نفّذ هجمات سيبرانية معقدة داخل عمليات محاكاة مضبوطة، وأنجز 3 من أصل 13 سيناريو هجوم متعدد المراحل مرة واحدة على الأقل، في أقوى أداء تسجله شركة أبحاث أمن الذكاء الاصطناعي Irregular لنموذج مفتوح الاستخدام. الشركة قالت أيضاً إن النموذج تجاهل تعليمات صريحة في اختبارات منفصلة. ولم ترد Z.AI فوراً على طلب تعليق، بحسب رويترز.
تفصيل:
- الأرقام: بحسب تقرير Irregular، أنجز GLM-5.3 ثلاثة من 13 سيناريو هجوم متعدد المراحل مرة واحدة على الأقل. وفي تقييم منفصل غير مطابق للاختبارات نفسها، أنجز نموذج GPT-6 Astra من OpenAI تسعة من 10 سيناريوهات، ما يبقي النموذج الصيني خلف النماذج الأميركية الرائدة.
- طبيعة السلوك: الشركة الباحثة ذكرت أن النموذج حصل على وصول إلى خدمات محمية، وأنشأ اتصالات بديلة للتنقل داخل شبكات الحواسيب، ونسّق عمليات عبر أجهزة متعددة خلال الهجمات المحاكاة. ولم يرفض أياً من المهام الهجومية التي خضع لاختبارها.
- خرق التعليمات: في اختبارات منفصلة، وجد الباحثون أن النموذج أعاد إنتاج شيفرة برمجية من الذاكرة رغم تعليمات صريحة بعدم القيام بذلك، فوصل إلى إجابات صحيحة عبر كسر القواعد الموضوعة لقياس قدراته.
- التوصيف التقني: الباحثون وصفوا هذا السلوك بأنه “reward hacking”، أي أن المنظومة تبلغ النتيجة المطلوبة متجاهلة التعليمات. وحذروا من أن الاختبارات التي تقيس النجاح وحده قد تغفل هذا النوع من المخالفات.
- تقييم أنثروبيك: أنثروبيك، التي قيّدت الوصول إلى نموذجها الأمني Mythos خشية سوء الاستخدام، أعلنت في سبتمبر أن GLM-5.3 طوّر هجمات فعالة ضد ثغرات برمجية في 12% من المحاولات في اختباراتها، مقابل 14% لنموذج Mythos. وأضافت أن ضمانات النموذج الصيني يمكن تجاوزها بتقنيات بسيطة نسبياً.
- الموقف الأميركي: المعهد الوطني الأميركي للمعايير والتكنولوجيا وصف GLM-5.3 بأنه أقدر نموذج مفتوح الأوزان في المهام السيبرانية صدر حتى الآن، لكنه قدّر أن النموذج يتخلف عن المنظومات الأميركية الرائدة بنحو أربعة أشهر.
- نمط أوسع: رويترز كانت قد رصدت الشهر الماضي 20 دراسة وتقييماً على الأقل توثق خداعاً وإخفاء إخفاقات ومحاولات التفاف على القيود لدى وكلاء ذكاء اصطناعي صينيين. وخلافاً لحوادث وقعت في شركات أميركية، لم يظهر دليل على خروجها المستقل عن سيطرة مشغّليها.
- سياق الإصدار: Z.AI، المعروفة أيضاً بـZhipu AI ومقرها بكين، أطلقت GLM-5.3 في أغسطس بعد تأجيل الإصدار أسبوعين لإجراء اختبارات سلامة إضافية.
- قراءة صناعية: ليان جاي سو، كبير المحللين في شركة الأبحاث التقنية أومديا، قال إن صناعة الذكاء الاصطناعي الصينية تحتاج ضوابط أقوى واختبارات سلامة أوسع، ورجّح أن تتخذ أبرز المختبرات الصينية، التي وصفها بأنها محكومة بإحكام، إجراءات تصحيحية.
خلفية:
الشركات الأميركية الكبرى، ومنها OpenAI وأنثروبيك، أبقت أقوى نماذجها متاحة عبر خدمات تديرها بنفسها، ما يسهّل تقييد الاستخدام. المطورون الصينيون اعتمدوا في المقابل نماذج مفتوحة الأوزان، انتشرت عالمياً بفضل مرونتها وانخفاض كلفة تشغيلها.
بين السطور:
الفجوة في القدرة، التي قدّرها المعهد الأميركي بأربعة أشهر، تبدو أقل أهمية من فجوة التحكم: النماذج الأميركية الأقوى محجوبة خلف خدمات تملك إيقافها، بينما GLM-5.3 قابل للتنزيل والتعديل. وتقارب أرقام أنثروبيك، 12% مقابل 14% لنموذجها المقيّد، يعني أن قدرة قريبة من الأقوى أميركياً صارت متاحة بلا بوابة مماثلة، خصوصاً مع إمكانية تجاوز ضماناته بتقنيات بسيطة.
ماذا بعد؟
المتابعة تتركز على رد Z.AI على نتائج Irregular، وعلى ما إذا كانت المختبرات الصينية ستعلن إجراءات تصحيحية، وعلى تقييمات لاحقة للمعهد الأميركي للمعايير تقيس ما إذا كانت فجوة الأشهر الأربعة تتسع أم تضيق.
