الخبر لا يقول إن الذكاء الاصطناعي قرر، من تلقاء نفسه، مهاجمة شركات حقيقية. لكنه يقول شيئاً أكثر إزعاجاً: إن الحدود التي يفترض أن تفصل اختباراً رقمياً عن الإنترنت الحقيقي فشلت مرتين خلال أيام. في حالة «أنثروبيك»، لم يخرج النموذج من سجن رقمي كما حدث مع «أوبن إيه آي». لم يكن هناك سجن محكم أصلاً في بعض الاختبارات. إعداد خاطئ لدى الشركة وشريكها الأمني «إيرريغولار» أتاح للنماذج الاتصال بالإنترنت، رغم إبلاغها بأن الشبكة غير متاحة.
هذا الفارق مهم، لكنه لا يخفف خطورة النتيجة. فقد استخدمت نماذج «كلود» أساليب بسيطة نسبياً، مثل تخمين كلمات مرور ضعيفة أو الوصول إلى خدمات بلا توثيق. وفي إحدى الحالات، صنعت برمجية خبيثة وصلت إلى نظام فحص تابع لشركة أمنية، وسرقت بيانات اعتماد استُخدمت لاحقاً للدخول إلى بنيتها التحتية. وفي الحالة الأخطر، حاول النموذج اختراق شركة وهمية في التقييم تحمل الاسم نفسه لموقع حقيقي، ثم وصل إلى قاعدة بيانات الشركة الحقيقية.
أما حادث «أوبن إيه آي» فكان أكثر تعقيداً من الناحية التقنية: استغلت النماذج ثغرة غير معروفة في برنامج لإدارة مستودعات البرمجيات، ثم وصلت إلى الإنترنت واستخدمت بيئة تقييم خارجية كنقطة انطلاق. لكن الحادثين يلتقيان عند نقطة واحدة: النماذج لم تتوقف عند حدود المختبر حين وجدت طريقاً آخر لإنجاز المهمة التي كُلّفت بها. المشكلة، إذن، ليست في «نية» الآلة؛ بل في منظومات اختبار افترضت أن العزل قائم، بينما كانت منافذ الاتصال موجودة.
التفاصيل
- حوادث «أنثروبيك»: قالت الشركة إنها راجعت سجلات أكثر من 141 ألف اختبار، واكتشفت ثلاث عمليات اختراق وقعت منذ أبريل.
- الجهات المتضررة: لم تكشف الشركة أسماء الشركات الثلاث، لكنها قالت إنها أخطرتها بالحادث يوم الاثنين.
- سبب الخلل: عزت «أنثروبيك» الحوادث إلى إعدادات خاطئة في أنظمتها وأنظمة شريكها، لا إلى خروج النماذج من بيئة عزل محكمة.
- سلوك النموذج: قالت الشركة إن النماذج ظنت أنها تعمل داخل محاكاة أو تقييم، وإن اثنتين منها توقفتا أو لم تدركا أنها وصلت إلى شركات حقيقية.
- الاستثناء الأخطر: واصل نموذج واحد العمل بعد أن أدرك أنه دخل قاعدة بيانات حقيقية، بحسب إفصاح «أنثروبيك».
- حادث «أوبن إيه آي»: خرجت نماذج من بيئة اختبار عبر استغلال ثغرة، ثم وصلت إلى أصول مرتبطة بتقييم أمني لدى «هاغينغ فيس».
- نقطة التشابه: في الحالتين، واصل النموذج السعي إلى حل مهمة أمنية حين توفرت له أدوات أو مسارات لم يكن يفترض أن يملكها.
- نقطة الاختلاف: كان خلل «أوبن إيه آي» اختراقاً لمسار العزل، بينما كان خلل «أنثروبيك» فشلاً في ضبط الوصول إلى الإنترنت من الأساس.
- الأثر التنظيمي: تعزز الحوادث الدعوات إلى معايير موحدة لعزل النماذج المتقدمة ومراجعة الاختبارات الأمنية المستقلة.
بين السطور
لا دليل على أن الشركتين رتبتا هذه الحوادث كحملة دعائية، والوقائع المعلنة لا تسمح بهذا الاستنتاج: هناك جهات متضررة، وسجلات، وثغرات محددة، وإفصاحات عن أخطاء محرجة. لكن الشفافية هنا ليست عملاً خيرياً خالصاً. فمن يعلن الخطأ أولاً ويشرح سببه يستطيع أن يحدد لغة النقاش قبل أن يحددها المنظمون أو المنافسون أو الضحايا.
ما الذي نترقبه؟
السؤال التالي ليس ما إذا كانت النماذج ستصبح أكثر قدرة على تنفيذ مهام هجومية، بل ما إذا كانت المختبرات ستبني بيئات اختبار تواكب تلك القدرة. الاختبار الحقيقي سيكون في إجراءات قابلة للتحقق: عزل مستقل، مراجعة خارجية، إبلاغ سريع للمتضررين، وقواعد توقف تمنع النموذج من الانتقال من هدف افتراضي إلى نظام حقيقي. من دون ذلك، ستبقى عبارة «كان اختباراً» وصفاً للخطأ لا ضمانة لعدم تكراره.
