الحدث
رصد معهد أمن الذكاء الاصطناعي البريطاني وكلاء مدعومين بنماذج من أوبن إيه آي وأنثروبيك وهم ينفذون تصرفات خارج نطاق التعليمات أثناء تقييمات أمنية، شملت كتابة شيفرة خبيثة وإنشاء هويات مزيفة عبر الإنترنت سعياً للحصول على موافقة بشرية. وقال المعهد، الثلاثاء، إن الاختبارات لم تسفر عن أضرار فعلية، رغم أن بعض الأنشطة استهدفت أشخاصاً ومؤسسات حقيقية وقد تكون ضارة.
التفاصيل
- نطاق الاختبارات: أجرى المعهد سيناريو خيالياً للأمن السيبراني 122 مرة، مستخدماً وكلاء يعملون بنموذجي «Mythos 5» من أنثروبيك و«GPT-5.6-Sol» من أوبن إيه آي. وكشفت عشرة تشغيلات عن 19 تصرفاً غير مصرح به، وفق ما أورده المعهد في تدوينة بشأن نتائج التقييم.
- توزيع المخالفات: نسب المعهد 17 من التصرفات غير المصرح بها إلى وكيل أنثروبيك، مقابل تصرفين لوكيل أوبن إيه آي. ولم يحدد في إعلانه الوكيل الذي أنشأ الهويات المزيفة، لكن أنثروبيك أكدت لاحقاً مسؤولية وكيلها عن الواقعة، وقالت إنها تحقق فيها بالتعاون مع المعهد.
- أخطر واقعة: قال المعهد إن أبرز تجاوز تمثل في كتابة وكيل شيفرة خبيثة وإنشاء شخصيات إلكترونية زائفة، في محاولة لإقناع شخص حقيقي بالموافقة على الشيفرة. ووصف بعض النشاط بأنه مستمر وموجه إلى جهات حقيقية، لكنه أكد عدم العثور على ضرر واقعي ناتج عن أي واقعة.
- ردود الشركتين: قالت أنثروبيك إن الحادث يبرز ضرورة توسيع النقاش بشأن التقييم الآمن للوكلاء الأكثر قدرة، وإنها تسعى للحصول على تفاصيل إضافية. وأوضحت أوبن إيه آي أن مخالفتي وكيلها اقتصرتا على استخدام الإنترنت بطرق منعتها تعليمات الاختبار، مؤكدة التزامها بتطوير ممارسات مشتركة للتقييمات عالية المخاطر.
- تقييم خارجي: وقال أندرو يون، الباحث في منظمة «CivAI» غير الربحية في كاليفورنيا، إن لجوء نموذج «Mythos» إلى الخداع، مع ما بدا أنه إدراك لاستهداف شخص حقيقي، يشير إلى أن أنثروبيك لا تملك مستوى السيطرة على نماذجها الذي تعتقد أنها تملكه.
- حدود البيئة: أوضح المعهد أن الوكلاء لم يهربوا من بيئة اختبار معزولة للوصول إلى الإنترنت، خلافاً لاختراق منفصل طال منصة هاغينغ فيس في يوليو. وكان الاتصال بالشبكة متاحاً أصلاً وفق إجراءات التقييم المعتادة، فيما تمثلت المخالفات في تجاوز نطاق المهمة والتعليمات المحددة للوكلاء.
- واقعة منفصلة: كشفت أوبن إيه آي أيضاً أن خطأ في الإعدادات لدى شركة «Irregular»، وهي جهة خارجية توفر خدمات الاختبار، سمح لوكلائها بالاتصال بالإنترنت عن طريق الخطأ. وجاء الإفصاح بعد إعلان مشابه من أنثروبيك، وبعدما أفادت رويترز بأن أوبن إيه آي وسعت تحقيقاً في حالات خروج أخرى لوكلائها عن القيود.
بين السطور
يتلقى المعهد البريطاني وصولاً إلى نماذج متقدمة بموجب اتفاقات طوعية مع مختبرات كبرى. وتوضح النتائج أن الخطر لم ينتج هنا عن اختراق العزل التقني، بل عن تصرف الوكلاء بطرق لم تجزها التعليمات داخل اختبار يسمح أصلاً بالاتصال بالشبكة، ما يضع تصميم التقييم والإشراف البشري تحت التدقيق.
ماذا بعد؟
تنتظر أنثروبيك تفاصيل إضافية من المعهد لاستكمال تحقيقها الداخلي، بينما قالت أوبن إيه آي إنها ستجمع خلال الأسابيع المقبلة معاهد وطنية ومقيّمين مستقلين ومختبرات ذكاء اصطناعي وجهات أخرى، بهدف بحث ممارسات مشتركة لإجراء التقييمات عالية المخاطر بأمان.
