الحدث

حذرت أنثروبيك من تصاعد محاولات تحويل نماذج «كلود» إلى أدوات تشغيلية تخدم تطوير الأسلحة، والأبحاث البيولوجية الخطرة، والهجمات الإلكترونية، والمراقبة الحكومية، وحملات التأثير السياسي. وعرضت الشركة في تقرير استخباراتي من 154 صفحة أبرز الحالات التي رصدتها، مؤكدة تعطيل العمليات المرتبطة بها وتشديد ضوابط الحماية، خصوصاً في المجالات البيولوجية الحساسة، مع تزايد قدرة النماذج على التعامل مع الأدوات وقواعد البيانات والأنظمة الحاسوبية وسير العمل شبه المستقل.

التفاصيل

• مخاطر بيولوجية: شملت خمس حالات علماء يعملون في أبحاث بيولوجية، بينها محاولات للحصول على مساعدة في أبحاث اكتساب الوظيفة المرتبطة بفيروس شيكونغونيا، عبر تعديلات جينية قد تزيد ضراوته. وحاول بعض المستخدمين تجاوز آليات السلامة أو إخفاء طبيعة عملهم. وحظرت أنثروبيك الحسابات، مع إقرارها بأن أبحاثاً مماثلة قد تخدم تطوير اللقاحات والعلاجات.
• عمليات إلكترونية: وثقت أنثروبيك حملات تجسس روسية ومحاولات لأتمتة الاستطلاع وسرقة البيانات ومراحل أخرى من الهجمات. وسجلت أربع وقائع منفصلة حصلت فيها نماذج كلود على وصول غير مصرح به إلى أنظمة حقيقية تابعة لأطراف أخرى. وبدأت المراجعة بنحو 141 ألف محادثة، ثم توسعت إلى قرابة 481 مليوناً ضمن تقييمات وبيئات تدريب وسجلات.
• مراقبة حكومية: استخدمت جهات مرتبطة بحكومات في الصين وإيران ومالي نموذج كلود لتسريع عمليات المراقبة، وتحليل كميات ضخمة من المعلومات، وتحديد أهداف محتملة شملت معارضين وصحفيين ونشطاء وسياسيين. وتتيح الأتمتة تشغيل الأنظمة القائمة بسرعة أكبر وكلفة أقل، مع تقليص الحاجة إلى أعداد كبيرة من المحللين.
• حملات تأثير: حددت الشركة تسع عمليات تأثير ارتبطت بجهات في روسيا وإيران وتركيا ومنطقة الخليج وجنوب آسيا وأفريقيا وأوروبا. وأنشأت المجموعات أعداداً كبيرة من حسابات التواصل الاجتماعي، واستخدمت الذكاء الاصطناعي لإنتاج رسائل سياسية منسقة وترجمتها وتكييفها مع جماهير مختلفة، ثم توزيع نسخ متعددة منها بسرعة وكلفة أقل.
• تطوير أسلحة: امتد الاستخدام إلى أنشطة مرتبطة بأسلحة نارية وصواريخ وطائرات مسيرة مسلحة وقنابل وذخائر أخرى، ونُسبت إلى جهات في الصين وروسيا واليمن. ويمكن للمساعدة في التصميم أو التعديل أو استكشاف الأعطال أو التصنيع أن تخفض مستوى الخبرة والموارد المطلوبة، خصوصاً مع اعتماد الحروب المتزايد على البرمجيات والأنظمة الذاتية والمسيرات.
• ضوابط أشد: قالت أنثروبيك إن كثيراً من الحالات استخدم نماذج أقدم وأقل قدرة بوضوح من أحدث إصداراتها، ووضعت النماذج الجديدة خلف قيود أكثر صرامة في الأبحاث البيولوجية الحساسة. وتواجه الشركة معادلة تتطلب الحفاظ على المساعدة العلمية والتقنية المشروعة، من دون منح الجهات الضارة وسائل تسرع أعمالاً قد تترك آثاراً مادية مباشرة.
• استقالة باحث: استقال الباحث جاكوب كوكسون قبل أيام من نشر التقرير، محذراً من اندفاع أنثروبيك وأوبن إيه آي نحو أنظمة أكثر استقلالاً وقابلة لتحسين ذاتها. ورأى أن سباق تطوير النماذج يتجاوز قدرة القطاع على ضمان بقائها تحت السيطرة البشرية، رابطاً مخاوف الاستقلال المستقبلي بوقائع إساءة الاستخدام الحالية.

ماذا بعد؟

تدعو أنثروبيك إلى تعاون مطوري الذكاء الاصطناعي والحكومات والمجتمع؛ وسيكون المؤشر التالي صدور إطار مشترك ينظم الوصول إلى النماذج والأبحاث الحساسة والاستجابة للحوادث.