الخلاصة
- أنثروبيك أفادت بأن مجموعة مرتبطة بإيران استخدمت نموذج كلود لتتبع سفن حربية أميركية في الشرق الأوسط.
- التقرير يقع في 154 صفحة ويرصد استخدامات لنماذج الذكاء الاصطناعي في التسلح والتجسس وحملات التضليل.
- الحالة تضع شركات الذكاء الاصطناعي الأميركية أمام سؤال قدرتها على منع توظيف نماذجها عسكرياً.
خبر:
مجموعة مرتبطة بإيران جمعت بيانات من أجهزة إرسال السفن والطائرات وصور عسكرية وصور أقمار اصطناعية تجارية لتعقب سفن حربية أميركية في الشرق الأوسط والبحث عن ثغرات في اتصالاتها، بحسب تقرير لشركة أنثروبيك. وقالت الشركة إنها أوقفت هذا النشاط الذي اعتمد على نموذج كلود المتقدم.
تفصيل:
- آلية التعقب: بحسب تقرير أنثروبيك، اعتمدت المجموعة المرتبطة بإيران على دمج بيانات أجهزة الإرسال الخاصة بالسفن والطائرات مع صور عسكرية وصور أقمار اصطناعية تجارية، بهدف تحديد مواقع السفن الأميركية ورصد نقاط ضعف في منظومات الاتصال على متنها.
- حجم التقرير: التقرير يقع في 154 صفحة ويعرض ما وصفته الشركة بأساليب جديدة يستخدمها خصوم الولايات المتحدة في توظيف الذكاء الاصطناعي، من تطوير صواريخ وحملات تضليل عدائية إلى التجسس على معارضين، وصولاً إلى محاولات تتصل بأسلحة بيولوجية.
- السلاح البيولوجي: قالت أنثروبيك إنها رصدت وأوقفت محاولات لاستخدام نماذجها في تطوير أسلحة بيولوجية، من دون أن تحدد الدول أو الحكومات المرتبطة بهذه المحاولات. وأضافت الشركة أن غياب الضوابط الصحيحة قد يجعل لهذه القدرات عواقب كارثية.
- الحالة اليمنية: وفق التقرير، استخدمت مجموعة في شمال اليمن نموذج كلود لتطوير برمجيات توجيه لأسلحة متقدمة بينها صاروخ باليستي متعدد المراحل. وذكرت الشركة أن ضوابطها حجبت كثيراً من الطلبات لكن ليس جميعها، وأنها حظرت الحسابات المرتبطة بالنشاط.
- الرد التقني: أعلنت أنثروبيك أنها شاركت المعلومات مع شركاء حكوميين وطوّرت بروتوكولات كشف جديدة للحد من مخاطر إساءة الاستخدام مستقبلاً. وقواعد الشركة تحظر استخدام نماذجها في بناء الأسلحة أو تنفيذ المراقبة أو ممارسة العنف.
- المسار الصيني: أفاد التقرير بأن عملية محسوبة على الحكومة الصينية استخدمت كلود لتعقب أفراد من الأويغور، بينهم من انضموا إلى الجيش السوري الجديد، إضافة إلى حملة إبلاغ جماعي وشبكات حسابات آلية ضد صحافيين من الشتات الأويغوري.
- ملفات دينية: مجموعة حسابات أخرى مرتبطة بالحكومة الصينية استخدمت كلود لإعداد ملفات عن قيادات دينية في آسيا تنظر إليها بكين بريبة، تشمل كرادلة كاثوليك بارزين وقيادة الكنيسة المشيخية في تايوان وأعضاء في المجتمع المدني البوذي التبتي والإدارة في المنفى.
- النشاط الروسي: بحسب أنثروبيك، حاولت جهات في روسيا استخدام كلود لبناء أسراب مسيّرات قاتلة ذاتية التشغيل بالاستناد إلى بيانات من ساحات القتال الأوكرانية، ولتوزيع دعاية مولّدة بالذكاء الاصطناعي في دول أفريقية غنية بالموارد بينها أفريقيا الوسطى والكونغو الديمقراطية.
- جدل داخلي: باحث بارز في أنثروبيك استقال هذا الأسبوع بسبب مخاوف من تطوير أنظمة يصعب التحكم بها. وكتب العالم في الشركة إيفان هوبينغر أن احتمال أن يقضي الذكاء الاصطناعي على البشرية يتجاوز 10% خلال العقد المقبل، مضيفاً أن “أنثروبيك تبذل قصارى جهدها” من دون خطة مكتملة.
- سلوك المستخدمين: ذكرت الشركة أن أشخاصاً سعوا مراراً إلى إخفاء نواياهم وجربوا أساليب جديدة كلما رفض كلود طلباتهم، وهو ما يعني أن الحظر المباشر لم يكن كافياً بذاته لوقف محاولات الاستخدام العسكري أو الرقابي.
خلفية:
شركات الذكاء الاصطناعي وشركات الأمن تنشر بانتظام تقارير عن التهديدات المرتبطة بهذه التقنية لإعلام الجمهور وشركائها. والولايات المتحدة صنّفت قمع الصين للأويغور إبادة جماعية عام 2021.
بين السطور:
إقرار أنثروبيك بأن ضوابطها حجبت كثيراً من الطلبات اليمنية وليس جميعها يضع حداً لفكرة أن القيود البرمجية وحدها تمنع التوظيف العسكري، خصوصاً مع وصف الشركة لمحاولات متكررة لإخفاء النوايا. وتوقيت الاستقالة الداخلية والتحذيرات العلنية لموظفين يضاعف الضغط على النقاش الأميركي حول مدى إدراك صانعي السياسات لمخاطر هذه التقنية.
ماذا بعد؟
يُنتظر ما إذا كانت الشركة ستكشف هوية الجهات المرتبطة بمحاولات السلاح البيولوجي، ورد طهران وبكين وموسكو على الاتهامات، وما إذا كان الكونغرس سيحوّل التقرير إلى مادة تشريعية.
