سي إن إن: تقرير استخباري بالذكاء الاصطناعي كاد يفجّر مواجهة أميركية صينية

خبر:

الجيش الأميركي أوقف في اللحظات الأخيرة عملية لاعتراض سفينة صينية في الشرق الأوسط، بعد اكتشاف أن التقرير الاستخباري الذي استندت إليه العملية أُنتج بمساعدة الذكاء الاصطناعي وتضمّن معلومات خاطئة، وفق 4 مصادر تحدثت إلى سي إن إن. وأفادت الشبكة بأن التقرير زعم أن السفينة تنقل مكونات لبرنامج أسلحة نووية.

تفصيل:

• التقرير الأصلي: وفق سي إن إن، جرى تعميم التقرير على الجيش الأميركي في ربيع هذا العام خلال الحرب مع إيران، وأفاد بأن سفينة صينية في الشرق الأوسط تنقل مكونات لبرنامج أسلحة نووية، وهو ما دفع القيادة العسكرية فوراً إلى إعداد خطط لاعتراض السفينة.
• حجم الاستعداد: قال مصدران للشبكة إن عناصر مسلحين من الجيش الأميركي كانوا يستعدون لاقتحام السفينة، فيما أفاد مصدران آخران بأن طائرات عسكرية كانت محلقة بالفعل. وجرى وقف العملية قبل تنفيذها مباشرة بعد تدقيق المسؤولين في محتوى التقرير.
• مصدر الخطأ: بحسب المصادر، استعان محلل في قيادة العمليات الخاصة بروبوت محادثة للاستفسار عن معلومات تتعلق ببيان شحنة السفينة، وردت أصلاً من قيادة العمليات الخاصة الأميركية في المحيط الهادئ ومقرها هاواي. ولم يتضح ما إذا كان الروبوت تجارياً أم منتجاً حكومياً.
• آلية الاستنتاج: أفادت سي إن إن بأن الروبوت دمج معلومات مفتوحة المصدر مع استخبارات إشارات سرية في حوزة الحكومة، وخلص إلى استنتاجه بشأن طبيعة الشحنة. ثم استخدم المحلل الذكاء الاصطناعي مجدداً لتحويل النتائج إلى تقرير استخباري نمطي وعممه.
• تقييم المصادر: وصف أحد المصادر التقرير بأنه كاذب بالكامل، وقال إنه كاد يشعل حرباً، إذ إن أي عملية أميركية ضد سفينة صينية كانت قد تتصاعد إلى نزاع مسلح بين البلدين. ولم يتمكن الموقع من معرفة طبيعة الشحنة التي جرى تحديدها بشكل خاطئ.
• سياسة البنتاغون: في يناير، أعلن وزير الدفاع بيت هيغسيث استراتيجية تسريع الذكاء الاصطناعي، متعهداً بإطلاق التجريب وإزالة العوائق البيروقراطية لضمان الريادة الأميركية في المجال العسكري. وتستهدف الاستراتيجية إتاحة النماذج لنحو 3 ملايين من العاملين المدنيين والعسكريين بكل مستويات التصنيف.
• غياب المعايير: قال مسؤولون أميركيون للشبكة إن الجهد لامركزي، إذ تستخدم أجهزة مختلفة أدوات مختلفة بأوامر ومعايير سلامة متباينة، ولا توجد مجموعة موحدة لمعايير التحقق من المعلومات التي تولدها هذه الأدوات، ما يجعل موثوقيتها متفاوتة على نطاق واسع.
• مخاطر الاستهداف: قال مصدر مطلع على السياسات العسكرية الحالية إن استخدام الذكاء الاصطناعي في الاستهداف يتصاعد من دون توجيهات فعلية حول كيفية منع وجود عنصر بشري في الحلقة لوقوع ضحايا مدنيين أو نيران صديقة.
• ليست حالة معزولة: بحسب أحد المصادر، لم تكن هذه الهلوسة حادثة منفردة داخل مجتمع الاستخبارات منذ بدء انتشار هذه الأدوات. وقال مسؤول أميركي سابق مطلع على الأنظمة المستخدمة إن الأدوات الداخلية في معظمها نسخ من المنتجات التجارية بتعديلات شكلية.
• لا تعليق رسمي: لم ترد قيادة العمليات الخاصة الأميركية في المحيط الهادئ ولا البنتاغون على طلب التعليق الذي وجهته سي إن إن.

خلفية:

واشنطن تشهد منذ أسابيع نقاشاً مكثفاً حول الذكاء الاصطناعي بعد تحذيرات من مهندسين ورؤساء شركات في وادي السيليكون من احتمال إفلات هذه الأنظمة من القيود البشرية، بعواقب قد تكون كارثية على الحضارة، وفق سي إن إن.

بين السطور:

ترى سي إن إن أن الحادثة تبرز خطراً مختلفاً وأكثر إلحاحاً من سيناريوهات إفلات الأنظمة: بشر يتخذون قرارات كارثية بناءً على معلومات مضللة تولدها الآلة. ويعزز ذلك ما نقلته الشبكة عن مسؤولين قدامى من أن السرعة التي تتيحها هذه الأدوات ضاعفت الضغط على المحللين للإنتاج والتعميم، وأن المحللين الشباب أكثر ميلاً للثقة بها من دون تدقيق.

ماذا بعد؟

المتابعة تتركز على ما إذا كان البنتاغون سيفرض معايير موحدة للتحقق من مخرجات الذكاء الاصطناعي، وعلى أي رد رسمي من قيادة العمليات الخاصة في المحيط الهادئ أو من بكين بشأن الحادثة.