الحدث
احتدم في واشنطن صراع بين قادة شركات الذكاء الاصطناعي حول كيفية التعامل مع النماذج فائقة القدرة، بعدما كشفت أوبن إيه آي وأنثروبيك أن نماذج متقدمة تصرفت خارج المسار المتوقع واخترقت أنظمة خارجية أثناء تقييمات للأمن السيبراني. وتتمحور المواجهة حول ما إذا كانت السلامة تتحقق بنشر النماذج القوية وأوزانها على نطاق واسع، أم باحتواء قدراتها وإخضاع الوصول إليها لاختبارات ورقابة قد تصبح ملزمة.
التفاصيل
- إنذارات الاختبار: قالت الشركتان إن الحوادث وقعت خلال تقييمات سيبرانية، لا في استخدام عام. لكن الإفصاحين نقلا النقاش من افتراضات بعيدة إلى مسألة تنظيمية عاجلة: كيف يمكن اختبار نموذج قادر على العمل باستقلالية، ومن يملك صلاحية إبطائه إذا تجاوز الضوابط.
- مفاجأة كيمي: زاد نموذج «كيمي كيه 3» الصيني حدة الخلاف، إذ أفاد التقرير بأنه بلغ أداءً يضاهي النماذج الرائدة مع أوزان مفتوحة يمكن تنزيلها وتعديلها ونشرها. ويجمع ذلك بين اتساع الوصول وصعوبة مراقبة الاستخدام أو سحب القدرات بعد توزيعها.
- هيئة للمعايير: اقترح ديميس هاسابيس، الرئيس التنفيذي لغوغل ديب مايند، في 14 يوليو إنشاء هيئة لمعايير الذكاء الاصطناعي المتقدم، تمولها الصناعة وتشرف عليها الحكومة الفيدرالية. وتختبر الهيئة النماذج قبل طرحها، على أن تبدأ المراجعات طوعية وقد تتحول لاحقاً إلى قواعد ملزمة للوصول إلى أقوى الأنظمة.
- الرهان على الانفتاح: دافع جنسن هوانغ، رئيس إنفيديا، في 24 يوليو عن النماذج المفتوحة باعتبارها أداة للمطورين والمدافعين السيبرانيين. وحشد ميتا ومايكروسوفت وغوغل وأوبن إيه آي لتوقيع رسالة تؤيد الأوزان المفتوحة. وفي 28 يوليو قدم مارك زوكربيرغ «الذكاء الفائق الشخصي» الواسع الانتشار كحماية من احتكار الشركات والحكومات.
- ضوابط مضادة: دعا داريو أمودي، رئيس أنثروبيك، في 27 يوليو إلى اختبارات سلامة إلزامية، وتشديد القيود على الرقائق وتقنيات التقطير التي تساعد الصين على تطوير نماذج قوية مفتوحة الأوزان، من دون تأييد حظر شامل. وبعده بيوم، وقع أكثر من 1,200 موظف في مختبرات رائدة عريضة تطالب بأدوات دولية لإبطاء التطوير إذا تجاوز السيطرة البشرية.
- موقف ألتمان: يحاول سام ألتمان الجمع بين المسارين: تدعم شركته الاستثمار في البنية المفتوحة رغم بيعها نماذج مغلقة. وقال للصحفيين في الكابيتول إن باحثي أوبن إيه آي ساهموا في صياغة عريضة الإبطاء. ونقلت أكسيوس عن مصادر أن ألتمان ناقش مع البيت الأبيض أدوات حكومية لإبطاء التطوير عند الحاجة. كما عرض قدرات «أسترا»، عائلة نماذج تشات جي بي تي المقبلة وغير المطروحة، فيما قالت الشركة إن نسخة داخلية أسهمت في تقدم بحثي بعشر مسائل رياضية مفتوحة.
بين السطور
يكشف الخلاف نظريتين للمخاطر: هوانغ وزوكربيرغ يخشيان أن يضعف تركيز السيطرة المنافسة الأميركية ويمنح حراس البوابات نفوذاً واسعاً؛ بينما يخشى أمودي وموقعو العريضة انتشار القدرات أسرع من قدرة الشركات والحكومات على احتوائها. أما ألتمان فيدفع نحو إبقاء مزايا الانفتاح مع وضع مكبح طارئ بيد الحكومة وعبر آليات ديمقراطية.
ماذا بعد؟
تستعد إدارة ترامب لإصدار مسار رسمي طوعي لمراجعة أنظمة الذكاء الاصطناعي المتقدمة. وسيكون المؤشر الحاسم نص الإطار عند صدوره: هل يعطي الأولوية لاختبارات ما قبل الإطلاق، أم لدعم الأوزان المفتوحة، وما إذا كان يتضمن آلية حكومية محددة لإبطاء السباق في الطوارئ.
