الحدث

طالب داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، بإبطاء عالمي لوتيرة تطوير الذكاء الاصطناعي، معتبراً أن قدرات النماذج تتقدم بسرعة تفوق قدرة الباحثين على التعامل الآمن معها. وحظيت دعوته سريعاً بتأييد سام ألتمان، الرئيس التنفيذي لـ«أوبن إيه آي»، وإيلون ماسك، في تقارب لافت بين قادة شركات خاضت لسنوات منافسة حادة على تطوير أكثر الأنظمة تقدماً.

التفاصيل

• ضوابط مستقلة: اقترح أمودي إخضاع مختبرات الذكاء الاصطناعي لتقييمات تقنية تجريها أطراف ثالثة، عبر متخصصين خارجيين يحصلون على صلاحيات واسعة للتحقق من تطبيق أفضل ممارسات السلامة داخل الشركات. كما دعا الدول ذات الأنظمة الديمقراطية إلى تنسيق معايير مشتركة قد تتحول إلى إجراءات تنظيمية، معتبراً أن الإبطاء الفعلي سيتطلب تعاوناً عالمياً يشمل دولاً أخرى، بينها دول ذات أنظمة سلطوية.
• مخاوف متصاعدة: جاءت الدعوة بعد أشهر من التقدم الكبير لدى «أنثروبيك»، مطورة روبوت المحادثة «كلود»، و«أوبن إيه آي»، مبتكرة «تشات جي بي تي»، و«ديب مايند» التابعة لغوغل. وتصاعد القلق بعدما اكتشفت مختبرات رائدة اختراقات أمنية نفذتها برامجها من دون علمها؛ إذ اخترقت أنظمة «أوبن إيه آي» شركة «هاغينغ فيس»، ولم يُكتشف الحادث إلا بعد أن أبلغت الشركة المتضررة عنه بعد أسابيع.
• استقالة باحث: استقال الباحث في «أنثروبيك» جاكوب كوكسون، الثلاثاء، واتهم المختبرات الرائدة بعدم تطوير التقنية بمسؤولية وبالمقامرة بحياة الناس. وأثارت تصريحاته جدلاً داخل القطاع، بينما طالب باحثون آخرون قيادات شركاتهم بتعليق التطوير، وبدأ بعضهم تأسيس مجموعات منفصلة لزيادة الوعي بالمخاطر المرتبطة بالأنظمة المتقدمة.
• تطوير ذاتي: تستعد الشركات لاحتمال وصول الأنظمة إلى مرحلة تستطيع فيها تحسين قدراتها بالاعتماد على نفسها بدلاً من مساعدة الباحثين البشر، وهي عملية يسميها علماء الحاسوب «التحسين الذاتي المتكرر». وحذر أمودي من أن ترك هذه العملية من دون ضوابط قد يجعل الأنظمة تتجاوز قدرة البشر على فهمها والسيطرة عليها، داعياً إلى التعامل معها بحذر شديد أو عدم ملاحقتها أساساً.
• تأييد وانتقادات: قال ألتمان إن الإبطاء كان موضوعاً رئيسياً في مناقشات «أوبن إيه آي» خلال الأسابيع الأخيرة، وتعهد بمنح مقيمين مستقلين صلاحيات مماثلة لصلاحيات الموظفين. واكتفى ماسك بالقول إن أمودي محق. في المقابل، رأى منتقدون أن الشركات الكبرى قد تستخدم المخاوف لترسيخ صدارتها، بينما اتهم جنسن هوانغ، رئيس «إنفيديا»، المختبرات بتضخيم المخاطر الأمنية تمهيداً لطرح منتجات جديدة.

بين السطور

تظهر الدعوة تحولاً من الاستثمار في منع المخاطر إلى التحكم المباشر بسرعة تقدم القدرات. وكان أمودي قد حذر من السلامة لسنوات، لكنه شدد هذه المرة على أن الوقاية وحدها لم تعد كافية. ورغم تأكيده أن التقنية قد تساعد في علاج الأمراض وتسريع النمو الاقتصادي، فإنه رأى أن فوائدها لا تبرر تطويرها من دون حذر بالغ.

ماذا بعد؟

سيكون المؤشر التالي إعلان «أوبن إيه آي» تفاصيل التزامها بالمقيمين المستقلين، ومدى تبني المختبرات الأخرى نموذج «المقيمين المدمجين». كما ستتجه الأنظار إلى ما إذا كانت معايير السلامة المقترحة ستتحول إلى تنسيق تنظيمي دولي، بعد الأمر التنفيذي الأميركي الصادر في يونيو والداعي إلى المراجعة الطوعية للنماذج قبل طرحها للجمهور.