الخلاصة
- أنثروبيك أعلنت أن نموذجها كلود يقود أكثر من ربع أعمال البحث والتطوير داخلها.
- النسبة كانت صفراً في فبراير، وفق مدونة الشركة الصادرة الخميس.
- الرقم مؤشر على اقتراب سيناريو التحسين الذاتي المتكرر الذي يحذّر منه قادة القطاع.
خبر:
أكثر من ربع أعمال البحث والتطوير داخل أنثروبيك باتت يقودها روبوت المحادثة كلود، بحسب مدونة نشرتها الشركة الخميس. وقالت إن مراجعة داخلية لمهام البحث والتطوير وجدت أن النموذج قادر على قيادة هذا العمل بنسبة 26% تقريباً، مع اقتصار دور البشر على الإشراف والتوجيه العام. وكانت النسبة صفراً في فبراير.
تفصيل:
- الأرقام: قالت أنثروبيك إن كلود يقود نحو 26% من مهام البحث والتطوير على نماذج جديدة، بعدما كانت النسبة صفراً في فبراير الماضي. وأضافت أنها تشغّل نحو 30 ألف وكيل ذكاء اصطناعي في أعمال بحثية وهندسية، وأنها وجّهت أخيراً نحو 6% من قدرتها الحاسوبية المخصصة للبحث والتطوير إلى أعمال السلامة.
- حدود الاستقلالية: أوضحت الشركة أنه لا توجد حالياً مرحلة يعمل فيها كلود بشكل مستقل تماماً من دون وجود إنسان ضمن حلقة القرار. ولم تحدد في مدونتها إلى أي مدى تعتقد أن سيناريو التحسين الذاتي المتكرر بات قريباً.
- منهجية القياس: ذكرت أنثروبيك أنها استخدمت نسخة من كلود لقياس عمله في البحث والتطوير، اعتماداً على نظام تقييم طوّرته شركة ذكاء اصطناعي خارجية، قبل أن يراجع باحثون بشريون النتائج.
- التحذير: قالت الشركة إن تسريع النماذج لتطوير نفسها قد يجعل فهم هذه الأنظمة أو التحكم بها أصعب على البشر، وإن نشر هذه المؤشرات مهم لمعرفة مدى اقتراب العالم من التحسين الذاتي المتكرر.
- دعوة للمنافسين: دعت أنثروبيك ضمناً بقية شركات الذكاء الاصطناعي إلى نشر بيانات مماثلة، قائلة إن أي مطوّر في الصف الأول يستطيع نشر هذه المقاييس دورياً بمنهجية معلنة، وإن الهدف منح الجمهور والجهات الخارجية والحكومات رؤية أوضح لوتيرة التطوير داخل المختبرات.
- دعوة أموداي: دعا الرئيس التنفيذي داريو أموداي نهاية الأسبوع الماضي كبرى شركات الذكاء الاصطناعي إلى تنسيق تباطؤ في العمل على هذه التقنية لإتاحة وقت أطول لبناء ضمانات. وأيد قادة شركات منافسة الفكرة سريعاً، بينما انتقدها الرئيس دونالد ترامب.
- جدل داخلي: الأسبوع الماضي استقال موظف في أنثروبيك وقال إن الشركة “تقامر بحياتنا”. وامتد القلق إلى الطيفين السياسيين، إذ ناقش السيناتور بيرني ساندرز مخاطر خروج الذكاء الاصطناعي عن سيطرة البشر في فعالية بواشنطن إلى جانب مستشار ترامب السابق ستيفن بانون.
- ملف المنافسين: تواجه أنثروبيك ومنافسوها، ومنهم أوبن إيه آي المطوّرة لتشات جي بي تي، تدقيقاً بشأن قدرتها على ضبط سلوك وكلائها الداخلية. وكشفت أوبن إيه آي الأربعاء أمثلة جديدة على غش وكلائها في المهام أو خروجها عن المسار، وأصدرت إطاراً للإفصاح عن مثل هذه الحوادث.
- آليات الرقابة: قالت أنثروبيك الخميس إنها تعتمد أنواعاً عدة من أدوات المراقبة الداخلية المستقلة القادرة على تصعيد أي نشاط مشبوه إلى مراجعة بشرية.
خلفية:
التحسين الذاتي المتكرر مصطلح يشير إلى بلوغ الذكاء الاصطناعي قدرة على تطوير نفسه من دون مدخلات بشرية. حذّر أموداي وشخصيات بارزة في القطاع من أن هذا المسار قد يجعل فهم التقنية أو السيطرة عليها أصعب على البشر.
بين السطور:
نشر رقم 26% بعد أيام من دعوة أموداي إلى تباطؤ منسق يضع الشركة في موقع من يقدّم الدليل على السرعة التي يحذّر منها. ودعوتها بقية المختبرات إلى نشر مقاييس مماثلة بمنهجية معلنة ترجّح أنها تسعى إلى تحويل الإفصاح الطوعي عن وتيرة التطوير إلى معيار قطاعي قبل أن تفرضه جهة تنظيمية.
ماذا بعد؟
المؤشر الأول هو ما إذا كانت مختبرات منافسة، ومنها أوبن إيه آي، ستنشر مقاييس مماثلة عن حصة الذكاء الاصطناعي في أبحاثها، وما إذا كانت أنثروبيك ستحدّث نسبة 26% دورياً.
