الخلاصة
- استقال ديفيد روبنسون من أوبن إيه آي وكتب أن ثقافة السرعة داخلها ترفع احتمالات الإخفاق
- روبنسون أمضى 3.5 سنوات في الشركة وأشرف على تقارير سلامة 12 إطلاقاً لنماذج متقدمة
- الانتقاد يعيد فتح الجدل حول ما إذا كانت شركات الذكاء الاصطناعي تتحرك أسرع من قدرتها على الضبط
خبر:
ثقافة السرعة داخل أوبن إيه آي ترفع خطر الإخفاق، بحسب ما كتبه موظف السلامة السابق ديفيد روبنسون في مقال نشرته مجلة أتلانتيك السبت بعنوان استقلت من أوبن إيه آي لأن ثقافتها معطوبة. ودعا روبنسون شركات الذكاء الاصطناعي إلى توسيع الخبرة البحثية في السلامة قبل بناء أنظمة أقوى. وردت الشركة بأنها توقف التدريب أو تحجب نماذج عند الحاجة.
تفصيل:
- صاحب الانتقاد: ديفيد روبنسون، موظف سلامة سابق في أوبن إيه آي قال إنه أمضى 3.5 سنوات في الشركة، وفق رويترز. وذكر أنه شارك في صياغة إطار التأهب الخاص بالشركة، وأشرف على تقارير السلامة المرافقة لـ12 إطلاقاً لنماذج متقدمة قبل استقالته.
- جوهر الاتهام: كتب روبنسون أن شركات الذكاء الاصطناعي، ومنها أوبن إيه آي، ليست حذرة بالقدر الكافي، وأن سباق الشركة من إطلاق إلى آخر يمنعها من بلوغ مستوى العناية الذي يراه ضرورياً. وقال إن زمن التجربة والخطأ انتهى.
- المعيار المقترح: دعا روبنسون إلى ضمانات للأنظمة المتقدمة أقرب إلى المعمول به في قطاعات مثل الطاقة النووية والطيران، أي منظومات سلامة مصممة مسبقاً لا معالجات لاحقة، مع تركيز أكبر على خبرة السلامة والبحث قبل تطوير أنظمة أعلى قدرة.
- المنهج محل الخلاف: قال روبنسون إن أوبن إيه آي تعتمد بكثافة على ما تسميه النشر التكراري، أي إطلاق الأنظمة ثم تعزيز الضمانات عند ظهور المشكلات. وهذا المنهج هو محور الاعتراض: معالجة الأعطال بعد وقوعها بدل استباقها.
- رد أوبن إيه آي: قال متحدث باسم الشركة في بيان إنها تحرص على ألا تصبح نماذجها أقدر مما يمكنها إدارته وتأمينه بأمان، وإنها توقف التدريب أو تحجب نماذج حين تحتاج إلى إبطاء الوتيرة. ولم يتضمن الرد أي إشارة إلى استقالة روبنسون نفسه.
- فجوة المواءمة: حذّر روبنسون من أن قدرات الذكاء الاصطناعي تتقدم أسرع من فهم الباحثين لمجال المواءمة، وهو الحقل المعني بضمان تصرف الأنظمة وفق أهداف البشر وقيمهم. أي أن القدرة تتسع بينما تبقى أدوات ضبطها متأخرة عنها.
- السياق الصناعي: تضيف هذه الانتقادات إلى جدل داخل قطاع الذكاء الاصطناعي حول سرعة تطوير أنظمة أقوى، بحسب رويترز. وواجهت أوبن إيه آي ومنافستها أنثروبيك تدقيقاً بعد حوادث أخفقت فيها ضوابط السلامة أو سلكت فيها أنظمة تجريبية سلوكاً غير متوقع.
- منبر النشر: نُشر المقال في مجلة أتلانتيك يوم السبت، لا في مدونة داخلية أو منشور مهني، ما يضعه في دائرة النقاش العام حول تنظيم الذكاء الاصطناعي بدل النقاش الداخلي في الشركة. ولم يُعلن موعد مغادرته الفعلي.
خلفية:
إطار التأهب هو الوثيقة التي تحدد كيف تقيس أوبن إيه آي مخاطر نماذجها المتقدمة قبل الإطلاق وبعده، وتتضمن عتبات يُفترض أن توقف التطوير عند تجاوزها. وروبنسون، بحسب روايته، كان من المشاركين في صياغتها.
بين السطور:
الخلاف ليس على حادثة بعينها بل على منهج: روبنسون يصف النشر التكراري كمقامرة، بينما يصفه رد الشركة ضمناً كضبط قابل للإيقاف. ويستمد الانتقاد ثقله من موقع صاحبه، إذ أشرف على تقارير سلامة 12 إطلاقاً وشارك في كتابة إطار التأهب نفسه، فهو يحاكم آلية ساهم في بنائها.
ماذا بعد؟
يُتابع ما إذا كانت أوبن إيه آي ستعدّل إطار التأهب أو تعلن تغييرات في مسار مراجعات السلامة قبل إطلاقها المقبل، وما إذا كان موظفون حاليون أو سابقون آخرون سينضمون علناً إلى انتقادات روبنسون.
