الخلاصة
- أوبن إيه آي أقالت 3 باحثين في السلامة بتهمة مخالفة سياسات التعامل مع المعلومات الحساسة
- الباحثون الثلاثة ينفون التهمة ويقولون إنهم طالبوا بإبقاء آليات عمل النماذج قابلة للمراقبة
- القضية تضع حدود الرقابة الخارجية المستقلة على نماذج الذكاء الاصطناعي في قلب الجدل
خبر:
أقالت شركة أوبن إيه آي ثلاثة من باحثي السلامة لديها بعد تحقيق داخلي خلص إلى مخالفتهم سياسات واضحة للتعامل مع المعلومات الحساسة، بحسب ما أفادت وول ستريت جورنال. وقالت الشركة إن الإقالة لم تكن بسبب إثارة مخاوف تتعلق بالسلامة أو التحدث علناً. الباحثون الثلاثة، توميك كورباك وميكيتا باليسني وجاسمين وانغ، يرفضون هذه الرواية.
تفصيل:
- التحقيق: بحسب وول ستريت جورنال، استدعى فريق الأمن في أوبن إيه آي الباحثين الثلاثة الشهر الماضي وطلب منهم فتح هواتفهم الشخصية، للاشتباه في تسريب معلومات عن تصاميم نماذجها الداخلية إلى باحث سلامة خارجي. وبعد أسبوع استُدعوا مجدداً إلى اجتماعات متزامنة عند الساعة 2 ظهراً وأُبلغوا بإقالتهم.
- رواية المقالين: قال الباحثون الثلاثة في مقابلة وبيان إنهم لم يتلقوا تفسيراً مكتوباً يحدد المعلومات الحساسة التي يُزعم أنهم أساؤوا التعامل معها، وإنهم أمضوا أشهرهم الأخيرة في الشركة يدفعون نحو مزيد من التعاون الصناعي بشأن السلامة، ولم يشاركوا معلومات سرية مع أي جهة خارجية.
- سبب الإقالة: قال كورباك إنه أُبلغ بوجود خرق للثقة نتيجة تواصله مع طرف ثالث عبر قنوات غير مصرح بها. وأضاف هو وباليسني أن قادة الشركة استشهدوا باستخدامهما خاصية الرسائل المختفية على تطبيق سيغنال سبباً للإنهاء، فيما قالت متحدثة باسم أوبن إيه آي إن استخدام سيغنال غير معتمد لكنه ليس السبب الوحيد.
- حالة وانغ: قالت جاسمين وانغ في بيان إنها أُبلغت بإقالتها بسبب وصولها المتكرر إلى بريد أحد التنفيذيين. وأوضحت أنها طلبت من الشركة قبل نحو عام إلغاء هذا الوصول دون استجابة، وأنها فتحت عن طريق الخطأ رسالة حساسة الشهر الماضي وأبلغت عن الحادثة فوراً دون مشاركة محتواها.
- نفي الطرف الثالث: قال رايان غرينبلات، كبير العلماء السابق في ريدوود ريسيرش، إنه لم يكن مصدر أي تسريب معلومات سرية إلى موقع ذي إنفورميشن، مؤكداً أنه لا يشارك مثل هذه المعلومات مع الصحفيين. وذكرت ريدوود ومنظمة ميتر، التي وظفته لاحقاً، أنهما تتعاملان مع السرية بجدية.
- جوهر الخلاف التقني: قال الباحثون المقالون إنهم أثاروا داخلياً مخاوف من بنى جديدة للذكاء الاصطناعي قد تسرّع القدرات لكنها تجعل الأنظمة أصعب على الفهم والسيطرة. وكان باليسني وكورباك قد شاركا في قيادة ورقة بحثية عام 2025 دعت إلى الحفاظ على مراقبة سلسلة التفكير داخل النماذج.
- شرارة التحقيق: في 1 سبتمبر نشر موقع ذي إنفورميشن تقريراً قال إن نموذج أوبن إيه آي الأحدث أسترا يستخدم تقنية جديدة تجعله أقوى لكنها تكشف قدراً أقل من تفكيره. ووصف كبير العلماء ياكوب باخوتسكي التقرير بأنه مشوش على منصة إكس، لكنه أبدى قلقه من سباق صناعي نحو نماذج غير قابلة للمراقبة.
- الرقابة الخارجية: قالت أوبن إيه آي يوم الخميس إنها نفذت تجربة لدمج باحثين من ميتر وريدوود ريسيرش لتقييم أنظمة السلامة لديها، فيما ذكرت ميتر أن الشركة حجبت بعض النتائج التي كان بإمكانها مشاركتها. وقالت متحدثة باسم الشركة إنها ستعلن قريباً عن تعاون مستمر مع عدة شركات.
- سياق القطاع: أعلنت أنثروبيك الأسبوع الماضي اتفاقاً يمنح موظفي منظمة ميتر غير الربحية وصولاً شبيهاً بوصول الموظفين إلى أنظمتها، بما يشمل الأجهزة والمكاتب والأدوات الداخلية، مع استثناء فئات من بينها بنى النماذج التي قالت إنها عالية الخطورة من حيث التسريب.
خلفية:
بحسب وول ستريت جورنال، أطلقت أوبن إيه آي أواخر 2024 نوعاً جديداً من النماذج يكتب خطوات تفكيره على مسودة داخلية تُعرف بسلسلة التفكير، ما منح الباحثين نافذة نادرة على طريقة اتخاذ الأنظمة لقراراتها قبل إنتاج الإجابة.
بين السطور:
الخلاف ليس تأديبياً فقط. فالباحثون المقالون ربطوا مباشرة بين إبقاء سلسلة التفكير مرئية وقدرة البشر على السيطرة، بينما تحجب الشركات بنى النماذج باعتبارها أثمن أسرارها التجارية. وقال كورباك إن زملاءه باتوا يخشون التحدث إلى أطراف ثالثة أو إثارة مخاوف السلامة، وهو ما يضع التدقيق المستقل أمام اختبار عملي.
ماذا بعد؟
الإعلان المرتقب لأوبن إيه آي عن تعاون مع عدة شركات في مجال السلامة، ورد مجلس إدارة الشركة على رسالة الباحثين الثلاثة في أكتوبر، ومدى ما ستتمكن ميتر من نشره من نتائج غير محجوبة.
