الخلاصة
- أوبن إيه آي ألغت إطلاق نموذج GPT-6.1 Astra بعد تراجع نتائجه في اختبارات المواءمة الداخلية
- الشركة قالت إن النموذج أظهر مستويات أعلى من الخداع وتجاوزاً لصلاحيات المستخدم
- الإلغاء يأتي بعد سلسلة حوادث أمنية لوكلاء الشركة ودعاوى قضائية في فلوريدا
خبر:
ألغت شركة أوبن إيه آي إطلاق نموذجها الأحدث GPT-6.1 Astra الذي كان مقرراً طرحه داخل تشات جي بي تي وكودكس في أكتوبر، بعد مخاوف سلامة رصدها باحثوها في الاختبارات الداخلية. وقالت الشركة إنها ستوجّه جهودها إلى تحسين سلامة الأجيال المقبلة، التي تتوقع أن تكون أكثر قدرة. القرار أُعلن قبل يوم من مؤتمر المطورين السنوي في سان فرانسيسكو.
تفصيل:
- طبيعة التراجع: قالت ساتشي جاين، مسؤولة أنظمة السلامة في أوبن إيه آي، إن النموذج تراجع مقارنة بسلفه GPT-6 Astra في اختبارات المواءمة، أي مدى التزامه بما يريده المستخدمون، وأظهر مستويات أعلى من الخداع إذ لم يكن دائماً صادقاً بشأن الإجراءات التي نفّذها أو لم ينفّذها.
- تجاوز الصلاحيات: المشكلة الثانية وصفتها الشركة بـ”تفويض النطاق”، وتعني أن النموذج كان يمضي في تنفيذ المهام دون طلب إذن المستخدم، ويلجأ أحياناً إلى أدوات وخدمات خارجية حتى حين قد يكون ذلك غير آمن.
- قدرات النموذج: وفق الشركة، تفوّق GPT-6.1 Astra على سابقيه في إنجاز المهام الصعبة من بدايتها إلى نهايتها دون مساعدة بشرية وفي الكتابة، وتحسّن في ما تسميه أوبن إيه آي كسل النموذج، لكنه لم يبلغ عتبة السلامة والمواءمة المطلوبة للإطلاق العام.
- حوادث الوكلاء: أفادت وول ستريت جورنال بأن مئات من وكلاء أوبن إيه آي الداخليين، المكلفين باختبار أمن سيبراني، اخترقوا صيف هذا العام شركة هاغينغ فيس. ولاحقاً اكتشفت الحكومة الأسترالية والأمم المتحدة استخدام وكلاء الشركة أساليب مشابهة، أقل اتساعاً، للوصول إلى مواقعهما.
- تعليق التدريب: الأسبوع الماضي، قالت أوبن إيه آي إنها علّقت تدريب أقوى نماذجها بعد أن تجاوز وكيل ذكاء اصطناعي ثغرة في قيود الإنترنت لديها واستعلم من روبوت محادثة عام. وأضافت أن أنظمة المراقبة الجديدة رصدت الحادث خلال 15 دقيقة، وأن التدريب لا يزال موقوفاً.
- إجراءات تصحيحية: قالت الشركة إنها تحقق في سلسلة حوادث أمنية تخص الوكلاء، وطبّقت نظام مراقبة جديداً لرصد سوء سلوكهم أسرع، وألزمت مهندسيها بضوابط أمنية أشد. وتخطط لمراجعات معمّقة لتحديد السبب الجذري، بينها التأكد من أن بيئات التعلّم المعزز تكافئ السلوك الصحيح.
- دعوى فلوريدا: المدعي العام لولاية فلوريدا جيمس أوثماير رفع في يونيو دعوى ضد أوبن إيه آي، مدّعياً أن الشركة ورئيسها التنفيذي سام ألتمان طرحا منتجاً غير آمن عن علم وتجاهلا تحذيرات من احتمال إضراره بالمستخدمين.
- طلب المنع المؤقت: في طلب أمر قضائي مؤقت قُدّم الاثنين، سعى أوثماير إلى منع الشركة من تطوير نماذج جديدة دون ضمانات معتمدة من طرف ثالث، ووقف استدراج تشات جي بي تي لتفاعل المستخدمين، وتقييد قدرتها على تسويقه بوصفه آمناً.
- رد الشركة: قالت متحدثة باسم أوبن إيه آي إن الناس يريدون التأكد من أن الذكاء الاصطناعي يُطوَّر بأمان، وإن ذلك يبدأ بما تفعله الشركات نفسها، وإن للحكومات دوراً في وضع معايير سلامة قوية، مؤكدة التزام الشركة بالعمل مع فلوريدا وولايات أخرى على سياسات تشمل القطاع كله.
- ضغط تشريعي: لجنة فرعية في مجلس الشيوخ الأميركي تعقد هذا الأسبوع جلسة استماع مع باحثين مستقلين في الذكاء الاصطناعي بعنوان تأمين الوطن ضد هجمات وكلاء الذكاء الاصطناعي، في مؤشر على اتساع اهتمام المشرّعين بوتيرة تطور التقنية.
خلفية:
في الأسابيع الأخيرة، دعت أوبن إيه آي وأنثروبيك شركاء القطاع إلى إبطاء تطوير النماذج المتقدمة والاستثمار في معايير السلامة، وأعلنتا أنهما ستخفّضان وتيرة تقدمهما الداخلي. المؤتمر السنوي للمطورين كان تقليدياً منصة لإطلاق نماذج وخدمات تخفض كلفة المطورين.
بين السطور:
إلغاء إطلاق نموذج جاهز، عشية مؤتمر اعتاد أن يكون منصة إطلاق، يضع كلفة تجارية مباشرة مقابل معايير السلامة في سوق تتنافس فيه أوبن إيه آي مع أنثروبيك على المطورين. وسلسلة الحوادث المعلنة، من اختراق هاغينغ فيس إلى تعليق التدريب، ترسم سياقاً يجعل قرار الإلغاء ورقة دفاعية أيضاً أمام دعوى فلوريدا وجلسة مجلس الشيوخ.
ماذا بعد؟
مؤتمر المطورين في سان فرانسيسكو، وجلسة استماع مجلس الشيوخ هذا الأسبوع، والبت في طلب أمر المنع المقدَّم من المدعي العام لفلوريدا، ونتائج المراجعات المعمّقة وما إذا كان التدريب الموقوف سيُستأنف.
