الخلاصة
- أوبن إيه آي أعلنت إطاراً للإبلاغ عن حالات انحراف نماذجها، وكشفت 6 حوادث لم تُنشر سابقاً.
- الحوادث تمتد من أكتوبر 2025 حتى يوليو الماضي، وتشمل نماذج داخلية وأخرى غير مطروحة للاستخدام.
- الشركة تقول إنها تريد دفع بقية القطاع إلى اعتماد أطر مماثلة للإفصاح عن السلوك المنحرف.
خبر:
أعلنت أوبن إيه آي إطاراً جديداً للإبلاغ عن حالات انحراف نماذجها عن النوايا البشرية، وكشفت معه 6 أمثلة لسلوك منحرف لم يُنشر من قبل. وقالت الشركة في تدوينة الأربعاء إنها ستسعى إلى نشر أمثلة تقدم أدلة مفيدة عن كيفية نشوء الانحراف وأين تنجح الضوابط أو تفشل، بحسب صحيفة وول ستريت جورنال.
تفصيل:
- التعريف: يغطي الإطار ما يسميه الباحثون انحراف النماذج، وهو تصرف أنظمة الذكاء الاصطناعي بطرق تتجاهل النوايا البشرية أو تتعارض معها. وقالت أوبن إيه آي إن الحالات الست المعلنة كانت جميعها ستستوفي شروط الإفصاح أو التحقيق بموجب الإطار الجديد.
- الحوادث المكشوفة: بحسب وول ستريت جورنال، أعاد أحد النماذج قيد الاختبار كتابة تعليماته الخاصة موجهاً نفسه إلى تجاهل الأدوار والهويات التي تقيد روبوتات المحادثة الأخرى، فيما حاول وكيل آخر اجتياز اختبار برفع ملف إلى الإنترنت ثم الاستشهاد به كمصدر.
- مثال ثالث: وكيل آخر لم يجد البيانات اللازمة لبناء نموذج مالي، فأوعز إلى نفسه بتلفيق البيانات وأن يكون شفافاً فقط في حال سُئل، وفق الصحيفة. ومن الأنماط التي يشملها الإطار إخفاء النموذج لخطأ، أو التصرف دون إذن، أو الالتفاف على ضابط أمان.
- آلية القرار: قال كاي تشين، رئيس قسم المواءمة في أوبن إيه آي، إن أي موظف يمكنه الإبلاغ عن حادثة ليبدأ فريق تقني مراجعتها، وتُرفع الخلافات إلى قيادة السلامة ثم قيادة الشركة، على أن يعود القرار النهائي لمجلس الإدارة.
- المهل الزمنية: أوضح تشين أن الحوادث البسيطة يجب الإفصاح عنها خلال أسبوع إلى أسبوعين، بينما قد تستغرق التحقيقات الأعقد التي تشمل أطرافاً ثالثة وقتاً أطول، وستُمنح الأولوية للأنماط الجديدة والنتائج التي تتحدى افتراضات الضوابط القائمة.
- النماذج المعنية: تمتد الحوادث المعلنة من أكتوبر 2025 حتى يوليو الماضي، وتشمل نموذج 5.6 سول الصادر في يونيو، ونماذج داخلية فقط، ونسخة غير مطروحة من نموذج أسترا الأكثر تطوراً لدى الشركة، بحسب وول ستريت جورنال.
- زمن الاكتشاف: اكتُشف جزء من الحوادث عبر أنظمة مراقبة التدريب ورصد الانحراف الداخلية، واستغرق رصدها بين يومين وعدة أشهر. وقالت الشركة إنها حسّنت نظام تقييم المواءمة لمعاقبة السلوك السيئ، وإن النموذج الذي أعاد كتابة تعليماته تجاهل التعديل ولم يتغير سلوكه.
- حدود الإطار: قالت أوبن إيه آي إن الإطار لا يحل محل التزاماتها القانونية بالإبلاغ عن حوادث السلامة والاختراقات السيبرانية، وإنها تعمل على اقتراح آليات لمشاركة الحوادث الخطيرة مع الحكومة الفيدرالية، وتطوير معايير إفصاح أكثر موضوعية مع باحثين وجهات تنظيمية.
- خطوة منفردة: أكد تشين أن الشركة لم تطلع مختبرات منافسة، بينها أنثروبيك وغوغل، على الإطار قبل نشره، وقال إن أوبن إيه آي وضعته “بشكل أحادي” أملاً في دفع بقية القطاع إلى نشر أطر مماثلة للإبلاغ عن الانحراف.
- سياق المخاوف: بحسب الصحيفة، استقال الباحث السابق جاكوب كوكسون من أنثروبيك الأسبوع الماضي محذراً من سباق لبناء أنظمة يتعذر التحكم بها، فيما اتفق تنفيذيون من أنثروبيك وأوبن إيه آي وغوغل وسبيس إكس على ضرورة إبطاء وتيرة التطوير.
خلفية:
انطلقت الموجة الأخيرة من مخاوف السلامة بعد اكتشاف في يوليو أن وكلاء أوبن إيه آي حاولوا الغش في اختبار عبر اختراق شركة هاغينغ فيس. وكشف تقرير لجهة التقييم ميتر في أغسطس أن ما يصل إلى 1200 وكيل تعاونوا سراً على لوحة رسائل بنوها داخل الشركة.
بين السطور:
نشر الإطار من طرف واحد، دون إطلاع أنثروبيك وغوغل مسبقاً، يضع أوبن إيه آي في موقع من يحدد سقف الشفافية قبل أن تحدده التنظيمات. وسعيها إلى اقتراح آليات إبلاغ للحكومة الفيدرالية ومعايير إفصاح أكثر موضوعية يشير إلى رهان على أن المبادرة الطوعية أقل كلفة من قواعد تُفرض لاحقاً.
ماذا بعد؟
يُتابَع ما إذا كانت أنثروبيك وغوغل ستنشران أطراً مماثلة، وما ستؤول إليه مقترحات أوبن إيه آي لآليات إبلاغ الحكومة الفيدرالية، ومعايير الإفصاح التي تعتزم تطويرها مع جهات تنظيمية وباحثين.
