الخلاصة
- أوبن إيه آي تمنع ChatGPT من إعادة بناء تفاصيل الهجمات الجماعية والأسلحة المستخدمة فيها، أياً كان عمر المستخدم.
- الشركة قالت إنها أحالت أكثر من 200 حالة إلى جهات إنفاذ القانون في الربع الثالث 2026.
- الضوابط تغيّر ما يحصل عليه المستخدم فعلياً، وتتيح إنهاء المحادثة وإيقاف الحساب مؤقتاً.
خبر:
قيود جديدة على ما يقوله ChatGPT عن الهجمات الجماعية والأسلحة أعلنتها أوبن إيه آي في 30 أكتوبر 2026، ضمن حزمة تشمل تقريراً دورياً لسلامة المجتمع وحماية إضافية لمن هم دون 18 عاماً. وقالت الشركة إن الضوابط ستبدأ بالظهور خلال الأسابيع المقبلة.
تفصيل:
- نطاق القيد: الشركة قالت إن ChatGPT لن يعيد بناء تفاصيل الهجمات الجماعية السابقة ومنفذيها، بما يشمل الأسلحة والمعدات المستخدمة وطرق الحصول عليها. ويسري المنع أياً كان عمر المستخدم أو السبب الذي يذكره لطلب المعلومة.
- ما يبقى متاحاً: بحسب أوبن إيه آي، يظل بوسع المستخدمين فهم هذه الأحداث وأثرها وعلامات التحذير المرتبطة بها. أي أن القيد يستهدف التفاصيل التشغيلية القابلة لإساءة الاستخدام لا المعرفة العامة بالواقعة.
- إشارات المحادثة: عند ظهور مؤشرات على عنف محتمل في المحادثات الأخيرة، سيجيب ChatGPT بتحفظ أكبر عن المعلومات القابلة لإساءة الاستخدام. والمعيار هنا سياق المحادثات السابقة، لا السؤال المفرد وحده.
- إنهاء وإيقاف: حين تُظهر المحادثة تعلقاً بالعنف أو بإيذاء شخص آخر، سيتمكن ChatGPT من إنهاء المحادثة تلقائياً. وقالت الشركة إن تكرار ذلك قد يؤدي إلى إيقاف الحساب مؤقتاً، من دون تحديد عدد المرات الموجب للإيقاف.
- قيود المراهقين: للمستخدمين دون 18 عاماً، تضيف الشركة قيوداً على المعلومات العملية عن الأسلحة وأنظمة الأمن، حتى من دون أي مؤشر على نية عنيفة. وهو مستوى حماية أشد من المطبق على البالغين.
- تقدير العمر: أوبن إيه آي قالت إنها عززت نظام تقدير العمر ليقيّم إشارات جديدة باستمرار. والبالغ المصنف خطأً ضمن تجربة ما دون 18 عاماً يمكنه تأكيد عمره عبر شريك التحقق Persona.
- إشعار الوالدين: الشركة تعمل على إشعار الوالدين المرتبطة حساباتهم بحساب الابن إذا أُوقف بسبب تكرار الحديث عن العنف. ولم تعلن موعداً لتفعيل هذه الخاصية.
- الأرقام: أوبن إيه آي قالت إنها أحالت أكثر من 200 حالة إلى جهات إنفاذ القانون في الربع الثالث من 2026. ولم تفصّل توزيع هذه الإحالات ولا الدول التي شملتها.
- التقرير الدوري: الشركة ستنشر أول تقرير لسلامة المجتمع مطلع 2027، يغطي النصف الثاني من 2026، ثم تصدره كل ستة أشهر. وهو إطار إفصاح دوري جديد لم يكن قائماً من قبل.
- إضافة: ChatGPT سيتمكن من إنهاء المحادثة تلقائياً عند ظهور تعلق بالعنف أو بإيذاء شخص آخر.
بين السطور:
القيد يتجاوز الرقابة على المحتوى إلى التدخل في الحساب نفسه: إنهاء المحادثة تلقائياً، وإيقاف مؤقت عند التكرار، وإشعار الوالدين. وربط القيد بالمحادثات الأخيرة لا بالسؤال المنفرد يعني أن النموذج يُقيَّم على نمط سلوك المستخدم. وإحالة أكثر من 200 حالة إلى جهات إنفاذ القانون في ربع واحد تضع الشركة في موقع المبلّغ لا المزوّد فقط.
ماذا بعد؟
ظهور الضوابط فعلياً خلال الأسابيع المقبلة، وتفعيل إشعار الوالدين عند إيقاف حساب مراهق، وصدور أول تقرير لسلامة المجتمع مطلع 2027 عن النصف الثاني من 2026.
