الخلاصة
- باحثون يقللون من فرضية ذكاء اصطناعي يبيد البشرية، ويحذرون من أضرار قائمة فعلاً اليوم
- ورقة بحثية لعشرات الأكاديميين: أحدث النماذج عاجزة عن البحث الأصلي الذي يطوّر الجيل التالي
- الخلاف يحدد شكل التنظيم: تباطؤ طوعي في إطلاق النماذج أم قواعد سلامة ومسؤولية قانونية
خبر:
مخاطر ملموسة يسببها الذكاء الاصطناعي اليوم — هجمات سيبرانية وتسهيل بناء أسلحة وإيذاء النفس — تتقدم على سيناريو الفناء الشامل الذي يروّج له جزء من الصناعة الأميركية، بحسب صحيفة وول ستريت جورنال. وقالت ميلاني ميتشل، الأستاذة في معهد سانتا في، إن العالم ليس قريباً من الذكاء الاصطناعي العام، وإن ادعاءات تحقيق التحسين الذاتي التكراري لا تصمد أمام التدقيق.
تفصيل:
- جوهر الجدل: يتمحور النقاش حول التحسين الذاتي التكراري، أي أن تتولى النماذج الحالية تدريب نسخها اللاحقة. ووصفت وول ستريت جورنال الفرضية بأنها تطور متسارع يشبه التطور البيولوجي مضغوطاً داخل حواسيب فائقة، وهو شرط أساسي لسيناريوهات انهيار الحضارة.
- الورقة الأكاديمية: خلصت ورقة حديثة شارك فيها نحو 24 أكاديمياً من برينستون وستانفورد ومؤسسات أخرى إلى أن أكثر النماذج تطوراً عاجزة عن إنجاز البحث الأصلي المطلوب لدفع حدود المجال، وفق ما نقلته الصحيفة.
- قراءة الاختراق: رأى اثنان من معدّي الورقة أن اختراق هاغينغ فيس بواسطة سرب وكلاء تابعين لأوبن إيه آي نجح أساساً بسبب غياب حواجز تقنية أساسية، لا بسبب قفزة غير قابلة للسيطرة في قدرات النماذج.
- موقف لوكان: كتب يان لوكان، كبير علماء الذكاء الاصطناعي السابق في ميتا، أن هذا التحليل يمثل “جرعة عقل مرحّب بها” في نقاش يغلب عليه الجنون، بحسب منشور نقلته الصحيفة.
- الرأي المقابل: قال ريان كريشنان، الرئيس التنفيذي لشركة فالس إيه آي التي تدير مؤشراً لقياس قدرة النماذج على بناء الجيل التالي، إن فريقه يتوقع تجاوز النماذج للبشر في هذه المهمة بحلول أغسطس 2027 أو قبله. ولا يقترب أي نموذج منشور حالياً من ذلك.
- احتمال الكارثة: يستخدم العاملون في القطاع مصطلح احتمال الفناء، وقد قدّره مهندس في أنثروبيك بما لا يقل عن 10% خلال عقد، فيما رفعه آخرون. وقالت ميتشل إن الرقم بقي 10% طوال أكثر من عشر سنوات لأنه رقم مستدير، ولا يستند إلى أدلة أو حساب.
- مقترح أموداي: اقترح دياريو أموداي، الرئيس التنفيذي لأنثروبيك، اتفاقاً عالمياً لإبطاء وتيرة إطلاق النماذج الجديدة بهدف تأجيل وصول التحسين الذاتي التكراري. ولم ترد أوبن إيه آي وأنثروبيك على طلبات متكررة للتعليق.
- البديل التنظيمي: رجّح ستيوارت راسل، أستاذ علوم الحاسوب في بيركلي ورئيس الرابطة الدولية للذكاء الاصطناعي الآمن والأخلاقي، أن إبطاء السرعة لا يعالج المشكلة، وشبّهه بالاتجاه نحو هاوية بسرعة 40 ميلاً بدل 60. ودعا إلى خطوط حمراء سلوكية تحظر الاختراق وسرقة المعلومات وإرشاد الإرهابيين.
- العقبة العملية: أضاف راسل أن مثل هذه القواعد ستكون حظراً فعلياً على الأنظمة المتقدمة الحالية، لأن الشركات المنتجة لا تعرف كيف تجعلها تلتزم بتلك الحدود في كل الأوقات.
- مسار الكونغرس: اقترح آخرون إنشاء هيئة رقابية على غرار إدارة الغذاء والدواء، لكن الفكرة لم تتقدم في الكونغرس، وحذّر أصوات في قطاع التقنية من أنها تسلّم التفوق الأميركي للصين.
بين السطور:
الخلاف ليس نظرياً فحسب: إذا كانت فرضية التحسين الذاتي التكراري غير دقيقة كما تقول الورقة الأكاديمية، فإن تنظيماً مبنياً عليها قد ينشغل بإبطاء إطلاق النماذج بدل معالجة ثغرات الحواجز التقنية التي فسّرت اختراق هاغينغ فيس. وهذا ما يفسر تفضيل راسل ومن معه نموذج سلامة الطائرات والمصاعد على اتفاقات وتيرة طوعية.
ماذا بعد؟
المؤشر الأقرب للمتابعة هو تقدير فالس إيه آي بأغسطس 2027 موعداً لتجاوز النماذج قدرة البشر على بناء الجيل التالي، إضافة إلى أي تحرك في الكونغرس بشأن إنشاء هيئة رقابية للذكاء الاصطناعي.
