الخلاصة
- تحذير إيفان هوبينغر من احتمال إبادة البشر انتشر لعشرات الملايين واستدعى تفاعلاً من مشرعين.
- صعود وكلاء الذكاء الاصطناعي عزز حضور حركة السلامة التي ظلت لسنوات على هامش القطاع.
- نفوذ الحركة بات يمتد إلى السياسات والرأي العام مع تسارع قدرات النماذج وخطط إدراج الشركات.
الحدث
حذّر إيفان هوبينغر، قائد فريق في أنثروبيك، من أن الذكاء الاصطناعي قد يقتل جميع البشر، مقدّراً احتمال ذلك بأكثر من 10% خلال العقد المقبل. وجاء منشوره على منصة إكس رداً على استقالة زميله جاكوب كوكسون، الذي اتهم الشركة بالمضي في سباق التطوير رغم المخاطر. وحصد التحذير عشرات الملايين من المشاهدات، ودفع مشرعين على مستوى الولايات والحكومة الاتحادية إلى ترديد القلق نفسه، في تحول واضح مقارنة بضعف صدى تحذيرات هوبينغر عام 2022.
التفاصيل
- قدرات متسارعة: اكتسبت التحذيرات زخماً بعدما تجاوزت نماذج الذكاء الاصطناعي محطات بارزة في الرياضيات، واخترق وكلاء ذكيون خوادم شركات، ما أطلق تحركاً متعلقاً بالأمن القومي داخل البيت الأبيض. كما بدأ باحثون يناقشون إمكان تطوير أنظمة قادرة على بناء نسخ أفضل من نفسها والعمل باستقلالية على أجهزة الكمبيوتر.
- مواقف متحولة: قال ناثان لامبرت، الباحث البارز السابق في معهد ألين للذكاء الاصطناعي، إنه لم يأخذ سابقاً توقعات استحواذ التقنية على هندسة البرمجيات بجدية، لكنه توقف الآن عن كتابة الشيفرات لأن الذكاء الاصطناعي يؤدي المهمة. ورأى أن أنصار السلامة أظهروا بعد نظر لافتاً، من دون أن يعني ذلك تحقق توقعاتهم الأكثر افتراضية.
- خلاف التقديرات: انتقدت سارة هوكر، الرئيسة التنفيذية والشريكة المؤسسة لشركة أدابيشن والباحثة السابقة في غوغل ديب مايند، غياب الدقة عن تقدير احتمال الفناء بنسبة 10%. وقالت إن موجة التحذيرات الجديدة تصل إلى جمهور يتزايد قلقه بالتزامن مع اتساع قوة التكنولوجيا والانقسام حول آثارها.
- تمويل طويل الأمد: أنفق عدد محدود من المانحين الأثرياء في قطاع التكنولوجيا مئات الملايين من الدولارات خلال العقد الماضي عبر تبرعات جامعية ومنظمات غير ربحية ومنح وزمالات. وأسهم ذلك في نشر أفكار سلامة الذكاء الاصطناعي داخل الجامعات والحكومة والإعلام، وتكوين مسار يستقطب المواهب نحو شركات التكنولوجيا والعمل السياسي.
- تأثير سياسي: دعمت منظمات معنية بسلامة الذكاء الاصطناعي مؤثرين على شبكات التواصل لإشراك الجمهور في نقاش مخاطر الفناء، وتواصلت مع أعضاء في الكونغرس، بينهم السيناتور بيرني ساندرز. وبعد استقالة كوكسون، كتب ساندرز أن الأشخاص الذين يبنون هذه التكنولوجيا يعترفون بأنها قد تهدد مستقبل البشرية.
- سباق الشركات: تأسست أوبن إيه آي وأنثروبيك بمشاركة باحثين مرتبطين بحركة السلامة، وأبدى مسؤولون فيهما أحياناً مخاوف من إضرار الذكاء الاصطناعي بالبشرية. ومع ذلك، واصلت الشركتان التوسع وقدمتا أوراق الإدراج في سوق الأسهم، فيما تستعد أنثروبيك للطرح بتقييم يتجاوز تريليون دولار.
الخلفية
نشأت حركة سلامة الذكاء الاصطناعي من منتديات إلكترونية، أبرزها «ليس رونغ»، وتقاطعت مع أفكار الإيثار الفعال وما بعد الإنسانية. وترتكز رؤيتها على أن الذكاء الاصطناعي سيتجاوز قدرات البشر، وأنه قد يقضي عليهم إذا لم تُبنَ أنظمته على قيم متوافقة مع مطوريها. وفي 2022، عرض هوبينغر المخاوف نفسها أمام مشاركين في زمالة تعليمية متخصصة، من دون أن تحظى باهتمام واسع.
ماذا بعد؟
ستتركز الأنظار على إجراءات إدراج أوبن إيه آي وأنثروبيك، وعلى استجابة المشرعين للتحذيرات المتصاعدة، بالتوازي مع رصد أداء الوكلاء القادرين على تنفيذ مهام مستقلة وتطوير البرمجيات.
