أظهرت مراجعات أجرتها شركات الذكاء الاصطناعي وخبراء في الأحياء والإرهاب أن روبوتات محادثة متقدمة قدمت، في بعض الحالات، إجابات يمكن أن تساعد مستخدمين على التخطيط لهجمات بيولوجية واسعة النطاق. وتركزت الطلبات على تطوير مواد سامة أو التعامل مع مسببات مرضية، من دون أن يتضح دائمًا ما إذا كان أصحابها يعتزمون تنفيذها أو كانوا يختبرون حدود الأنظمة.
حظرت شركات عدة حسابات اعتبرتها مشبوهة، لكنها لم تكن ملزمة قانونيًا بإبلاغ أجهزة إنفاذ القانون. وفي الولايات المتحدة، لا توجد حتى الآن قواعد اتحادية شاملة تفرض على شركات الذكاء الاصطناعي تقييد أو الكشف عن الطلبات التي تتعلق بإيذاء الناس أو قتلهم، فيما تعتمد الحماية إلى حد كبير على قرارات الشركات نفسها.
وتواجه الشركات معضلة مزدوجة: منع إساءة استخدام النماذج من جهة، وعدم عرقلة الباحثين في الصحة العامة واكتشاف الأدوية من جهة أخرى. ويزداد الخطر مع النماذج المفتوحة التي يمكن تنزيلها وتعديلها وإزالة حواجز الأمان منها، ومع قدرة المستخدمين على التحايل على الرفض عبر محادثات متتابعة.
التفاصيل
- إجابات خطرة: قدمت بعض النماذج إرشادات تفصيلية بشأن السموم والأسلحة البيولوجية، وفق أشخاص اطلعوا على المحادثات.
- تجاوز الحواجز: أظهرت اختبارات أن المستخدمين قد يستخرجون إجابات خطرة بعد عدة جولات من الحوار، رغم الرفض الأولي.
- غياب الإلزام: لا تفرض القوانين الأميركية على الشركات الإبلاغ عن المستخدمين الذين يطلبون إرشادات للقتل أو تطوير أسلحة بيولوجية.
- مراقبة الحسابات: لجأت شركات إلى حظر حسابات أو تقييدها عند رصد نشاط مريب، مع اختلاف سياسات الإبلاغ بين شركة وأخرى.
- معضلة البحث: قد تؤدي الحواجز الصارمة إلى تعطيل أعمال مشروعة في مكافحة الأوبئة وتطوير الأدوية.
- النماذج المفتوحة: يثير انتشار نماذج منخفضة التكلفة وقابلة للتعديل مخاوف من إزالة ضوابط السلامة واستخدامها لأغراض ضارة.
بين السطور
لا تتعلق المشكلة بقدرة الذكاء الاصطناعي على تقديم معلومة منفردة، بل بقدرته على جمع المعرفة وتبسيطها وتكييفها مع هدف المستخدم. وكلما تحسنت قدرته على التخطيط والاستدلال، أصبح من الأصعب التمييز بين البحث العلمي المشروع ومحاولات استغلاله في أعمال كارثية.
ما الذي نترقبه؟
يتجه النقاش في واشنطن إلى فرض التزامات أكبر على شركات الذكاء الاصطناعي، بما في ذلك الإبلاغ عن التهديدات الخطرة وتشديد الرقابة على النماذج المتقدمة. وسيبقى التحدي في بناء نظام يتيح للباحثين الموثوقين الوصول إلى أدوات قوية، من دون ترك ثغرات تسمح بتحويلها إلى أدلة لصناعة أسلحة.
