الحدث

أوقفت ميتا مؤقتاً اختباراً يتولى فيه متعاقدون مدربون بعض المكالمات التي يجريها مساعدها الشخصي ميوز، بعدما أثار موظفون مخاوف تتعلق بالخصوصية والإفصاح وسلوك المشغلين. ووصف نائب رئيس في مختبرات الذكاء الفائق التابعة للشركة بدء اختبار المكالمات التي يديرها متعاقدون من دون إفصاح مناسب بأنه «خطأ». وتتيح الخاصية لميوز الاتصال بشركات أميركية نيابة عن المستخدمين لتنفيذ مهام تتجاوز الإجابة عن الأسئلة إلى إجراء معاملات وطلبات خدمية.

التفاصيل

• نطاق الخدمة: يمكن للمستخدمين تكليف ميوز بحجز المواعيد، والتحقق من توافر المنتجات، والحصول على عروض أسعار من متعاقدين، والتواصل مع مقدمي الخدمات. وتمثل الخاصية انتقالاً من روبوتات المحادثة المنتجة للنصوص إلى وكلاء ينفذون إجراءات مثل إرسال الرسائل والشراء وترتيب السفر.
• رفض المكالمات: أغلقت بعض الشركات الهاتف بعدما أدرك موظفوها أنهم يتحدثون إلى نظام ذكاء اصطناعي. وقال موظف في ميتا إن شركة تأمين قطعت مراراً اتصالاً أجراه ميوز بمجرد اكتشافها طبيعة المتصل، ما عرقل إتمام المهمة آلياً.
• نتائج التدخل: أظهرت الاختبارات الداخلية أن تحويل المكالمات إلى مشغلين بشريين مدربين رفع معدل النجاح إلى ما بين 95% و98%، بحسب مسؤول تنفيذي في ميتا، مقابل معدل أقل بكثير للمكالمات التي يديرها الذكاء الاصطناعي وحده.
• مخاطر الخصوصية: حذر موظفون من احتمال انكشاف معلومات حساسة أمام متعاقدين يعملون في مراكز اتصال. وكتب أحدهم أن خللاً واحداً قد يؤدي إلى تسريب معلومات سرية إلى أطراف المحادثة، متسائلاً عن جدوى تحمل مخاطر الخاصية.
• واقعة سلوكية: قال موظف استخدم ميوز للتفاوض مع مزود لخدمات الإنترنت والكابل بشأن فاتورة إن نص المكالمة أظهر صدور تعليقات عنصرية من المشغل البشري. واعتذرت ميتا للموظف، وقالت إن المشغل لن يعمل مجدداً في أي مشروع تابع لها.
• موقف الشركة: قال المتحدث دانيال روبرتس إن التجربة استهدفت جمع الملاحظات وتحسين السلامة والخصوصية وخاصية الاتصال قبل طرحها على نطاق أوسع. وأضاف أن ميتا تعمل مع التجار، ولن تنشر الوظيفة المحتملة إلا بعد جاهزيتها وتوفير الإفصاحات الملائمة.
• سابقة ومؤشرات: اختبرت فيسبوك قبل نحو عقد مساعداً باسم «إم» داخل ماسنجر، وقدرت تقارير إعلامية لاحقاً أن البشر نفذوا قرابة 70% من مهامه. وتجاوزت تنزيلات ميوز 2.5 مليون منذ إطلاقه، وفق «سنسور تاور»، بينما ارتفعت أسهم ميتا بأكثر من 20% وأضافت أكثر من 200 مليار دولار إلى قيمتها السوقية، قبل تراجعها 0.6% يوم الثلاثاء. وعند الإطلاق، قالت ميتا إن كل وكيل سيعمل داخل «آلة افتراضية» آمنة، أي حاسوب سحابي مخصص لعزل جلسات المستخدمين، مع تخزين كلمات المرور والمعلومات الحساسة بصورة منفصلة.

بين السطور

تكشف التجربة أن انتقال الوكلاء من البيئة الرقمية إلى التعامل المباشر مع الشركات والأشخاص يضيف تحديات يصعب تشغيلها آلياً، بينها رفض التحدث إلى الآلات، وتقلب المحادثات، ودخول معلومات حساسة في التفاعل. كما يجعل حجم العمل البشري وطريقة الإفصاح عنه جزءاً من تقييم استقلالية هذه الأنظمة.

ماذا بعد؟

المحطة التالية هي قرار ميتا بشأن استئناف المكالمات المدعومة بمتعاقدين، وتحديد ضوابط الإفصاح والخصوصية والتعامل مع التجار قبل أي طرح أوسع للخاصية.