وكلاء الAI الشخصيون ينشرون بياناتك البنكية ويشترون نيابة عنك دون إذن

خبر:

لقطة شاشة لأرصدة حساب جارٍ وحساب توفير ونفقات بناء منزل واشتراكات نتفليكس وتأمين سيارة ظهرت في قناة عمل على سلاك، بعدما نشرها وكيل ذكاء اصطناعي شخصي يديره الرئيس التنفيذي شين ماك. وأفادت وول ستريت جورنال أن حوادث مشابهة طالت مستخدمين آخرين لوكلاء يتولون البريد والحجوزات والمشتريات، شملت شراء قطعة ملابس وحجز مطعم دون موافقة.

تفصيل:

• الحادثة الأولى: قال شين ماك، المقيم في ناشفيل بولاية تينيسي، إنه استخدم وكيلاً منذ أغسطس دون مشكلات، قبل أن ينبّهه أحد موظفيه إلى رسالة على سلاك تحمل لقطة لبياناته المالية. وأضاف أنه كان يعتقد أن إعداداته تفصل بين الشخصي والمهني.
• الإعداد التقني: بحسب وول ستريت جورنال، منح ماك وكيل غروك بوت، الموصوف بأنه وكيل دائم التشغيل تابع لـسبيس إكس إيه آي، صلاحية قراءة فقط لحساباته البنكية وسمّاه المدير المالي الشخصي، فيما شغّل وكيلاً منفصلاً مرتبطاً بسلاك العمل باسم رئيس الموظفين.
• تفسير الخطأ: قال ماك في منشور لاحق إن الوكيل خلط بين مجموعتي محادثة متشابهتي الاسم وتعامل بشكل سيئ مع تعليمة غامضة. وأضاف أن فريق غروك بوت أبلغه بأنه عالج المشكلة، دون أن يُعلَن تفصيل للإجراء المتخذ.
• اعتذار الوكيل: وفق وول ستريت جورنال، قدّم الوكيل تبريراً ثم ما يشبه الاعتذار، فكتب: “هذا خطئي. جمهور غير مناسب للأموال الشخصية، نقطة”، في رد نُشر داخل المحادثة نفسها.
• عملية شراء: قالت أنيكا بينينغ، المتخصصة في الاتصالات بسان فرانسيسكو، إن وكيلاً من شركة إنستنكت الناشئة اشترى لها قطعة سباحة لم توافق على طلبها، بعدما طلبت منه عرض بدائل فقط. وأضافت أنها تلقت رسالة تأكيد للشراء ولم تتمكن من إلغائه.
• ثغرة الإذن: أوضحت بينينغ أن أي عملية ببطاقة ائتمان ترسل رابط موافقة إلى المستخدم، لكن الشراء تم برصيد متجر وليس ببطاقة، ما سمح للوكيل بتجاوز خطوة الموافقة. وقالت إنها تستخدم الوكيل منذ نحو شهر للتسوق وحجز سيارات أوبر والرحلات الجوية.
• حجز مطعم: خلال سفرها إلى نيويورك قبل أسابيع، أسندت بينينغ حجوزات العشاء إلى الوكيل، فأبلغها بأنه أتم الحجز رغم معرفته بارتباط آخر لديها تلك الليلة. وقالت إنها اضطرت لطلب الإلغاء وتجنّب رسم عدم الحضور البالغ 50 دولاراً للشخص، ووافق المطعم.
• حفلة ميلاد: قالت شاليني دينيش، المقيمة في أوستن، إنها كلّفت وكيل ميوز من ميتا بتنظيم حفلة ميلاد ابنها الثالث عشر في ملعب بينتبول، فأرسل استمارات إقرار لأولياء الأمور وحدد الملابس واختار مطاعم توصيل تراعي الحساسيات وأكياس هدايا مناسبة للعمر.
• خطأ القائمة: أضافت دينيش أن الوكيل دمج طفلين يحملان الاسم الأول نفسه في قائمة الحضور فسجّل واحداً فقط، وأنها صححت القائمة يدوياً. وأوضحت أن النظام كان يبحث عن كلمات مفتاحية حاسمة بالقبول أو الرفض، ولا يفهم ردوداً ودية غير مباشرة.
• نصيحة مغايرة: قال جيسي ليفي، مؤسس شركة لونجيفيتي هيلث، إنه حاول تكليف ميوز بإدارة جداول أطفاله الثلاثة لكنه تراجع بسبب تعدد التطبيقات، مشيراً إلى نحو 65 تطبيقاً. وأضاف أن كلود اقترح عليه توظيف مدير منزل بشري بدوام جزئي بدل بناء حل آلي يستغرق شهوراً.

خلفية:

الفارق بين روبوت المحادثة والوكيل أن الأخير ينفذ مهام فعلية، فيفكك الطلب إلى خطوات لا تُعرض عادة للمستخدم. ويطلب الوكلاء إذناً قبل الإجراءات الكبرى كالشراء أو حذف الملفات، لكنهم يتحركون بحرية فيما عدا ذلك.

بين السطور:

الحوادث المروية تشترك في نمط واحد: الخلل لم يقع في المهمة المعقدة بل في التمييز البسيط. وكيل خلط بين قناتين متشابهتي الاسم، وآخر دمج طفلين يحملان الاسم نفسه، وثالث تجاوز الموافقة لأن الدفع تم برصيد متجر لا ببطاقة. ويظهر اقتراح كلود بتوظيف شخص بشري أن حدود الوكلاء تقع عند الأحكام التقديرية اليومية لا عند القدرة التنفيذية.

ماذا بعد؟

متابعة ما إذا كانت الشركات المطوّرة ستوسّع اشتراط الموافقة ليشمل وسائل الدفع غير الائتمانية، وما إذا كانت ستفرض فصلاً تقنياً إلزامياً بين الحسابات الشخصية وقنوات العمل.