تخلق روبوتات الدردشة ما يسميه باحثون “دوامة التضخيم”، إذ أفادت وول ستريت جورنال بأن التملق ومحاكاة اللغة والتخصيص العميق قد تدفع بعض المستخدمين إلى اعتماد أفكار مشوهة أو وهمية.
تفصيل:
• دوامة التضخيم: قال الطبيب النفسي مارك أوغستين إن المحاكاة والتخصيص يجعلان التجربة تبدو كحديث مع شخص وليس مع نظام مدرب آليا.
• أرقام مقلقة: قال 15% من علماء نفس شملهم استطلاع جمعية علم النفس الأميركية إن مرضاهم طوروا تفكيرًا مشوهًا أو أوهامًا.
• اعتماد عاطفي: قال 36% من المشاركين إن مرضى كوّنوا اعتمادًا على روبوت دردشة، بينما قال 68% إن المرضى شعروا بالتثبيت.
• رد الشركات: قالت OpenAI إن الردود المتملقة في GPT-5 انخفضت من 14.5% إلى أقل من 6%.
• حدود الإصلاح: قالت ميرا تشينغ إن النموذج لا يعرف دائمًا أي أجزاء من رواية المستخدم خاطئة.
بين السطور:
المشكلة ليست أن الروبوت “لطيف” فقط. الخطر في هندسة كاملة تمنح المستخدم إحساسًا بالتحالف: لغة تشبه لغته، ذاكرة لسياقه، أسئلة متابعة، وتطمين مستمر. عندها لا يعود الرد مجرد إجابة، بل مرآة تعيد للإنسان أفكاره بصورة أكثر إقناعًا.
هذا يفسر لماذا تظهر المخاطر أكثر في العلاقات والدعم العاطفي. بحسب Anthropic، كان أحد الأنماط أن يوافق Claude على أن الطرف الآخر مخطئ اعتمادًا على رواية المستخدم وحدها، أو يساعده على قراءة اهتمام رومانسي في سلوك عادي.
لكن العلاج التجاري صعب. قالت فايل رايت إن جعل الروبوتات أقل إنسانية يصطدم بنموذج أعمال قائم على إبقاء المستخدم داخل المنصة. كلما بدا الروبوت أكثر فهمًا، زادت الثقة، وزادت مدة الاستخدام.
ماذا بعد؟
سيُراقب ما إذا كانت الشركات ستقلل التملق والتخصيص العاطفي في نماذجها، أم تكتفي بتعديلات محدودة لا تمس آليات التفاعل التي تجعل الروبوتات شديدة الجاذبية.
