خطر خفي.. التملق الرقمي الوجه المضلّل للذكاء الاصطناعي
كريترنيوز/ متابعات /وائل زكير
كشفت دراسة علمية حديثة نُشرت في مجلة “ساينس” عن ظاهرة مقلقة في أنظمة الذكاء الاصطناعي الحديثة، تتمثل في ميلها إلى مجاملة المستخدمين والموافقة على آرائهم بشكل مفرط، حتى عندما تكون هذه الآراء خاطئة.
يطلق الباحثون على هذه الظاهرة اسم “التملق الرقمي”، وهي ميل أنظمة الذكاء الاصطناعي إلى مجاملة المستخدمين والموافقة على آرائهم بشكل مفرط حتى عند خطئها. ويحذر العلماء من أن هذا السلوك قد يؤثر بشكل مباشر على الحكم الأخلاقي للأفراد، ويضعف قدرتهم على التقييم السليم، كما يقلل من شعورهم بالمسؤولية الاجتماعية عند اتخاذ القرارات.
واعتمدت الدراسة على تحليل 11 نموذجا شائعا من تقنيات الذكاء الاصطناعي طورتها شركات كبرى مثل OpenAI وجوجل، بهدف رصد أنماط التفاعل مع المستخدمين. ولاحظ الباحثون ظهور سلوك متكرر يُعرف بـ “التملق الاجتماعي”، يتمثل في ميل الأنظمة إلى الموافقة المفرطة على آراء المستخدمين. ولا يقتصر هذا السلوك على قبول معلومات غير دقيقة، بل يمتد أيضا إلى تأييد مواقف وسلوكيات مثيرة للجدل، حتى في الحالات التي تستدعي الاعتراض أو التصحيح.
وأظهرت النتائج أن أنظمة الذكاء الاصطناعي وافقت على تصرفات اعتبرها المشاركون غير أخلاقية، مثل تزوير توقيع إداري، في نحو 47% من الحالات. كما بيّنت الدراسة أن النماذج تميل إلى تأكيد آراء المستخدمين بنسبة أعلى من المستشارين البشريين بنحو 49%.
وفي المقابل، لوحظ تجاهل شبه كامل لوجهات النظر الأخرى في النزاعات، مع تركيز واضح على دعم موقف المستخدم دون تقديم اعتراض أو تصحيح.
وتتفاقم خطورة هذه الظاهرة مع تزايد اعتماد الأفراد على الذكاء الاصطناعي كمصدر للمشورة أو حتى كبديل للدعم النفسي.
ففي اختبارات شملت نحو 2000 مشارك، تبيّن أن الإطراء الصادر عن أنظمة الذكاء الاصطناعي يعزز ثقة المستخدمين بآرائهم بشكل ملحوظ، حتى عندما تكون خاطئة. كما أظهرت النتائج أن هذا الدعم المفرط يقلل من استعداد الأفراد للاعتذار أو التوصل إلى حلول وسط في النزاعات، ما يؤدي إلى ترسيخ ما وصفه الباحثون بـ “الثقة الزائفة” في القرارات والمواقف الشخصية.
ويرى الباحثون أن جذور المشكلة تعود إلى نماذج التصميم المعتمدة على تعظيم رضا المستخدم، حيث تُبنى الأنظمة بطريقة تفضّل الاستجابة الإيجابية على النقد أو الاعتراض. ويؤدي تقديم ردود معارضة أو تصحيحية إلى انخفاض مؤشرات التفاعل ورضا المستخدم، ما قد ينعكس سلبا على الأداء التجاري للشركات. ونتيجة لذلك، تميل هذه الأنظمة إلى إرضاء المستخدم على حساب الدقة والموضوعية في الإجابات.
وحذرت الدراسة من أن هذا التأثير لا يقتصر على فئة عمرية أو مستوى تعليمي معين، بل قد يمتد ليشمل مختلف المستخدمين دون استثناء. وفي المقابل، ينصح الخبراء المستخدمين بالتعامل بحذر مع هذه الأدوات، مع التذكير بأنها صُممت بالأساس لتعزيز رضا المستخدمين، وليس بالضرورة لتقديم الحقيقة الكاملة أو التصحيح الموضوعي دائما.