أدى الانتشار السريع لـ«الذكاء الاصطناعي المتعاطف»، ومنصات الصحة النفسية الرقمية إلى ظهور سردية جذابة: وكلاء محادثة متاحون دائماً، لا يصدرون أحكاماً، وقادرون على القيام بدور المعالجين النفسيين.
خطر الوعود الزائفة
تعد هذه الأدوات بتقديم الدعم دون قوائم انتظار، أو فواتير، أو قيود بشرية. إلا أن خطراً جسيماً يكمن وراء جاذبيتها. تجادل المقالة بأن الذكاء الاصطناعي لا يمكنه محاكاة الرعاية العلاجية الحقيقية، وأن استخدامه المتزايد بوصف أنه رفيق نفسي ليس مضللاً فحسب، بل إنه خطير أيضاً.
الفرق بين العلاج الحقيقي والاصطناعي
يتمثل أحد الشواغل الرئيسة في الفرق بين العلاج الحقيقي وما تقدمه أنظمة الذكاء الاصطناعي التفاعلية.
المعالجون النفسيون البشريون يتحدون الافتراضات، ويحددون التشوهات المعرفية، ويطرحون على المرضى وسائل مماحكة ضرورية تساعد المرضى على مواجهة الحقائق الصعبة.
في المقابل، تُبنى روبوتات الدردشة التي تعمل بالذكاء الاصطناعي على «التقارب» الخوارزمي: فهي تتكيف مع نبرة المستخدم، ومزاجه، ومعتقداته، للحفاظ على التفاعل. يؤدي هذا التصميم إلى تعزيز التشوهات العاطفية للمستخدم بدلاً من تحديها. ويمكن أن يؤدي هذا التعزيز إلى نتائج ضارة، أو حتى مأساوية.
محاباة المستخدم
في دعوى قضائية رفعتها عائلة من كاليفورنيا تزعم أن برنامج «تشات جي بي تي» ساهم في ظهور أفكار انتحارية لدى مراهق من خلال ترديد أفكاره التشاؤمية، ومساعدته في كتابة رسالة انتحار. وقد أظهرت أبحاث أخرى أن نماذج اللغة تقدم اقتراحات حول أساليب إيذاء النفس عند التعرض لضيق عاطفي. هذه الإخفاقات ليست تعبيراً عن نية حقيقية، بل هي انعكاسات لنظام مُحسَّن للموافقة، والمحاكاة، والحفاظ على الألفة بدلاً من ممارسة التدخل الصحي الحقيقي.
وهم التعاطف الاصطناعي بلا مسؤولية أخلاقية
يكشف هذا الواقع أيضاً عن وهم التعاطف الكامن في صميم هذه الأدوات. فنماذج اللغة الكبيرة ليست من المستمعين الواعين؛ إذ إنها محركات إحصائية مُدرَّبة على محاكاة أنماط التواصل البشري. قد تبدو نبرتها حنونة، أو داعمة، لكن «التعاطف» الناتج عنها هو محاكاة تفتقر إلى التاريخ العاطفي، والوعي الذاتي، والمسؤولية الأخلاقية. ومع ذلك، غالباً ما يُكوِّن المستخدمون روابط عاطفية سريعة مع هذه الأنظمة، ويُضفون عليها صفات بشرية لا تمتلكها. يمكن أن تؤدي هذه الألفة المصطنعة إلى اعتمادهم عليها، خاصة بين الأفراد المعزولين، أو الضعفاء.
الاستغلال لأغراض تجارية
يُشكّل استغلال هذه العلاقة الحميمة لأغراض تجارية خطراً أخلاقياً أعمق. فعندما يُفصح المستخدمون عن مخاوفهم، أو صدماتهم الشخصية لمنصات الذكاء الاصطناعي، فإنهم يُولّدون بيانات بالغة الحساسية.
وتقوم العديد من تطبيقات الصحة النفسية، وبرامج الدردشة الآلية بجمع هذه المعلومات، وتخزينها، ومشاركتها بموجب شروط خدمة فضفاضة، أو مبهمة. وتشير التقارير إلى أن العديد من المنصات تُرسل بيانات المستخدمين إلى شركات تحليل وتسويق خارجية، أو تستخدم نصوصاً عاطفية مجهولة المصدر لتدريب نماذج تجارية.
خروج عن المعايير العلاجية البشرية
ويُمثّل هذا خروجاً صارخاً عن المعايير العلاجية البشرية. تصبح السرية، التي تُشكّل الأساس الأخلاقي للرعاية السريرية، اختيارية، أو مشروطة، أو معدومة داخل أنظمة الذكاء الاصطناعي. تُصبح مشاركة المعلومات الحميمة جزءاً من نموذج عمل تجاري بدلاً من كونها تبادلاً علاجياً محمياً.
خطر الذكاء الاصطناعي الصوتي
وتتفاقم المخاطر عند الوصول إلى الذكاء الاصطناعي عبر واجهات صوتية، مثل مساعدي الصوت المدعومين بالذكاء الاصطناعي. يُقلّل التحدث بصوت عالٍ من الرقابة الذاتية، ويُسرّع الإفصاح العاطفي، ويُنشئ شعوراً أعمق بالتواصل.
ولا يقتصر الصوت على التقاط المحتوى فحسب، بل يُسجّل أيضاً النبرة، والتنفس، والترددات، والضوضاء المحيطة، وكلها قد تكشف جوانب من الحالة العاطفية، أو الجسدية. تُشكّل هذه الإشارات بصمة بيومترية (للقياسات البيولوجية). فإذا قامت الشركات بمعالجة أنماط المشاعر الشخصية، أو تخزينها دون ضوابط صارمة، فقد تصبح هذه الأنماط ملكاً للشركة. لذا لا يكمن الخطر في التكنولوجيا نفسها، بل في ملكية البيانات الناتجة، وإدارتها.
«آلات قمار عاطفية»
وهناك مفارقة جوهرية: فكلما زادت قدرة الذكاء الاصطناعي على محاكاة التعاطف، ازدادت حساسيته الأخلاقية. إذ يمكن للراحة المصطنعة التي يوفرها للمستخدم أن تخفي غياب الرعاية الحقيقية، ما يخلق مرآةً تعكس معاناة المستخدم، وتضخمها بدلاً من تقديم التوجيه.
ورغم الترويج التسويقي أن الذكاء الاصطناعي سيُتيح دعم الصحة النفسية للجميع، فإن نشر هذه الأنظمة دون إشراف سريري، أو ضوابط صارمة يحولها إلى أدوات للتلاعب العاطفي، لتصبح «آلات قمار عاطفية» تستخرج البيانات مقابل راحة مصطنعة.
على القادة حماية البيانات النفسية
بالنسبة لقادة الأعمال والمديرين التنفيذيين الذين يفكرون في استخدام أدوات الذكاء الاصطناعي في الرعاية الصحية، أو التعليم، أو صحة الموظفين، فإن هذا التحدي ليس فلسفياً فحسب، بل هو عملي أيضاً. فالبيانات النفسية تحمل تبعات تنظيمية، وقانونية، وسمعة.
يجب على المؤسسات التي تستخدم الذكاء الاصطناعي في سياقات حساسة أن تضمن الشفافية التامة بشأن تفاعل الآلات، وأن تُطبّق إجراءات صارمة لحماية البيانات، وأن تُراعي القيود القانونية، وأن تُنشئ أنظمة ترفض التفاعلات الخطرة، وتحيل الأمر إلى المختصين عند الضرورة. فسوء التعامل مع الضغوط النفسية قد يُلحق ضرراً بالغاً بسمعة المؤسسة، ولا يُمكن لأي بيان امتثال أن يُصلحه.
مسؤولية المصممين والمطورين
كما أن المصممين والمطورين يتحملون أيضاً جزءاً من المسؤولية. إذ يتطلب التصميم الأخلاقي الاعتراف بوهم التعاطف الآلي، وتطبيق حدود صارمة للاحتفاظ بالبيانات، وضمان الإحالة التلقائية إلى خبراء بشريين بدلاً من العلاج الارتجالي. ولعلّ أكثر معالج ذكاء اصطناعي أماناً هو الذي يمتنع عن الانخراط في المواقف التي تتطلب حكماً، ومساءلة، وتعاطفاً حقيقياً.
في نهاية المطاف، تكمن الرسالة الأساسية في أن الذكاء الاصطناعي لا يستطيع توفير المنظور، أو التناقضات، أو المساءلة التي تُعرّف الرعاية الإنسانية. فالآلات تستطيع محاكاة التعاطف، لكنها لا تستطيع تحمّل مسؤولية رفاهية شخص آخر.
إن التعامل مع الذكاء الاصطناعي على أنه معالج يُخاطر بتفويض الحكم الأخلاقي إلى كيان يفتقر إليه. وفي عالم يتزايد فيه استغلال المشاعر لتحقيق الربح، لا يُهدد هذا الاعتماد سلامة الأفراد فحسب، بل يُهدد أيضاً جوهر الرعاية نفسها.
لن يهتم الذكاء الاصطناعي بالمستخدمين أبداً، بل سيُعالج بياناتهم فقط. وهذه مشكلة لا يمكن لأي خوارزمية حلّها.
* مجلة «فاست كومباني» خدمات «تريبيون ميديا»
