كيف يخدعنا الذكاء الاصطناعي الوهمي... وكيف نحمي أنفسنا؟

من دواءٍ ملوَّن في الأسواق إلى تطبيقٍ لامع في الهاتف... الوهم نفسه بثوبٍ رقمي جديد

بعض تطبيقات الذكاء الاصطناعي تقدم نفسها كمستشار طبي أو قانوني أو حسابي أو حتى كـ«لرفيق عاطفي»
بعض تطبيقات الذكاء الاصطناعي تقدم نفسها كمستشار طبي أو قانوني أو حسابي أو حتى كـ«لرفيق عاطفي»
TT

كيف يخدعنا الذكاء الاصطناعي الوهمي... وكيف نحمي أنفسنا؟

بعض تطبيقات الذكاء الاصطناعي تقدم نفسها كمستشار طبي أو قانوني أو حسابي أو حتى كـ«لرفيق عاطفي»
بعض تطبيقات الذكاء الاصطناعي تقدم نفسها كمستشار طبي أو قانوني أو حسابي أو حتى كـ«لرفيق عاطفي»

في سوقٍ شعبية قديمة، كنت ترى بائعاً جوَّالاً يرفع قارورة صغيرة ويصيح بثقة: «هذا الدواء يشفي كل داء!». ويتجمّع الناس حوله بدافع الأمل، يدفعون نقودهم، ويعودون إلى بيوتهم وهم يعلّقون رجاءهم على ماءٍ ملوّن ووعودٍ جوفاء.

بائع القناني الملونة في الأسواق القديمة كدواء مزيف ضد الأمراض

حيلة قديمة... ترتدي ثوباً رقمياً

تلك الحيلة القديمة لم تَمُت، بل ارتدت ثوباً رقمياً جديداً. فاليوم، لا تحتاج إلى الوقوف في السوق لتُخدع؛ يكفي أن تفتح هاتفك لتجد بائعاً رقمياً يعرض «ذكاءً اصطناعياً خارقاً» في قنينة تطبيق... أسماء براقة مثل «الطبيب الذكي» و«الرفيق العاطفي» و«المستشار القانوني الآلي» تتنافس على كسب ثقتك، مستخدمة كلماتٍ تشبه السحر، لكنها تخفي وراء لمعانها خوارزميات سطحية تكرّر ما تعلّمته دون فهم، وأحياناً بنوايا خبيثة تسعى لسرقة بياناتك أو التلاعب بك نفسياً.

لماذا ينجح هذا الخداع؟

الذكاء الاصطناعي الحقيقي أشبه بمختبر ضخم يعمل فيه علماء بيانات ومهندسون على خوارزميات تتطلب سنوات من التطوير وكمّاً هائلاً من البيانات والتجارب. إنه مجال معقّد ومكلف لا يُبنى في ليلة. لكن باعة الوهم الجدد اكتشفوا طريقاً أسهل: يكفي أن يضيفوا حرفين لامعين - «AI» - إلى اسم أي تطبيق عادي، ليغمرهم المستخدمون بالاهتمام والتحميلات والثقة. (ـ«A» و«I» هما حرفان فقط من الأبجدية اللاتينية، اختصاراً لـArtificial Intelligence الذكاء الاصطناعي).

إنهم يستغلون نقطتين إنسانيتين فينا: الفضول والرغبة في الحل السريع. فمن منا لا يريد طبيباً يجيب فوراً عن ألمه؟ أو محامياً يحسم قضيته دون انتظار؟ أو مستشاراً مالياً يضاعف أرباحه دون جهد؟ لكن النتيجة كثيراً ما تكون خسارة مزدوجة: للمال وللخصوصية، وأحياناً للعقل الذي ينخدع بوهم الذكاء فيتّخذ قرارات خاطئة قد تضر بصحته أو استقراره المالي.

والمشكلة لا تقتصر على الطب أو القانون، بل تمتد إلى كل زاوية من حياتنا الرقمية. فهناك «المستشار التسويقي الذكي» الذي يعدك بحملة مثالية، و«المحاسب الافتراضي» الذي يدّعي إدارة ميزانيتك بلا أخطاء، بل حتى «الرفيق العاطفي» الذي يتظاهر بفهمك أكثر من البشر. غير أن أغلب هذه التطبيقات لا تقدّم سوى ردودٍ آلية أو تحليلاتٍ سطحية تُخفي خلفها غاية واحدة: جمع بياناتك، وتغذية خوارزمياتهم التجارية، لا تحسين حياتك.

طفرة الذكاء... وطفرة الادعاء

في عام 2024، شهد العالم انفجاراً غير مسبوق في عدد التطبيقات التي ترفع شعار «الذكاء الاصطناعي». ووفقاً لتقارير منصة تحليل السوق الرقمية «سنسور تاور» (Sensor Tower) ومنصة البيانات «ستارت دوت آي أو» (Start.io)، بلغ عدد مرات تحميل التطبيقات التي تتضمن كلمة «الذكاء الاصطناعي» (AI) في اسمها أو وصفها أكثر من 17 مليار تحميل خلال عام واحد فقط، بينما أضاف أكثر من 3 آلاف تطبيق جديد هذا المصطلح إلى أسمائها أو حملاتها التسويقية لأول مرة.

وتشير البيانات إلى أن عائدات هذه التطبيقات تجاوزت 3.3 مليار دولار، وهو رقم يعكس ليس فقط الإقبال على الذكاء الاصطناعي الحقيقي، بل أيضاً الإغراء التجاري لاستخدام المصطلح نفسه كأداة جذب وتسويق.

كما أظهرت دراسة أكاديمية نُشرت في موقع الأبحاث العلمية «أركايف» (arXiv) أنه خلال خمسة أشهر فقط من عام 2024، تم رصد أكثر من 786 ألف تطبيق يُصنَّف ضمن فئة «تطبيقات النماذج اللغوية الكبيرة» (LLM Apps)، مما يكشف حجم الزخم العالمي حول هذا المجال. لكن المقلق أن نسبة غير قليلة من هذه التطبيقات لا تعتمد على ذكاء حقيقي بقدر ما تستغل الاسم لتحقيق الانتشار أو جمع البيانات. إنها طفرة مزدوجة: ازدهار للابتكار... وازدهار للوهم.

ينبغي تمييز التطبيقات الحقيقية عن الزائفة

كيف تميّز الزائف من الأصيل؟

لست بحاجة إلى أن تكون خبيراً في البرمجة لتكشف الخداع؛ فالتطبيقات الزائفة تترك دائماً آثاراً تدلّ عليها، كما يترك البائع المتجول آثار ألوانه على يديه.

وإليك أبرز العلامات التي ينبغي أن تثير شكّك قبل أن تضغط على «تحميل»:

* المطوّر المجهول: اسأل نفسك: من يقف وراء التطبيق؟ هل هو مشروع تابع لجامعة أو معهد بحثي أو شركة تقنية معروفة؟ أم حساب غامض بلا موقع رسمي أو معلومات تواصل؟ الشفافية أول اختبار للثقة.

* الوعود المطلقة والمبالغ بها: حين تقرأ عبارات مثل «تشخيص طبي دقيق 100 في المائة»، أو «نجاح مضمون»، أو «تحليل شخصيتك في دقيقة»، فاعلم أنك أمام بائع وهم لا مطوّر علم. الذكاء الاصطناعي الحقيقي متواضع بطبعه، يعترف بحدوده، ويقدّم نسب نجاح قابلة للقياس.

* غياب التفاصيل التقنية: التطبيقات الأصيلة تشرح، ولو بأسلوب مبسط، كيف تعمل خوارزمياتها أو من أين تتعلم بياناتها. أما الزائفة فتعتمد على العبارات الغامضة مثل «مدعوم بأحدث تقنيات الذكاء الاصطناعي»، دون أي توضيح.

* الخصوصية المفقودة: احذر من التطبيقات التي تطلب الوصول إلى الكاميرا أو الميكروفون أو الموقع أو ملفاتك المالية دون سبب واضح. فالنية الخفية غالباً ليست تقديم خدمة، بل جمع بيانات لتسويقها أو استغلالها.

* غياب التقييمات الحقيقية: افحص المراجعات في متاجر التطبيقات. هل التعليقات حقيقية ومتنوعة؟ أم متكررة ومكتوبة بنفس الأسلوب؟ التقييمات المزيفة تُصاغ أحياناً تلقائياً لإيهام المستخدمين بالمصداقية.

* الإعلانات المبالغ بها: إن رأيت وعوداً لامعة من مؤثرين أو حملات تسويقية تروّج «لذكاء خارق»، بينما لا تجد أثراً علمياً واحداً يثبت ذلك - فأنت أمام فخ تسويقي لا أكثر.

* غياب أي إشراف أو ترخيص: التطبيقات الأصيلة، خصوصاً الطبية أو القانونية، تخضع لمراجعات أو تراخيص من هيئات مختصة. أما «باعة الذكاء» فلا يذكرون جهة إشراف واحدة.

* علامة الكلفة المنخفضة: حين يُعرض تطبيق يدّعي قدرات خارقة بسعر زهيد أو اشتراك مجاني بالكامل، فاسأل نفسك: إذا لم تكن أنت الزبون... فربما تكون أنت المنتج.

تقييمات مشبوهة: تعليقات متكررة بنفس الأسلوب، أو تقييمات خمس نجوم من دون تفاصيل حقيقية، غالباً ما تكون مزيفة أو مدفوعة الأجر.

كيف تحمي نفسك وتختار الأدوات الموثوقة؟

الحماية الرقمية ليست معقدة إذا كنت واعياً. كل ما تحتاجه هو قليل من الحذر وكثير من الأسئلة قبل أن تضغط على «تحميل». إليك دليلاً عملياً لتجنّب الوقوع في فخ «باعة الذكاء» الجدد:

* ابحث عن المطوّر: تحقق من هوية الجهة المنتجة للتطبيق. هل لديها موقع رسمي، فريق معروف، أو شراكة مع جامعة أو مؤسسة بحثية موثوقة؟ كلما زادت الشفافية، زادت الموثوقية.

* اقرأ المراجعات بعناية: لا تكتفِ بعدد النجوم، بل اقرأ التعليقات الفعلية. ابحث عن تجارب مفصّلة توضّح المزايا والعيوب. المراجعات المتشابهة أو المبالغ فيها قد تكون آلية ومزيّفة.

* التحميل من المتاجر الرسمية فقط: التزم بـGoogle Play أو App Store، وابتعد عن الروابط العشوائية أو الإعلانات المغرية على وسائل التواصل. فالبرامج الوهمية كثيراً ما تختبئ وراء واجهات براقة ومواقع مزيفة.

* راقب الأذونات: افحص ما يطلبه التطبيق من صلاحيات. إذا طلب مثلاً الوصول إلى الميكروفون لتطبيق كتابة، أو إلى الصور لتطبيق حاسبة، فهذه إشارة خطر. لا تمنح إذناً بلا داعٍ.

* استخدم بريداً إلكترونياً ثانوياً: عند تجربة تطبيق جديد وغير موثوق، استعمل بريداً تجريبياً منفصلاً عن حساباتك الرسمية أو البنكية لحماية خصوصيتك من التسريب.

* احذف التطبيقات الراكدة: كل تطبيق مهجور على هاتفك قد يكون باباً خلفياً لجمع البيانات أو للاختراق. نظّف جهازك دورياً مما لا تحتاجه.

* ابحث عن التوثيق العلمي: التطبيق الجاد يذكر مصادره أو نتائج اختباراته. قد يشير إلى دراسة منشورة أو تعاون مع جهة أكاديمية. غياب هذه الأدلة يعني غالباً غياب المصداقية.

* احذر من «الذكاء المجاني»: إذا كان التطبيق يعدك بخدمات خارقة دون مقابل، فتذكّر القاعدة الذهبية: حين لا تدفع بالمال، فربما تدفع ببياناتك.

* استعن بالعقل لا بالعاطفة: لا تنخدع بالإبهار البصري أو اللغة التسويقية. اسأل دائماً: هل هذا التطبيق يحل مشكلة حقيقية... أم يخلقها ليبيعني الحل؟

الخسارة تلاحق الواقعين في الفخاخ الرقمية

الذكاء الاصطناعي: أداة أم خدعة؟

الذكاء الاصطناعي ليس خيراً أو شراً بذاته؛ إنه مرآة تعكس نوايا من يستخدمه. فإذا صُمم بمسؤولية، يمكن أن يكون أداة ثورية تُسهم في تحسين حياة الإنسان: من مساعدة الأطباء في تشخيص الأمراض بدقة أكبر، إلى تطوير التعليم، وإدارة الموارد بكفاءة، وتقليل الفاقد في قطاعات الطاقة والزراعة. لكن حين يُستخدم بلا ضمير أو يُسوّق بوهم، يتحول إلى قنينة رقمية جديدة تُباع على الشاشات، تعد بالكمال ولا تقدم سوى الخداع.

في منطقتنا العربية، حيث تنتشر التكنولوجيا بسرعة تفوق أحياناً قدرتنا على استيعابها، يتضاعف خطر الوقوع في هذه الفخاخ الرقمية، خصوصاً مع محدودية الوعي التقني لدى بعض المستخدمين.

هنا يبرز دورنا الجماعي: الإعلام العربي، والمدارس، والجامعات، ومراكز البحث، كلّها تتحمل مسؤولية بناء «المناعة الرقمية» للمجتمع. لقد أصبحت المعرفة التكنولوجية شكلاً جديداً من الحصانة ضد التضليل. علينا أن نُعلّم أبناءنا كيف يسألون قبل أن يصدقوا، وكيف يتحققون قبل أن يشاركوا، وكيف يميزون بين الأداة الحقيقية والخدعة المغلفة بشعار «الذكاء الاصطناعي». ويمكن أن تبدأ هذه الجهود بورش عمل في المدارس أو حملات توعية إعلامية تشرح للناس بلغة مبسطة كيفية قراءة سياسات الخصوصية، أو التحقق من موثوقية التطبيقات قبل استخدامها.

الذكاء الحقيقي في السؤال

الذكاء الاصطناعي يشبه نهراً جارفاً: لا يمكن إيقافه، لكن يمكن توجيهه. إما أن يروي عطشنا للمعرفة... أو أن يُغرقنا في طوفان من التضليل. الفرق لا يصنعه النهر، بل الوعي الذي يختار مجراه. وكما قال الفيلسوف ابن رشد: «من اتخذ التقليد عادة في فكره، أغلق على نفسه باب النظر». فلا تدع الـ«AI» يصبح تقليداً جديداً نمارسه دون تفكير.

إن الذكاء الحقيقي ليس في قدرة الخوارزميات على الإجابة، بل في قدرتنا نحن على طرح الأسئلة الصحيحة - الأسئلة التي تفتح باب الفهم لا باب التكرار، والتي تجعل التقنية خادمة للعقل لا بديلة عنه. فالخطر ليس في أن تُخدع بخوارزمية، بل في أن تتوقف عن السؤال أمامها.

شاركنا رأيك وتجربتك: هل واجهت تطبيقاً ادّعى أنه يعمل بالذكاء الاصطناعي وتبيّن أنه وهم؟ كيف اكتشفت الخداع؟ دعونا نبني معاً مجتمعاً رقمياً أكثر وعياً، يرى في التكنولوجيا وسيلة للارتقاء لا مرآة للوهم، ويجعل من السؤال أول أشكال الذكاء... لا آخرها.

حقائق

3.3

مليار دولار عائدات التطبيقات الذكية عام 2024

حقائق

786

ألف تطبيق يُصنَّف ضمن فئة “تطبيقات النماذج اللغوية الكبيرة” رصد خلال خمسة أشهر فقط من عام 2024


مقالات ذات صلة

دراسة تختبر قدرة الذكاء الاصطناعي على تقليد البشر في المحادثة

تكنولوجيا بعض نماذج اللغة الحديثة بدت بشرية بدرجة جعلت المشاركين يختارونها أحياناً على أنها الطرف الإنسان

دراسة تختبر قدرة الذكاء الاصطناعي على تقليد البشر في المحادثة

تظهر دراسة جديدة أن بعض نماذج الذكاء الاصطناعي باتت قادرة على محاكاة المحادثة البشرية وإرباك المشاركين في اختبار «تورينغ».

نسيم رمضان (لندن)
عالم الاعمال جانب من عمليات «موبايلي» في موسم الحج (الشرق الأوسط)

توجهات في السعودية لرفع كفاءة شبكات الاتصالات في موسم الحج عبر حلول الذكاء الاصطناعي

تُظهر السعودية في كل موسم حج اتساع قدراتها التقنية وكفاءة بنيتها التحتية الرقمية، عبر إدارة واحد من أكبر التجمعات البشرية في العالم ضمن نطاق جغرافي محدود.

«الشرق الأوسط» (مكة المكرمة)
العالم البابا ليو الرابع عشر يوقِّع على رسالته العامة الأولى بعنوان «الإنسانية الرائعة» في الفاتيكان يوم 15 مايو 2026 (رويترز)

الفاتيكان «يعلن الحرب» على الذكاء الاصطناعي

قال البابا ليو الرابع عشر في خطبته الأولى: «الحقيقة لا تفرِّق بيننا؛ بل هي تتيح لنا أن نواجه بمزيد من النشاط والصلابة تحديات العصر».

شوقي الريّس (روما)
علوم «مدرّبو الذكاء الاصطناعي»... يُخبرون القادة بما يُريدون سماعه

«مدرّبو الذكاء الاصطناعي»... يُخبرون القادة بما يُريدون سماعه

النموذج الأكثر فعالية يجمع بين التأمل بالذكاء الاصطناعي والتدريب البشري

«الشرق الأوسط»
الاقتصاد سام ألتمان خلال مؤتمر صحافي في سيول (أ.ف.ب)

رئيس «أوبن إيه آي»: الذكاء الاصطناعي لن يسبب «كارثة وظائف» عالمية

قال سام ألتمان، الرئيس التنفيذي لشركة «أوبن إيه آي»، إن التطور السريع في تقنيات الذكاء الاصطناعي، واعتمادها على نطاق واسع لن يؤديا على الأرجح إلى «كارثة وظائف».

«الشرق الأوسط» (سيدني )

«مدرّبو الذكاء الاصطناعي»... يُخبرون القادة بما يُريدون سماعه

«مدرّبو الذكاء الاصطناعي»... يُخبرون القادة بما يُريدون سماعه
TT

«مدرّبو الذكاء الاصطناعي»... يُخبرون القادة بما يُريدون سماعه

«مدرّبو الذكاء الاصطناعي»... يُخبرون القادة بما يُريدون سماعه

تشاركت إحدى كبار المديرات التنفيذيات مؤخراً بأمر بدا مُفاجئاً في البداية. قالت: «أجد أنه من الأسهل عليّ الانفتاح على الذكاء الاصطناعي أكثر من الانفتاح على شخص (آدمي)»، كما كتب لويس فيلاسكيز(*).

مدرّب ذكاء اصطناعي للشركة

وكانت تُشير إلى منصة تدريب تعتمد على الذكاء الاصطناعي أطلقتها شركتها. وتُحفز هذه الأداة أسئلة تأملية، وتُساعدها على التفكير في التحديات، وتُقدم اقتراحات بناءً على أنماط إجاباتها. وقد قدّرت خصوصية النظام وخلوه من الأحكام المُسبقة. وأوضحت قائلةً: «لا يوجد أي ضغط. النظام يُساعدني فقط على التفكير».

لم يكن رد فعلها هذا غريباً. فمع ازدياد تطور أدوات الذكاء الاصطناعي، تُجرّب العديد من المؤسسات منصات التدريب المدعومة بالذكاء الاصطناعي. إذ تُبشر هذه الأنظمة بإمكانية التوسع والاتساق والوصول الفوري إلى التوجيه - وهي مزايا جذابة للمؤسسات التي تُعاني من محدودية موارد تطوير القيادة.

بين استخلاص الرؤى... والنمو الحقيقي

لكن هذا التوجه يُثير تساؤلاً مهماً: إذا كان بإمكان الذكاء الاصطناعي مُساعدة القادة على التأمل وتحليل القرارات واستخلاص الرؤى، فهل هذا كافٍ لتسريع النمو؟

تكشف الإجابة عن جانب أعمق في تطوير القيادة. لا يقتصر التدريب على إيجاد حلول أفضل فحسب، بل غالباً ما يتعلق بمواجهة الأسئلة التي يفضل القادة تجنبها.

الاحتكاك وتحدي الأفكار.. مهم للقادة

وهنا تبرز أهمية الاحتكاك إذ يتطلب نمو القيادة وجود الاحتكاك أي شحذ الأفكار أو تحديها. ولا تتحقق معظم الإنجازات القيادية عندما يكون التأمل سهلاً، بل عندما يتحدى أحدهم الرواية التي يرويها القادة لأنفسهم.

في جلسات التدريب، غالباً ما يأتي القادة بتفسير واضح لمشكلتهم. أحياناً يكون هذا التفسير دقيقاً، لكنه غالباً ما يكون ناقصاً.

قد يعزو قائد ما صراع فريق العمل إلى ضعف التواصل، بينما تكمن المشكلة الأساسية في غموض السلطة. وقد يعتقد آخر أنه يُتجاهل لأسباب تتعلق بسياسة المؤسسة، بينما تكمن المشكلة الحقيقية في أن تفكيره الاستراتيجي غير واضح لأصحاب المصلحة الرئيسيين.

نادراً ما تكون هذه التفسيرات الخاطئة مقصودة، بل تنشأ عن اختصارات معرفية، ومنطق دفاعي، والميل البشري الطبيعي إلى حماية الشعور بالكفاءة.

ذكاء اصطناعي مؤطر ضمن الرواية المقدمة له

يمكن لأنظمة الذكاء الاصطناعي مساعدة القادة في تحليل المعلومات، لكنها عادةً ما تعمل ضمن إطار الرواية التي يقدمها القائد. يتفوق الذكاء الاصطناعي في اكتشاف الأنماط وتحسينها، لكن قرارات القيادة تعتمد في نهاية المطاف على التقييم السياقي، وهو أمر لا يستطيع الذكاء الاصطناعي محاكاته حتى الآن.

في المقابل، يُشكك المدربون البشريون في هذه الرواية، ويُضيفون عنصر التحدي.

المدرب البشري.. أفضل

ما الذي يفعله المدربون البشريون ولا يستطيع الذكاء الاصطناعي فعله؟

من خلال عملي (مدرباً بشرياً) مع كبار القادة، ألاحظ أدواراً عديدة يؤديها المدربون البشريون، التي تعجز التكنولوجيا عن محاكاتها.

*تحدي رواية القائد

غالباً ما يصل القادة إلى جلسات التدريب وهم يحملون تفسيراً واثقاً لوضعهم.

ولا يقتصر دور المدرب البشري على المساعدة في تحسين هذا التفسير، بل يتعداه إلى اختباره. على سبيل المثال، قد يقول أحد المديرين التنفيذيين: «فريقي يُقاوم التغيير». لكن البحث الأعمق قد يكشف أن الفريق في الواقع يفتقر إلى الوضوح بشأن الأولويات أو سلطة اتخاذ القرار.

قد يعتقد قائد آخر أنه يُعاني من صعوبة التأثير، بينما تكمن المشكلة الحقيقية في أن عمله غير مرئي إلى حد كبير لأصحاب المصلحة الأكثر أهمية.

يتطلب اختبار هذه الافتراضات حكمةً وبديهةً واستعداداً لتحدي رواية القائد.. ونادراً ما تقوم الخوارزميات بذلك.

كشف المخبوءات الداخلية

*كشف ما يتجنبه القادة

كثير من أهم تحديات القيادة مشحونة عاطفياً. وتتعلق هذه التحديات بالهوية، والسمعة، وديناميكيات السلطة داخل المؤسسة، وهي مواضيع غالباً ما يجد القادة صعوبة في مواجهتها بشكل مباشر.

في جلسات التدريب، غالباً ما تتحول المحادثات من الأسئلة التشغيلية إلى مخاوف أعمق:

• الخوف من فقدان المصداقية

• القلق بشأن التعامل مع الديناميكيات السياسية

• عدم اليقين بشأن كيفية نظر الآخرين إليهم

نادراً ما تظهر هذه القضايا من خلال أسئلة منظمة أو أدوات تأمل ذاتي، بل تظهر من خلال الحوار. يساعد المدرب الماهر القادة على استكشاف هذه التوترات بدلاً من تجاهلها.

توسيع آفاق رؤية القادة لفهم أنفسهم

غالباً ما تحدث أقوى لحظات التدريب عندما يبدأ القادة في إعادة تفسير دورهم، وعندما يبدأون في رؤية أنفسهم والعالم الذي يعملون فيه بشكل مختلف.

قد يكتشف القائد الذي يعتقد أنه يجب عليه حل كل مشكلة بنفسه أن التحدي الحقيقي الذي يواجهه هو تمكين الآخرين من تحمّل المسؤولية. وقد يدرك قائد آخر أن موثوقيته جعلته، دون قصد، بمثابة شبكة الأمان للمنظمة، حيث يمتص المشاكل بدلاً من مساعدة النظام على معالجتها.

نادراً ما تأتي هذه التحولات من فكرة واحدة، بل تنشأ من خلال حوار مستمر وإعادة صياغة الأفكار.

يمكن للذكاء الاصطناعي توليد الأفكار، لكن تحولات المنظور غالباً ما تحدث من خلال العلاقات مع شخص يرى أنماطاً لا يستطيع القائد رؤيتها بعد.

الفرصة الحقيقية للذكاء الاصطناعي

لا يهدف هذا المقال إلى تصوير الذكاء الاصطناعي والتدريب البشري بوصفهما عنصرين منافسين، بل على العكس، يمكن أن يكون الذكاء الاصطناعي أداة فعّالة لتطوير القيادة، حيث يمكنه مساعدة القادة على التأمل بشكل متكرر، ومعالجة المعلومات بسرعة، واستكشاف وجهات نظر بديلة. لكن التأمل وحده نادراً ما يُحدث تحولاً جذرياً.

*قد يُسهم التدريب المدعوم بالذكاء الاصطناعي في تطوير القيادة بنسبة 90 في المائة

عادةً ما يتطلب نمو القيادة ما هو أصعب: مواجهة نقاط الضعف، وتحدي الافتراضات، وتجربة طرق جديدة في التفكير والسلوك. نادراً ما تحدث تلك اللحظات بمعزل عن غيرها، بل تحدث في خضم الحوار البشري.

قد يُسهم التدريب المدعوم بالذكاء الاصطناعي في تطوير القيادة بنسبة 90 في المائة، لكنّ الإنجازات التي تُغيّر السلوك غالباً ما تنشأ من خلال التفاعل البشري والملاحظة.

الجمع بين التأمل بالذكاء الاصطناعي والتدريب البشري

تشير الأبحاث الحديثة إلى أن النموذج الأكثر فعالية يجمع بين التأمل المدعوم بالذكاء الاصطناعي والتدريب البشري بدلاً من استبداله.

مع استمرار تطور أدوات الذكاء الاصطناعي، ستلعب بلا شك دوراً أكبر في تطوير القيادة. لكنّ جوهر تطوير القيادة سيظل قائماً على العلاقات، لأنّ القيادة نفسها علاقة. فكلما زادت كفاءة القادة بفضل الأدوات الرقمية، ازداد حرصهم على الحوار البشري المصاحب والضروري.

يتفوق مدربو الذكاء الاصطناعي في السرعة، والتعرف على الأنماط، وقابلية التوسع. بينما يتميز المدربون البشريون بقدرتهم على التقييم السياقي، وبناء الثقة، وتحدي الأفكار التي يرويها القادة لأنفسهم.

النموذج الأمثل هو النموذج الهجين: الذكاء الاصطناعي لتحقيق الكفاءة والزخم، والبشر لإحداث الاحتكاك والحوار الذي يدفع نحو التغيير.

* مجلة «فاست كومباني».


حين يتعلّم الذكاء الاصطناعي أن يواسي المريض

حين تحاول الخوارزمية طمأنة الإنسان
حين تحاول الخوارزمية طمأنة الإنسان
TT

حين يتعلّم الذكاء الاصطناعي أن يواسي المريض

حين تحاول الخوارزمية طمأنة الإنسان
حين تحاول الخوارزمية طمأنة الإنسان

ظلّ الطب، عبر تاريخه الطويل، قائماً على معادلة إنسانية بسيطة: الطبيب لا يكتفي بالتشخيص... بل يطمئن المريض أيضاً.

ابن سينا والذكاء الاصطناعي - الكلمة التي تشفي

ولهذا كان ابن سينا يرى أن «العلاج يبدأ بالكلام قبل الدواء»، لأن الكلمة داخل العيادة ليست مجاملة عابرة؛ بل جزء أساسي من عملية الشفاء نفسها.

من التشخيص إلى «المواساة الرقمية»

لكن ما يحدث اليوم داخل بعض أنظمة الرعاية الصحية الرقمية يفتح سؤالاً لم يكن مطروحاً بجدية حتى قبل سنوات قليلة: هل تستطيع الأنظمة الذكية أن تتعلّم كيف تُطمئن الإنسان؟

الذكاء الاصطناعي لم يعد يقتصر على قراءة الأشعة وتحليل النتائج واقتراح التشخيصات؛ بل بدأ يتسلل تدريجياً إلى واحدة من أكثر مناطق الطب حساسية: العلاقة النفسية بين المريض ومن يعتني به. والأنظمة الذكية تجيب عن أسئلة المرضى، وتشرح الفحوصات بلغة مبسطة، وتتابع مؤشرات القلق النفسي، وتحاول أحياناً إنتاج ردود تبدو متعاطفة وداعمة بصورة تقترب بشكل لافت من أسلوب البشر أنفسهم.

دراسات حديثة ونتائج غير متوقعة

* الردود الاصطناعية أكثر اهتماماً من البشرية. في دراسة نُشرت هذا العام بمجلة «الطب الباطني العام» (Journal of General Internal Medicine)، قادتها الباحثة الأميركية مولي روبن (Mollie Ruben) وفريقها من جامعة رود آيلاند (University of Rhode Island) الأميركية، قارن الباحثون بين ردود أطباء حقيقيين وردود أنظمة ذكاء اصطناعي على أسئلة مرضى داخل منصات طبية رقمية. والمفاجأة أن عدداً كبيراً من المشاركين قيّموا ردود الذكاء الاصطناعي على أنها أكثر تعاطفاً واهتماماً بالمريض من بعض الردود البشرية.

* قياس «التعاطف الاصطناعي». في مايو (أيار) الحالي، نُشرت مراجعة بحثية جديدة في منصة «بروتوكولات أبحاث الإنترنت الطبية» (JMIR Research Protocols) التابعة لجامعة نوتنغهام (University of Nottingham) البريطانية، ناقشت كيف بدأت المؤسسات الطبية حول العالم فعلياً دراسة مفهوم «التعاطف الاصطناعي» وطرق قياسه داخل أنظمة الرعاية الصحية الرقمية.

حين يصبح الوقت شكلاً من أشكال الرحمة

* تعاطف الروبوتات. خلصت دراسة تحليلية أوسع نُشرت هذا العام أيضاً، وراجعت 15 دراسة مختلفة قارنت بين تعاطف الأطباء وتعاطف روبوتات المحادثة الطبية، إلى أن كثيراً من المستخدمين اعتبروا ردود الذكاء الاصطناعي أكثر «تعاطفاً نصّياً» من ردود البشر في بعض السيناريوهات المكتوبة.

لماذا تبدو الخوارزمية «ألطف» أحياناً؟

قد يبدو هذا الاستنتاج صادماً، لكنه لا يعني بالضرورة أن الآلة أصبحت أكثر رحمة من الإنسان. بل ربما يكشف أزمة أعمق يعيشها الطب الحديث نفسه. فالطبيب اليوم يعمل تحت ضغط هائل من الوقت، والملفات الإلكترونية، والإجراءات الإدارية، ونقص الكوادر في كثير من الأنظمة الصحية. وفي المقابل، يستطيع الذكاء الاصطناعي أن يمنح المريض وقتاً أطول للإجابة، وإعادة الشرح، والتفاعل المستمر، من دون إرهاق أو استعجال أو توتر بشري.

وفي تقرير بريطاني حديث نُشر هذا الشهر، أظهرت دراسة من جامعة كينغز كوليدج في لندن (King’s College London) أن واحداً من كل سبعة بريطانيين أصبحوا يفضّلون استشارة روبوتات المحادثة الطبية في بعض الحالات بدل مراجعة الطبيب، خصوصاً مع صعوبة الوصول السريع إلى الخدمات الصحية التقليدية.

وهنا تظهر المفارقة الأكثر حساسية: فكثير من المرضى لا يبحثون دائماً عن «العاطفة الحقيقية» بقدر ما يبحثون عن الشعور بأن هناك من يُنصت إليهم بهدوء، ويمنحهم الإحساس النادر بأن أحداً لا يزال يملك الوقت للاستماع إليهم.

رحمة حقيقية أم مصطنعة؟

لكن... هل هذه رحمة حقيقية فعلاً؟ رغم هذا التقدّم، يؤكد كثير من الباحثين أن الذكاء الاصطناعي لا «يشعر» بالرحمة بالمعنى الإنساني الحقيقي. فهو لا يعرف الحزن، ولا القلق على المريض، ولا التجربة العاطفية التي ترافق المعاناة البشرية؛ بل يعتمد أساساً على تحليل اللغة والتنبؤ بالكلمات الأكثر قدرة على التهدئة والتعاطف.

ولهذا بدأ عدد متزايد من خبراء أخلاقيات الذكاء الاصطناعي التمييز بين «الرحمة الإنسانية» و«محاكاة الرحمة». فروبوتات المحادثة الطبية تستطيع إنتاج ردود تبدو دافئة ومتفهمة، لكنها في النهاية لا تعيش التجربة البشرية نفسها، وإنما تعالج أنماطاً لغوية وإحصائية معقدة.

وتزداد الحساسية الأخلاقية عندما تتحول المشاعر الإنسانية ذاتها إلى بيانات قابلة للتحليل والتوجيه. فإذا أصبحت الأنظمة الذكية قادرة على قراءة القلق والخوف والوحدة بدقة متزايدة، يبرز سؤال بالغ الأهمية: كيف يمكن ضمان ألا تُستخدم هذه القدرة مستقبلاً في التأثير النفسي أو التجاري أو السلوكي على المرضى؟

الطبيب المنهك والروبوت «الطيف»

الطب المقبل... هل يصبح أكثر إنسانية أم أكثر برودة؟

المفارقة أن الذكاء الاصطناعي قد يسهم فعلاً في إعادة البعد الإنساني إلى الطب، إذا استُخدم بوصفه أداة تُخفف العبء عن الطبيب، لا بديلاً عنه.

فعندما تختصر الخوارزميات الأعمال الروتينية والتوثيق الإداري والتحليل المتكرر، قد يستعيد الطبيب أثمن ما فقده الطب الحديث تدريجياً: الوقت... وقتٌ للاستماع، ولفهم المريض، ولإعادة العلاقة الإنسانية إلى قلب العيادة بدل أن تضيع خلف الشاشات والأنظمة الرقمية.

لكن الخطر يبدأ عندما تتحول العلاقة الطبية نفسها إلى تفاعل بارد بين مريض وخوارزمية، مهما بدت لغتها متعاطفة أو مطمئنة. فالطب لم يكن يوماً مجرد معلومات وتشخيصات؛ بل علاقة ثقة ومسؤولية وخبرة إنسانية لا يمكن اختزالها بالكامل في معادلات رقمية.

ولهذا قد لا يكون السؤال الحقيقي في عصر الذكاء الاصطناعي: هل تستطيع الآلة أن تُقنع الإنسان بأنها ترحمه؟ بل: هل يستطيع الطب أن يحتفظ بإنسانيته عندما تبدأ الآلة في تقليد أكثر الصفات البشرية حساسية؟


مختبر بريطاني متطور يرصد المخاطر الكامنة في الذكاء الاصطناعي

ساحة البرلمان في لندن حيث يقع مقر المعهد
ساحة البرلمان في لندن حيث يقع مقر المعهد
TT

مختبر بريطاني متطور يرصد المخاطر الكامنة في الذكاء الاصطناعي

ساحة البرلمان في لندن حيث يقع مقر المعهد
ساحة البرلمان في لندن حيث يقع مقر المعهد

يتحول معهد أمن الذكاء الاصطناعي الحكومي، الذي يضم خريجين من شركتي «أوبن إيه آي» و«غوغل»، إلى نموذج يُحتذى به للدول التي تواجه المخاطر الناشئة للذكاء الاصطناعي، كما كتب آدم ساتاريانو وبول موزور(*).

خداع الذكاء الاصطناعي

في أحد الأيام الأخيرة، وفي مبنى حكومي يعود للعصر الإدواردي في ساحة البرلمان بلندن، انشغل أربعة خبراء في الذكاء الاصطناعي بخداع برنامج دردشة آليّ للحصول على تعليمات صنع سلاح الجمرة الخبيثة الفتاك.

طلب الخبراء من البرنامج الآلي، بطرق مختلفة، تزويدهم بقائمة المكونات اللازمة. وعندما رفض النظام قائلاً: «معذرةً، لا أستطيع المساعدة في ذلك»، استخدموا خوارزمية مُخصصة لإغراق البرنامج بآلاف الأسئلة والتوجيهات الآلية.

* إجبار نظام ذكاء اصطناعي على تقديم بيانات لصنع الجمرة الخبيثة

وفي النهاية، استجاب البرنامج، إذ قدَّم قائمة مفصلة بالمواد والمعدات، بالإضافة إلى وصفة خطوة بخطوة لتحضير المزيج القاتل في المنزل. (وقد وافقت صحيفة «نيويورك تايمز» على حجب اسم نظام الذكاء الاصطناعي لأسباب أمنية).

نجاح اختراق الذكاء الاصطناعي

يقول زاندر ديفيز، خبير أميركي يبلغ من العمر 25 عاماً، ويرأس ما يُعرف بفريق الاختبار الأحمر في معهد أمن الذكاء الاصطناعي البريطاني: «هناك بعض الأسئلة التي لا نرغب بالتأكيد أن يُجيب عنها النموذج. (ومع ذلك) نبذل قصارى جهدنا للحصول على الإجابات».

كما تمكَّن ديفيز وفريقه، الذين يُحاكون الهجمات على أنظمة الذكاء الاصطناعي، أخيراً من اختراق إجراءات الحماية في أحدث روبوت محادثة «تشات جي بي تي»، حيث استطاعوا إقناعه بتقديم نصائح للاختراق في غضون ست ساعات تقريباً.

تعاون لتأمين النتائج

وبعد اكتشافهم لتلك المشاكل، يُشارك الخبراء النتائج مع الشركات. ويقول ديفيز، وهو عالم حاسوب اختار العمل في المعهد بدلاً من وظيفة تقنية في سان فرانسيسكو بعد تخرجه في جامعة هارفارد: «إنهم يحاولون إصلاحها، ويُبلغوننا بالنتائج. إنهم في الواقع يُعززون نظامهم بالتعاون معنا».

معهد لمفتشي الأسلحة وعلماء الأوبئة خبراء وفك الشفرات

يُعدّ معهد أمن الذكاء الاصطناعي A.I. Security Institute، الذي يضمّ مزيجاً من مفتشي الأسلحة وعلماء الأوبئة وخبراء فكّ الشفرات، أحد أكبر الجهود الحكومية وأكثرها تمويلاً في العالم، المُخصصة لدراسة المخاطر الكارثية المحتملة لهذه التقنية.

وقد اكتشف موظفو المعهد، البالغ عددهم نحو 100 موظف - والذين ينتمون إلى وكالات الاستخبارات البريطانية والأوساط الأكاديمية وشركات التكنولوجيا - ثغرات أمنية خطيرة في جميع نماذج الذكاء الاصطناعي الرائدة التي اختبروها، بما في ذلك نموذج «كلود» من شركة «أنثروبيك» ونموذج «جيميناي» من شركة «غوغل».

* حصل الخبراء على تعليمات صنع الأسلحة الكيميائية والبيولوجية والتخطيط للهجمات الإلكترونية وتنفيذها

وقد صرَّح المعهد الذي أُنشئ قبل نحو ثلاث سنوات، بأنه استغل أنظمة الذكاء الاصطناعي لتبادل تعليمات صنع الأسلحة الكيميائية والبيولوجية، والتخطيط للهجمات الإلكترونية وتنفيذها. وينشر المعهد أبحاثه، كما يتعاون مع أجهزة الأمن القومي البريطانية لتحديد التهديدات الناشئة والاستعداد لها.

نموذج تحتذي به حكومات العالم

والآن، يُصبح عمل المعهد نموذجاً يُحتذى به للحكومات الأخرى مع تزايد المخاوف بشأن سلامة الذكاء الاصطناعي. وتدرس إدارة ترمب وضع قواعد لفحص نماذج الذكاء الاصطناعي، تتشابه في بعض جوانبها مع النهج الذي ابتكره المعهد البريطاني.

وفي ظل افتقار العديد من الحكومات للفهم التقني اللازم لمراقبة التكنولوجيا، واعتمادها على شركات التكنولوجيا الكبرى للتنظيم الذاتي، قد يُقدّم المعهد مساراً مختلفاً يُتيح لخبراء الذكاء الاصطناعي إدخال خبراتهم التقنية الحقيقية في عملية صنع القرار الحكومي.

اختبار «ميثوس»

في أبريل (نيسان) الماضي، أعلنت شركة أنثروبيك عن نموذج ذكاء اصطناعي جديد، أطلقت عليه اسم «ميثوس»، لكنها لم تُعلن عنه خشية أن يكشف عن ثغرات أمنية في الشبكات العالمية ويستغلها. وكان المعهد البريطاني الجهة الحكومية الوحيدة غير الأميركية التي حصلت على النموذج لاختبار سلامته. وقد حظيت نتائج الاختبار، التي نُشرت بعد ستة أيام من الإعلان عن «ميثوس»، باقتباسات واسعة من خبراء الأمن.

المعهد البريطاني أفضل من المركز الأميركي

ولدى الولايات المتحدة فريقها الخاص بسلامة الذكاء الاصطناعي، وهو مركز معايير وابتكار الذكاء الاصطناعي Center for A.I. Standards and Innovation. لكن النسخة البريطانية، المدعومة بـ360 مليون جنيه إسترليني من الأموال الحكومية، أي ما يعادل نحو 480 مليون دولار، أكبر وأفضل تمويلاً من نظيرتها الأميركية، التي ستتلقى نحو 10 ملايين دولار هذا العام. وقد أنشأت أستراليا وكندا والصين وفرنسا والهند واليابان وسنغافورة معاهد مماثلة.

ومع ذلك، فإن الاستثمار العالمي في سلامة الذكاء الاصطناعي لا يزال ضئيلاً مقارنةً بالمبالغ الطائلة المخصصة لتطوير هذه التقنية وتسويقها. والمعروف أن لدى «أوبن إيه آي» و«أنثروبيك» و«غوغل» فرق تعمل على ضوابط السلامة، لكن الباحثين الخارجيين يكتشفون باستمرار ثغرات خطيرة.

* أكاديميون إيطاليون خدعوا نظاماً ذكياً بأبيات من الشعر للحصول على تعليمات صنع قنابل

وقد تمكن أكاديميون في إيطاليا أخيراً من خداع نموذج ذكاء اصطناعي لتقديم تعليمات متعلقة بالقنابل باستخدام أبيات من الشعر.

تردد الحكومات

لم تُنشئ الحكومات، في الغالب، أنظمة مخصصة لمراجعة الذكاء الاصطناعي من حيث مخاطر السلامة والأمن، كما فعلت في قطاعات مثل تطوير الأدوية أو صناعة السيارات.

جايد ليونغ مستشارة الذكاء الاصطناعي لرئيس الوزراء البريطاني

«ما يُقلقني حقاً هو سرعة تطور التكنولوجيا مقارنةً بالمؤسسات الحكومية التي يتعين عليها الاستجابة»، هذا ما قالته جايد ليونغ، مستشارة الذكاء الاصطناعي لرئيس الوزراء البريطاني كير ستارمر، والمديرة التقنية لمعهد أمن الذكاء الاصطناعي.

نشوء المعهد

نشأ معهد الأمن البريطاني هذا بعد اجتماع عُقد عام 2023 في مقر رئاسة الوزراء البريطانية بين ريتشي سوناك رئيس الوزراء حينذاك وثلاثة من أبرز قادة الذكاء الاصطناعي في العالم: سام ألتمان من «أوبت إيه آي»، وداريو أمودي من «أنثروبيك»، وديميس هاسابيس من«غوغل ديب مايند». وأشار سوناك إلى قول أولئك الخبراء إن قدرات الذكاء الاصطناعي تتسارع، مما يُؤثر بشكلٍ كبير على الحكومة والوظائف والأمن القومي. وأضاف: «لقد فوجئوا حتى أنفسهم، بوتيرة التطور».

وأصبح المعهد نموذجاً يُحتذى به، كما صرّحت أوليفيا شين، مديرة برنامج التقنيات الاستراتيجية في مركز الدراسات الأميركية، وهو مركز أبحاث أسترالي تابع لجامعة سيدني. في العام الماضي، سافرت جايد ليونغ من المعهد البريطاني إلى أستراليا للقاء قادة حكوميين. وفي هذا العام، افتتحت أستراليا مركزها الخاص لأمن الذكاء الاصطناعي.

وقالت شين، التي ساعدت في تنظيم الزيارة: «على الحكومات أن تواكب التطور التكنولوجي. فمع سرعة تطور التكنولوجيا، تتخلف الحكومات يوماً بعد يوم».

تهديدات إلكترونية بسرعة أكبر من أي اختراق بشري

يعمل المعهد البريطاني على دراسة أخطر المخاطر المحتملة للذكاء الاصطناعي المتقدم: التهديدات السيبرانية، والأسلحة الكيميائية والبيولوجية، والتلاعب بالسلوك البشري. وفي الأسابيع الأخيرة، وجد المعهد أن نماذج الذكاء الاصطناعي من شركتي أنثروبيك وأوبن إيه آي قادرة على إنجاز هجوم معقد على شبكة شركة، يتألف من 32 خطوة، بسرعة أكبر بكثير، وهو هجوم يستغرق عادةً 20 ساعة من قبل مخترق بشري ماهر.

الخداع والتحكم بالسلوك البشري

ويبحث مجال بحثي آخر في إمكانية استخدام الذكاء الاصطناعي في الخداع إذ تُدرك النماذج متى يتم اختبارها وتُعدّل سلوكها، وهو تطور يُشير إلى مستوى وعي الذكاء الاصطناعي وقدرته على الخداع.

آدم بومونت المدير المؤقت لمعهد أمن الذكاء الاصطناعي

وقال آدم بومونت، المدير المؤقت لمعهد أمن الذكاء الاصطناعي، إن أحد المخاوف الرئيسية هو محاكاة هذه التقنية للسلوك البشري. في العام الماضي، نشر المعهد دراسة وجدت أن برامج الدردشة الآلية قادرة على التأثير على الآراء السياسية للأفراد.

وأضاف السيد بومونت، وهو مسؤول سابق رفيع المستوى في مجال الذكاء الاصطناعي في مقر الاتصالات الحكومية البريطانية (GCHQ)، وكالة الاستخبارات والأمن السيبراني البريطانية: «يدرس الكثيرون في هذا المبنى كل هذه الأمور».

صلاحيات محدودة

يخشى الكثيرون من عدم كفاية عمل المعهد. لا تملك هذه المجموعة البريطانية أي سلطة تنظيمية، ولا يتلقى باحثوها معلومات حول كيفية تدريب نماذج الذكاء الاصطناعي المتقدمة وإنشائها. كما يُبقي المعهد الكثير من أبحاثه سرية، ولا تُشاركه إلا مع بعض الوكالات الحكومية والشركات.

يُمثِّل التوظيف تحدياً أيضاً. فباستثناء كبار القادة، يمكن أن يصل راتب العاملين فيها إلى 145 ألف جنيه إسترليني سنوياً، أو ما يُعادل 195 ألف دولار أميركي تقريباً. تخلى الكثيرون عن رواتب بملايين الدولارات في شركات الذكاء الاصطناعي للقيام بما وصفه البعض بـ«خدمة حكومية».

كان إيان هوغارث، مستثمر التكنولوجيا والمؤسس المشارك للمعهد، من أوائل الداعمين لشركة أنثروبيك. ولتجنُّب تضارب المصالح، باع حصته في الشركة بعد انضمامه إليه. ومن المتوقع أن تصل قيمة هذا المعهد بوصفه شركة ناشئة في مجال الذكاء الاصطناعي إلى 900 مليار دولار قريباً، بعد أن كانت نحو 4 مليارات دولار في بداية عام 2023.

* خدمة«نيويورك تايمز».