«الهلوسة»: نتاج التفاعلات الفكرية البشرية والآلية غير الدقيقة

انتقلت من اجتماعات التحاور البشري إلى الذكاء الاصطناعي

«الهلوسة»: نتاج التفاعلات الفكرية البشرية والآلية غير الدقيقة
TT

«الهلوسة»: نتاج التفاعلات الفكرية البشرية والآلية غير الدقيقة

«الهلوسة»: نتاج التفاعلات الفكرية البشرية والآلية غير الدقيقة

يُحدِث الذكاء الاصطناعي التوليدي تحولاً في طريقة عملنا، لكن تأثيراته لا تقتصر على ما يمكنه فعله. إذ يمكنه أيضاً أن يعلمنا جوانب عدّة عن اللغة والتواصل، كما كتبت أنيسا بورباساري هورتون (*).

الهلوسة نتاج التفاعلات الفكرية غير الدقيقة

إن الإنسان يفكر عادةً في الهلوسة بصفتها تصورات حسية - مثل الصوت أو الصورة - التي تبدو حقيقية في عقله، لكنها لم تحدث في الواقع الخارجي. لكن في عصر الذكاء الاصطناعي التوليدي، تشير كلمة «هلوسة» إلى نموذج لغوي كبير ينتج معلومات غير صحيحة، أو ملفقة.

لكن الهلوسة ليست مجرد مشكلة ذكاء اصطناعي؛ لأن عدم الدقة أمر شائع بالقدر نفسه في التفاعلات البشرية. تحتوي معظم المحادثات على هلاوس، والاجتماعات المؤسسية هي موضع معرّض بشكل خاص لذلك.

هلاوس الاجتماعات نتيجة افتراضات خاطئة

غالباً ما تكون الاجتماعات هي المكان الذي نتعامل فيه مع أصعب مهام الاتصال. إن موازنة الأولويات، والعمل على توضيح الأسئلة، وتقديم الأخبار - تتطلب هذه المهام أدوات الاستجابات في الوقت الفعلي والتعبيرات الدقيقة.

وتحدث هلاوس الاجتماعات عندما تعرقل الافتراضات غير الصحيحة المحادثات. ويمكن أن يؤدي سوء الفهم إلى محادثات دائرية أو اجتماعات لا تحقق هدفها. وتشكل هذه الهلاوس جزءاً أساسياً من لغز ثقافة اجتماعاتنا. وهذا هو السبب وراء احتقار الكثيرين للاجتماعات على الرغم من أنها تظل ضرورية.

مفهوم القواسم المشتركة

في مجالي الفرعي من علم اللغة - الدراسات البراغماتية pragmatics - هناك مفهوم أساسي يسمى القواسم المشتركة. وأثناء الحوار، تشير القواسم المشتركة إلى المعلومات التي أثبت جميع الأطراف أنها صحيحة. وإذا كانت المعلومات مشتركة، فلا داعٍ لإعادة صياغتها.

وبدوري؛ كوني عالم بيانات في شركة «إيه تي آند تي» AT&T، لا نشعر بالحاجة إلى قول أشياء مثل: «هذا اجتماع لشركة (إيه تي آند تي)»، أو «نحن علماء بيانات»، أو «هذا اجتماع عمل». ومع ذلك، فمن العدل أن نقول إن كل هذه الافتراضات مشتركة في أي وقت.

أرضية مشتركة وافتراضات متنافرة

إن التحدي الذي تفرضه الهلوسة في الاجتماعات يحدث عندما تكون لديك افتراضات غير متطابقة حول أرضية مشتركة. إن فهم شخص واحد لما يشكل أرضية مشتركة (على سبيل المثال، الغرض من الاجتماع، هدف المشروع، أفضل نتيجة للمناقشة، دور المشارك في الاجتماع)، لا يتطابق دائماً مع فهم شخص آخر.

إن الهلوسة في الاجتماعات - أو الافتراضات غير المتطابقة حول أرضية مشتركة في الاجتماعات - يمكن أن تؤدي إلى صراع يصرف الانتباه. كما يمكن أن تخفي الخلاف الأساسي، الذي قد لا يكون في الواقع حول متطلب حل محدد - لكن حول هدف الحل بشكل عام.

إن معالجة الهلوسة في الاجتماعات من شأنها أن تقلل من تكرار الاجتماعات، وتزيد من الإنتاجية في الاجتماعات على نطاق واسع، وربما الأهم من ذلك: أنها ستعزز من المشاركة في اجتماعاتك.

أفضل الممارسات لاستبعاد الهلوسة

فيما يلي بعض أفضل الممارسات التي يجب اتباعها للتغلب على سوء الفهم:

* التأمل في الافتراضات المشتركة قبل الاجتماع. يبدأ منع الهلوسة في الاجتماعات بفهم ما هو موجود في مجموعة الافتراضات المشتركة الخاصة بك. قبل أن تبدأ اجتماعاً، فكّر فيما تريد تحقيقه. فكر فيما تعتقد أنه صحيح بشأن الموضوعات التي تناقشها. فكر فيما إذا كانت جميع الأطراف في الاجتماع تشترك في هذا الاعتقاد.

* التصريح بجرأة عن «الأمور الواضحة» في بداية الاجتماع. إن الأمر يستحق التحدث عن الافتراضات المشتركة ذات الصلة مع المشاركين الآخرين في الاجتماع. بهذه الطريقة، يمكنك تجنب سوء التواصل غير الضروري وتجنب إضاعة الوقت. سواء كان الافتراض المشترك يتعلق بالجداول الزمنية، أو من يملك العمل، أو الهدف العام للمشروع، خذ الوقت الكافي لقول الجزء الواضح بصوت عالٍ. قد لا يكون واضحاً للجميع.

* تحديد فجوات الاتصال المحتملة من خلال إعادة صياغة الافتراضات المشتركة. عندما تحدث الهلوسة في الاجتماعات، فإنها تتطلب منك إدراك أن لحظة الصراع أو الارتباك ليست دائماً بسبب موضوع المناقشة. إذا شعرت بأن الاجتماع يسير بشكل سيئ، فأعد ضبط المحادثة. يمكنك القيام بذلك من خلال إعادة تأسيس افتراضات مشتركة أو الإشارة إلى التصريحات التي تبدو وكأنها تقدم افتراضاً مشتركاً جديداً للسياق.

محركات الهلوسة البشرية انتقلت إلى الذكاء الاصطناعي

إن وجهات النظر القائمة على نتائج سابقة غير ذات صلة، والنظرة الجامدة إلى موقف ما بناءً على تدريب فكري محدد، والتسرع في الحكم دون الحصول على جميع المعلومات - هذه هي القضايا الشائعة التي يعانيها الكثيرون مع اجتماعات الشركات.

إنها أيضاً محركات أساسية لهلوسة الذكاء الاصطناعي، وهي كامنة أيضاً في ثقافتنا المؤسسية.

* مجلة «فاست كومباني» - خدمات «تريبيون ميديا»


مقالات ذات صلة

تكنولوجيا رئيس شركة «أبل» تيم كوك خلال أحد المؤتمرات السنوية للشركة (إ.ب.أ)

«أبل» في عامها الخمسين… قصة شركة أعادت تشكيل التكنولوجيا العالمية

مسيرة «أبل» خلال 50 عاماً تعكس قدرة استثنائية على الابتكار وإعادة الابتكار، من مرآب صغير إلى شركة أعادت تشكيل التكنولوجيا العالمية.

نسيم رمضان (لندن)
علوم نافذة على عالمين_ أحدهما لا يفهم الآخر

مجتمعات كاملة وتجارب إنسانية... لا تزال خارج نطاق الذكاء الاصطناعي

«قمم خبراء» تتحدث عن الأخلاقيات... لكن المعاناة تبقى خارج النقاش

د. عميد خالد عبد الحميد (لندن)
الاقتصاد شعار شركة «سيمنز» في هذه الصورة التوضيحية (رويترز)

«سيمنز» الألمانية: الحرب تفرمل رغبة العملاء في الاستثمار بمشاريع جديدة

قالت شركة «سيمنز» الألمانية يوم الاثنين إن الحرب الإيرانية أدَّت إلى إحجام العملاء عن الاستثمار في مشروعات جديدة نتيجة ارتفاع أسعار المواد الخام والطاقة.

«الشرق الأوسط» (بكين )
تكنولوجيا صورة للرئيس التنفيذي لشركة «ميتا» مارك زوكربيرغ وشعار الشركة (أرشيفية - أ.ف.ب)

زوكربيرغ يعمل على تطوير وكيل ذكي لمساعدته في مهامه

يعمل مارك زوكربيرغ الرئيس التنفيذي لشركة «ميتا» على تطوير مساعد مدعوم بالذكاء الاصطناعي لمساعدته في أداء مهامه.

«الشرق الأوسط» (واشنطن)

لماذا يفقد الجمهور ثقته في الذكاء الاصطناعي التوليدي؟

لماذا يفقد الجمهور ثقته في الذكاء الاصطناعي التوليدي؟
TT

لماذا يفقد الجمهور ثقته في الذكاء الاصطناعي التوليدي؟

لماذا يفقد الجمهور ثقته في الذكاء الاصطناعي التوليدي؟

انطلق عصر الذكاء الاصطناعي بوعودٍ واسعة النطاق ونقاشاتٍ حول إمكانياتٍ لا حدود لها، كما تكتب لويز ك. ألين(*).

تفاؤل وخيبة

والآن، وبعد سنواتٍ من الخبرة العملية، لا يزال الخبراء متفائلين بشأن التأثير طويل الأمد للذكاء الاصطناعي. وفي الوقت نفسه، يتفق معظم الناس على أن مساهماته في الحياة اليومية كانت مخيِّبة للآمال، إن لم تكن أسوأ من ذلك.

وحتى بصفتي واحدة من العاملات في القيادة التقنية بهذا المجال، لا بد لي من الاعتراف بأن استياء المستهلكين من الذكاء الاصطناعي له ما يبرره إلى حد كبير، فقد اتسمت تجربة المواطن الأميركي العادي مع الذكاء الاصطناعي التوليدي، حتى الآن، بتراجع الجودة وازدياد انعدام الثقة.

قصص وهمية في وسائل الاتصال الاجتماعي

تعجّ وسائل التواصل الاجتماعي بأشخاصٍ وقصصٍ وهمية، وتمتلئ الأسواق الإلكترونية بشكلٍ متزايد بعمليات الاحتيال المدعومة بالذكاء الاصطناعي. وغالباً ما تفشل مبادرات الشركات في تحقيق التوقعات المالية، بل إن عدداً منها زاد من صعوبة حياة العاملين.

لقد بات فشل أدوات الذكاء الاصطناعي العام في تحقيق الضجة الإعلامية الكبيرة التي أثيرت حولها، أمراً مُسلَّماً به عالمياً، حتى إن قاموس ميريام-ويبستر نفسه أعلن اختياره كلمة «هراء» ككلمة عام 2025.

«التحديد الدقيق والموجّه»

ومع ذلك، تتاح للجمهور، الآن، فرصة لتغيير هذا الواقع في عام 2026. ويبدأ ذلك بتوظيف مفهوم «التحديد الدقيق (specificity)» ككلمة تُعرِّف ما هو مقبل.

وفي حقيقة الأمر، فإن شركات التكنولوجيا وباحثي الذكاء الاصطناعي بالغوا في تقدير القدرات الفعلية لهذه التقنية منذ البداية، فقد ركّز هؤلاء الرواد على الإمكانات الكامنة، بدلاً من النتائج العملية. لقد صوّروا الذكاء الاصطناعي على أنه ضرورة يجب على الشركات اتباعها لمواكبة التطورات، بدلاً من كونه أداةً يمكن للمؤسسات والأفراد استخدامها لتحقيق أهداف محددة.

التكنولوجيا وسيلة وليست غاية

لتطوير هذه التقنية وتحقيق رؤيتهم لمستقبل مُحسَّن بالذكاء الاصطناعي، سيتعيّن على القادة التوقف عن مناشدة الجمهور لتغيير الخطاب حول الذكاء الاصطناعي.

إن الطريق إلى الأمام بسيط للغاية، إذ يحتاج قادة التكنولوجيا إلى العودة إلى أساسيات المنتج. عليهم أن يتقبلوا فكرة أن التكنولوجيا وسيلة لتحقيق غاية، وليست غاية في حد ذاتها، وهذا يعني إعادة تركيز استراتيجيات التطوير والتواصل على حلول للمشاكل الحقيقية.

خطوات التحديد الدقيق «الموجّه»

1. التصميم الموجَّه للأفراد لا «المستخدمين»

إن إغراء بناء أدوات عامة الأغراض مفهوم، لكن القيام بذلك باستخدام التكنولوجيا الحالية يُضعف فائدتها. وستكون أدوات الذكاء الاصطناعي، اليوم، أكثر فاعلية عندما تُصمم خصوصاً لأفراد محددين في أدوار محددة. يجب أن تُوجه هذه المعرفة عملية ابتكار المنتج، والتدريب، والتسويق، وتكتيكات المبيعات.

2. التركيز على النتائج بدلاً من القدرات

الذكاء الاصطناعي ليس مختلفاً عن أي منتج آخر. لن يستخدمه الناس إلا إذا حل مشكلة موجودة لديهم بالفعل. ويفشل كثير من أدوات الذكاء الاصطناعي في تحقيق هذا الهدف، فهي تركز على ما يمكن للنموذج فعله، بدلاً من التمعن في فهم أسباب أهمية ما يفعله.

3. التوقف عن تقديم وعود خيالية

قد يُمثل الذكاء الاصطناعي، اليوم، مستقبلاً يمكن فيه تحقيق التحسين الشامل، لكن هذا ليس صحيحاً. يجب أن تعكس خطط تطوير المنتجات هذه الحقيقة. إنّ الوضوح والمباشرة بشأن ما هو متاح الآن وما سيكون متاحاً في المستقبل يُساعدان على تخفيف الإرهاق الناتج عن الضجة الإعلامية واستعادة الثقة.

حان وقت إعادة النظر

بصفتي مديرة للمنتجات، شاهدتُ عدداً من الأمثلة على الاستخدام الأمثل للذكاء الاصطناعي، خلال السنوات القليلة الماضية.

ومع ذلك، أُدرك أن أسباب انعدام ثقة الجمهور أو عدم اهتمامه الواسع النطاق تقع في معظمها على عاتق قطاع التكنولوجيا، ذلك أن رغبة هذا القطاع في إنجاز كل شيء دفعة واحدة، خلقت بيئةً لا يثق فيها الناس بقدرة التكنولوجيا على القيام بأي شيء مفيد.

إنها حقيقةٌ يصعب تقبّلها، لكن أي قائد تقني يُنكر ذلك يُخدع نفسه. ومع ذلك، لم يفت الأوان بعدُ لتصحيح الوضع. إذا كان القادة على استعداد لتقبُّل هذه الحقيقة وإعادة توجيه استراتيجياتهم نحو «التحديد»، فسيكون هناك متسع من الوقت لإعادة النظر، وإعادة التقييم، وتحقيق رؤية مستقبلٍ مُحسَّن. يجب أن يحدث هذا قريباً، وإلا فسيضيع مستقبل الذكاء الاصطناعي هباءً.

*مجلة «إنك»، خدمات «تريبيون ميديا»


مجتمعات كاملة وتجارب إنسانية... لا تزال خارج نطاق الذكاء الاصطناعي

نافذة على عالمين_ أحدهما لا يفهم الآخر
نافذة على عالمين_ أحدهما لا يفهم الآخر
TT

مجتمعات كاملة وتجارب إنسانية... لا تزال خارج نطاق الذكاء الاصطناعي

نافذة على عالمين_ أحدهما لا يفهم الآخر
نافذة على عالمين_ أحدهما لا يفهم الآخر

في القاعات الكبرى، حيث تُصاغ البيانات وتُعلن المبادئ بلغة تبدو مكتملة، يظهر الذكاء الاصطناعي كأنه يسير بثقة نحو مستقبل أكثر عدلاً وإنصافاً. تُرفع شعارات الشفافية، وتُكرَّر مفاهيم الحوكمة، وتُقدَّم العدالة الخوارزمية كأنها حقيقة قريبة لا جدال فيها.

لكن خلف هذا الانسجام الظاهري، يبقى سؤال أكثر إزعاجاً، وأقل حضوراً:

هل ما يُقال في هذه القاعات يعكس فعلاً ما يحدث خارجها، أم أنه يكتفي بصياغة عالمٍ مثالي لا وجود له في الواقع؟

أخلاقيات داخل حدود البيانات

تركّز معظم النقاشات العالمية حول أخلاقيات الذكاء الاصطناعي على قضايا تبدو مكتملة: التحيّز، والخصوصية، والشفافية، والمسؤولية. وهي دون شك قضايا حقيقية، لكنها تنطلق من افتراض خفيّ نادراً ما يُناقش: أن المشكلة تكمن في كيفية استخدام البيانات، لا في حدودها.

لكن السؤال الأكثر عمقاً، والأقل طرحاً، هو: ماذا عن أولئك الذين لا تُمثّلهم البيانات أصلاً؟ فالذكاء الاصطناعي، مهما بلغ من تعقيد، لا يرى العالم كما هو، بل كما يُقدَّم له. وما لا يدخل في بياناته، لا يدخل في حساباته... ولا في قراراته. وهنا لا يكون الخطأ في الخوارزمية، بل في العالم الذي اختُصر داخلها.

ما لا تراه الخوارزميات

عالم خارج الرؤية الخوارزمية

في مساحات واسعة من هذا العالم، لا تُقاس المعاناة ولا تُسجَّل، ولا تتحول إلى بيانات يمكن للآلة أن تفهمها. هناك أمراض لا تصل إلى مرحلة التشخيص، وصدمات لا تُوثَّق، وواقع صحي كامل يظل خارج أي نموذج تنبؤي.

في مثل هذه البيئات، لا يكون التحيّز نتيجة خلل تقني في الخوارزمية، بل نتيجة غياب الصورة من الأساس. فالمشكلة ليست في طريقة التحليل... بل فيما لم يُحلَّل أصلاً.

وهنا يتبدّل معنى العدالة نفسها. فكيف يمكن الحديث عن «عدالة خوارزمية» في عالمٍ لم يُمثَّل رقمياً بعد؟ وهل يمكن للذكاء الاصطناعي أن يكون منصفاً... إذا كان لا يرى الجميع؟

عندما لا تكفي الأخلاقيات

في القمم العالمية، يُقدَّم الذكاء الاصطناعي كأداة يمكن تهذيبها أخلاقياً، وكأن المشكلة تكمن فقط في ضبط سلوك الخوارزمية من داخل النظام الذي أنشأها. تُناقش المبادئ، وتُصاغ الأطر، ويبدو وكأن الحل يكمن في تحسين ما هو قائم. لكن هذا التصور يخفي افتراضاً أعمق: أن جميع المشكلات قابلة للحل من داخل النظام نفسه. بينما يهمس الواقع بشيء مختلف تماماً.

فهناك معاناة لا تنتظر «حوكمة» الخوارزمية... بل تنتظر أن تُرى. وهناك بشر لا يحتاجون إلى خوارزميات أكثر عدلاً، بل إلى أن يدخلوا أصلاً في مجال رؤيتها.

ما بين الخطاب والواقع: درس من قمة الهند

كما ظهر في نقاشات القمة العالمية للذكاء الاصطناعي في الهند، التي رفعت شعار «الذكاء الاصطناعي المسؤول»، بدا أن التركيز ينصب على مبادئ الحوكمة، والشفافية، وتقليل التحيّز داخل الأنظمة. لكن ما تكشفه هذه النقاشات، رغم أهميتها، هو فجوة أعمق: أن الخطاب الأخلاقي العالمي يفترض وجود عالم ممثَّل بالكامل داخل البيانات... بينما الواقع مختلف تماماً. فما لا يُقال في هذه القاعات، ليس فقط حدود التقنية، بل حدود الرؤية نفسها... إذ توجد مجتمعات كاملة خارج نطاق النماذج، وتجارب إنسانية لا تصل إلى أنظمة الذكاء الاصطناعي، وبالتالي لا تدخل في أي إطار أخلاقي يُناقش.

* عدم الاستقرار البيئي أو الضغوط النفسية من العوامل التي لا يمكن قياسها ولا تدخل إلى الأدوات الذكية *

حدود ما يمكن قياسه

في دراسة حديثة نُشرت عام 2026 في مجلة «نيتشر ميديسن» (Nature Medicine)، أظهرت نماذج تنبؤية طوّرها باحثون في جامعة ستانفورد قدرة متقدمة على تحليل البيانات الصحية، واستباق المخاطر قبل حدوثها. ومع ذلك، توقفت هذه النماذج عند حدود واضحة عندما يتعلق الأمر بعوامل لا تُقاس بسهولة، مثل عدم الاستقرار البيئي أو الضغوط النفسية التي لا تجد طريقها إلى السجلات الطبية.

وهنا لا تنكشف حدود التقنية فحسب، بل حدود الفكرة التي تقوم عليها.

فالمشكلة ليست في دقة ما نقيس، بل في افتراضٍ أعمق: أن كل ما هو مهم... يمكن قياسه.

لكن الواقع أكثر تعقيداً من ذلك. فبعض أهم محددات الصحة لا تُكتب في البيانات، ولا تُترجم إلى أرقام، ومع ذلك تظل الأكثر تأثيراً في حياة الإنسان.

ما بعد الأخلاقيات

قد تنجح القمم في صياغة مبادئ أخلاقية للذكاء الاصطناعي، وتبدو هذه المبادئ مكتملة في نصوصها ومنطقها. لكن التحدي الحقيقي لا يبدأ داخل هذه الأطر، بل خارجها.

في تلك المساحات التي لا تصلها البيانات، ولا تلامسها النماذج، ولا تختزلها الأرقام، هناك يتغيّر السؤال نفسه. فلا يعود السؤال:

هل الذكاء الاصطناعي أخلاقي؟ بل يصبح أكثر عمقاً وإلحاحاً: هل يستطيع أن يرى ما يجب أن يكون أخلاقياً تجاهه؟


أول مهمة مأهولة إلى القمر منذ 50 عاماً

شكل تصويري لمركبة «أوريون» قرب القمر
شكل تصويري لمركبة «أوريون» قرب القمر
TT

أول مهمة مأهولة إلى القمر منذ 50 عاماً

شكل تصويري لمركبة «أوريون» قرب القمر
شكل تصويري لمركبة «أوريون» قرب القمر

سترسل وكالة الطيران والفضاء الاميركية ناسا، أربعة رواد فضاء في مهمة أرتميس 2 في رحلة تستغرق 10 أيام حول القمر للتمهيد لهبوط على سطحه في المستقبل وإقامة قواعد دائمة عليه.