ماريانا إسكندر: «ويكيبيديا» ستظل مهمة في عصر الذكاء الاصطناعي

رغم اقتباس الأدوات الذكية لمحتوياتها وإزاحتها إلى آخر قائمة البحث الإنترنتي

ماريانا إسكندر
ماريانا إسكندر
TT

ماريانا إسكندر: «ويكيبيديا» ستظل مهمة في عصر الذكاء الاصطناعي

ماريانا إسكندر
ماريانا إسكندر

رغم ظهور نماذج الذكاء الاصطناعي مثل «تشات جي بي تي» و««جيمناي»» تظل موسوعة «ويكيبيديا» «التقليدية» واحدة من أكثر المواقع زيارةً في جميع أنحاء العالم، إذ يزورها 15 مليار شخص كل شهر.

لقاء مع مسؤولة «ويكيبيديا»

ماريانا إسكندر، الرئيسة التنفيذية لشركة «ويكيميديا» Wikimedia، المنظمة غير الربحية التي تقف وراء «ويكيبيديا»، تتحدث عن كيف تحافظ المنصة على مكانتها في مواجهة منافسي الذكاء الاصطناعي، وتتعامل مع واحدة من أكثر القضايا المثيرة للجدال في عصرنا: أين يمكننا العثور على معلومات يمكننا الوثوق بها في عام 2024؟

وهذا نص مختصر لمقابلة استضاف فيها بوب صفيان(*)، رئيس التحرير السابق لمجلة «فاست كومباني» ماريانا إسكندر.

* «ويكيبيديا» هي في نواحٍ كثيرة مؤشر على نوع العلاقة المتوترة اليوم مع الحقائق والأخبار والتحيز والقضايا الثقافية الرئيسية. كيف يتعامل «ويكيبيديا» مع هذه القضايا أو تتعامل معها؟

- من تجربتي، فإن كل شخص تقريباً يستخدم «ويكيبيديا»، لكن قِلة قليلة من الناس يفهمون حقاً كيف تعمل (هذه المؤسسة) وماذا يحدث خلف الشاشة؟ إنها واحدة من أفضل عشرة أو خمسة مواقع على الإنترنت، وفي بعض البلدان، فإنها الموقع الأكثر زيارة حرفياً.

يزور (أو يتصل بـ) «ويكيبيديا» 15 مليار «جهاز» شهرياً، وهو رقم يبلغ ضعف عدد سكان العالم. وتشرف عليها منظمة غير ربحية تسمى مؤسسة «ويكيميديا». وتعتمد في الغالب على كرم التبرعات الصغيرة، والتي تشير، بالنسبة لي، إلى قيمتها واستخدامها من قبل الملايين من الأشخاص.

ويتم إنشاء المحتوى من قبل متطوعين في جميع أنحاء العالم... مئات الآلاف منهم، حول مواضيع في جميع أنحاء العالم، في 330 لغة. ويتبع هؤلاء المتطوعون الركائز الأساسية التي كانت الأساس التأسيسي لـ«ويكيبيديا»، والكثير من السياسات والمبادئ التوجيهية لضمان دقة المحتوى والتحقق منه واستخدام المصادر المذكورة. إن «ويكيبيديا» ليست مكاناً لآراء الناس، إنها مكان لمحاولة تقديم مجموعة محايدة ومحققة من المعلومات للعالم.

* إذن كيف تتفاعل مؤسسة «ويكيميديا»، التي تديرها، مع المحتوى، الأشياء التي نقرأها ونراها على «ويكيبيديا»؟

- نحن نوفر البنية التحتية للتكنولوجيا بشكل أساسي، لكن المحتوى نفسه مكتوب ومُدار من قبل مجتمعات تطوعية في جميع أنحاء العالم. تلعب المؤسسة دوراً حاسماً في المسائل القانونية والتنظيمية ودعم المجتمع، لكننا نتعاون حقاً مع المجتمعات وندعم إنشاء المحتوى نفسه.

 

** نشهد تحولاً كبيراً من «الإنترنت القائم على الروابط» إلى «الإنترنت القائم على الدردشة»**

الذكاء الاصطناعي يزيح «ويكيبيديا» ويقتبس منها

* في الماضي، كنت أبحث عن شيء ما على «غوغل»، وكانت «ويكيبيديا» غالباً النتيجة الأولى. الآن، أرى في نتائج البحث أولاً الذكاء الاصطناعي من «غوغل» وهو ««جيمناي»»، أو أحياناً أسأل «تشات جي بي تي». هل الذكاء الاصطناعي منافس لك في بعض النواحي؟

- أشعر بالقلق وأفكر في ذلك طوال الوقت. نحن نشهد تحولاً كبيراً مما أسميه الإنترنت القائم على الروابط إلى الإنترنت القائم على الدردشة. أعتقد أن «ويكيبيديا» لديها نوعان من الإشكالات.

الإشكال الأول: هل سينتقل الأشخاص إلى أسفل (نتائج البحث) بدرجة كافية وينقرون على الرابط ويصلون إلى صفحة «ويكيبيديا»؟ في بعض النواحي، على المدى القصير، هذا مهم حقاً بالنسبة لنا، لأن هذا الأمر مهم لنموذج الإيرادات لدينا لأن هذه هي الطريقة التي يجدنا بها الناس ويقدمون تبرعاتهم. كما أن هذا الأمر مهم لكيفية فهم متطوعينا لما يفعلونه وكيف يمكن رؤيته.

الإشكال الآخر هو: إنك ربما لن تقوم بالتمرير لأسفل والنقر فوق صفحة «ويكيبيديا»، ولكن الإجابة التي يقدمها لك «جيمناي» أو الذكاء الاصطناعي تأتي من «ويكيبيديا» لأنها المصدر الأكبر للبيانات لمعظم هذه النماذج.

الصراع على المحتوى والإسناد والتوثيق

والصراع هو ما إذا كان المستخدم يعرف ذلك أم لا، وما إذا كان هناك إسناد وتوثيق، وهو كما أود أن أقول، ربما يكون أحد أهم الأشياء التي نحاول التركيز عليها... إضافة إلى كيفية تطور الذكاء الاصطناعي. والأمر (بالنسبة لنا) يتعلق بتحفيز الناس على الاستمرار في القيام بذلك والمساهمة. كما أن الإسناد مهم.

لمواصلة خلق أشياء يمكن للآلات، كما تعلمون، امتصاصها وإعادتها إليك بواسطة روبوتات الدردشة المختلفة. لذلك أعتقد أن «ويكيبيديا» أصبحت أكثر وأكثر حيوية، حتى لو أصبحت أقل جاذبية ربما. هل يأتي المراهقون إلى صفحة ويقرأون مقالاً طويلاً؟ لا، فإن ابن أخي يبحث على الإنترنت عبر موقع «يوتيوب». ولكننا لم نشهد حتى الآن انخفاضاً في عدد مرات مشاهدة الصفحات على منصة «ويكيبيديا» منذ إطلاق «تشات جي بي تي». نحن نعمل على ذلك، ونولي اهتماماً وثيقاً، ونشارك، ولكننا لا نصاب بالذعر أيضاً، كما أعتقد.

«ويكيبيديا» تدرب الذكاء الاصطناعي

* إذا كانت «ويكيبيديا» مصدراً ثابتاً لبيانات التدريب لمحركات الذكاء الاصطناعي، فهل هذا أمر جيد أم سيئ؟ أعني، إنه أمر جيد من حيث تحسين جودة ما تخرجه أدوات الذكاء الاصطناعي، ولكن هل تتمنين أن تحصلي على أجر مقابل ذلك؟

- أعتقد أن هذا ليس موجوداً حقاً في النموذج (الخاص بـ«ويكيبيديا»). أعني أننا فكرنا في ذلك وتحدثنا عنه. أعتقد أن لدينا دوراً مختلفاً نلعبه. كيف سنستخدم صوتنا ومكانتنا في هذه البيئة للحديث عن جعل النماذج أكثر انفتاحاً؟ إذا نظرت إلى نماذج الذكاء الاصطناعي التي بنتها فرقنا، فهي كلها مفتوحة. إنها توفر للمجتمعات جميع البيانات لتقييم ما إذا كانت النماذج تعمل أم لا.

* نموذج عملك غير تقليدي للغاية؛ لا إعلانات، ومساهمون غير مدفوعي الأجر. ومع ذلك، فانه لا يزال مهيمناً في عصر شركات التكنولوجيا العملاقة التي تبلغ قيمتها تريليون دولار. إنها مفارقة غير متوقعة، أليس كذلك؟

- أعلم. أعلم ذلك. إنه أمر مذهل، في الواقع. هذه هي النقطة المهمة حقاً. إنه أمر مذهل ويكاد لا يصدق. إذا سألت المساهمين لدينا عن سبب قيامهم بذلك، فهم لا يفعلون ذلك للحصول على أجر. يبدو الأمر وكأن هناك شيئاً آخر يحدث هنا يتحدث عن الدافع البشري، أي محاولة أن نكون جزءاً من نظام بيئي للمعلومات مع أشخاص آخرين يهتمون بالمعلومات الدقيقة، ويهتمون بالإنترنت الذي يمنحنا شيئاً يمكننا الوثوق به. هذه هي «اللعبة» التي نلعبها، وأعتقد أن العثور على حلفاء آخرين ليكونوا معنا في ذلك كان مهماً حقاً أيضاً.

* زبائنك، في بعض النواحي، ليسوا المستخدمين النهائيين للمنتج، أليس كذلك؟ ولكن هل المساهمون كذلك؟ يجب أن يكون الأمر مختلفاً تماماً بين المتطوعين الرائدين والموظفين مدفوعي الأجر. كيف تفكرين في ذلك بشكل مختلف؟

- في كتاب نجم البحر والعناكب، يوجد قسم يتحدث عن دور الرئيس التنفيذي كمحفز في مقابل دور الرئيس التنفيذي كرأس للمؤسسة. الفرضية السريعة هي أنه إذا كان لديك عنكبوت وقطعت رأسه، فإن كل الأرجل تسقط، ويموت الجسم بأكمله.

وبالمقابل، إذا كان لديك نجم البحر وقطعت ساقه، فإن الجسم يجدد الساق فقط، ويبقى الباقي سليماً. أعتقد أن هذا القياس جيد لكونك جزءاً من هذا النظام، أعني بذلك، أن لدي موظفين مدفوعي الأجر.

مؤسسة «ويكيميديا»، كمنظمة غير ربحية، لديها نحو 700 شخص، ولكن لدينا مئات وآلاف المتطوعين. لا يوجد توجيه؛ عليك أن تكون في شراكة. عليك أن تكون مؤثراً. هناك عدد قليل جداً من الأشياء التي أستيقظ وأقررها بنفسي في أي يوم من أيام الأسبوع، أليس كذلك؟ أنا أعيش في نظام من أصحاب المصلحة والمجتمعات. إنه نموذج قيادي مختلف تماماً عن العديد من المنظمات التقليدية.

 

** قوتنا في قوة مؤسسات الصحافة الحرة والمصادر المستقلة وأبحاث الجامعات التي يمكن الاستشهاد بها كمصدر للمعلومات**

 

مراقبة وحماية المحتوى ضد التشويه

* أنت تعتمدين على مجتمعك لمراقبة نفسه. يمكنك أن ترى جهات فاعلة سيئة تريد التأثير على ذلك. هل هذه طبقة جديدة من التحدي لمنظمتك؟

- أنت على حق تماماً. هناك طرق يمكن أن يجد بها المجرمون السيئون طريقهم. يقوم الناس بتخريب الصفحات، لكننا توصلنا إلى حل لهذه المشكلة، وغالباً ما يمكن نشر الروبوتات لعكس التخريب، عادةً في غضون ثوانٍ. في المؤسسة، قمنا ببناء فريق لمكافحة المعلومات المضللة يعمل مع المتطوعين لتتبع ومراقبة ذلك. في عام الانتخابات هذا (في أميركا)، رأينا أن سياسات مجتمعنا تعمل، حيث تعمل كترياق لبعض هذه التهديدات، لكن لا يوجد نظام آلي.

* ألا تقلقين من أن الحكومة الروسية أو الحكومة الصينية قد تحاول التسلل إلى مجتمع المساهمين لديك؟

-هل إنني قلقة؟ أنا قلقة بشأن ذلك طوال الوقت! إن إنشاء مجتمع مساهمين صحي وكبير ومتنوع للغاية هو السبيل لضمان تمثيل جميع وجهات النظر وعدم اختطافها من قبل مجموعة صغيرة.

* مع كل هذه الأشياء التي تدور حولك، كيف تحافظين على هدوئك الشخصي وسط كل هذه الاضطرابات؟

- أنا أقدر هذا السؤال حقاً. أعتقد أن بناء فريق يمكنك الوثوق به هو شرط أساسي لعدم فقدان عقلك. عندما بدأت هذه الوظيفة، كانت عيناي مفتوحتين على ما يحدث في العالم وكيف يؤثر ذلك على ما نقوم به. يعمل نظام «ويكيبيديا»، وكان يعمل منذ ما يقرب من عقدين ونصف، وهذا يمنحك الراحة. لا تتعطل خوادمنا أبداً، حتى عندما نواجه ارتفاعات هائلة في حركة المرور، عادةً عندما يموت المشاهير.

* ما هو على المحك بالنسبة لـ«ويكيميديا» ​​الآن؟

-هناك قضايا واضحة نراها تتكشف. أود أن أقول إن الأشياء التي تقلقني تحت السطح هي قوة المؤسسات التي نعتمد عليها مثل الصحافة الحرة، والمصادر المستقلة، والبحث من الجامعات التي يمكن الاستشهاد بها كمصدر للمعلومات. لذا فإن البنية التحتية حول سلامة المعلومات ضرورية لـ«ويكيبيديا».

إن الاهتمام بهذه القضايا، والصحافة، والرقابة، وكيفية إنتاج الناس ونشر المعرفة هي أشياء قد تحدث ولا تتصدر العناوين الرئيسية. أعتقد أن إحساسنا بدورنا تجاه هذا العالم الأوسع أمر بالغ الأهمية لسلامتنا وبقائنا.

*مجلة «فاست كومباني» خدمات «تريبيون ميديا»


مقالات ذات صلة

أميركا تتهم الصين بسرقة تكنولوجيا ذكاء اصطناعي

تكنولوجيا الرئيسان الأميركي دونالد ترمب والصيني شي جينبينغ (رويترز)

أميركا تتهم الصين بسرقة تكنولوجيا ذكاء اصطناعي

اتهم البيت الأبيض الصين، اليوم الخميس، بالضلوع في سرقة الملكية الفكرية لمختبرات ذكاء اصطناعي أميركية على نطاق صناعي.

«الشرق الأوسط» (واشنطن)
الاقتصاد شاشة تعرض شعار شركة «نوكيا» في قاعة التداول في بورصة نيويورك (رويترز)

بعد تجاوز أرباحها التوقعات... سهم «نوكيا» يقفز لأعلى مستوى في 16 عاماً

رفعت شركة «نوكيا» يوم الخميس أهداف نمو أعمالها المرتبطة بالذكاء الاصطناعي، بعد أن تجاوزت نتائجها الفصلية توقعات السوق للأرباح التشغيلية.

«الشرق الأوسط» (هلسنكي )
علوم حوكمة «الذكاء الاصطناعي المسؤول» لمؤسستك... خلال 90 يوماً

حوكمة «الذكاء الاصطناعي المسؤول» لمؤسستك... خلال 90 يوماً

تحقق مبادئ الالتزامات بالعدالة وعدم التمييز والإشراف البشري والمسؤولية المجتمعية

«الشرق الأوسط» (واشنطن)
خاص تقدم «غوغل كلاود» الذكاء الاصطناعي بوصفه نموذجاً تشغيلياً متكاملاً للمؤسسات لا مجرد مجموعة أدوات منفصلة (غوغل)

خاص من لاس فيغاس... «غوغل كلاود نيكست 2026» يرسم المرحلة التالية للذكاء الاصطناعي المؤسسي

تقدم «غوغل كلاود» في «نيكست 2026» الذكاء الاصطناعي كاختبار لجاهزية المؤسسات في البنية والبيانات والحوكمة والأمن والتشغيل.

نسيم رمضان (لاس فيغاس)

حوكمة «الذكاء الاصطناعي المسؤول» لمؤسستك... خلال 90 يوماً

حوكمة «الذكاء الاصطناعي المسؤول» لمؤسستك... خلال 90 يوماً
TT

حوكمة «الذكاء الاصطناعي المسؤول» لمؤسستك... خلال 90 يوماً

حوكمة «الذكاء الاصطناعي المسؤول» لمؤسستك... خلال 90 يوماً

أعلنت شركة أنثروبيك هذا الشهر عن تطويرها نموذج ذكاء اصطناعي فائق القدرات، الأمر الذي حال دون نشره للجمهور.

تطويرات متلاحقة

اكتشف البرنامج الجديد «كلود ميثوس» بشكل مستقل، آلاف الثغرات الأمنية الحرجة في جميع أنظمة التشغيل ومتصفحات الويب الرئيسية. لذا اختارت «أنثروبيك» توفير النموذج فقط لمجموعة محددة من شركات التكنولوجيا، لمنحها فرصة لسد الثغرات وتعزيز الدفاعات قبل أن تقع نماذج مماثلة في أيدي من يستغلونها.

ويسلط هذا التطور الضوء على المخاطر المستقبلية المحتملة التي يحملها التطور السريع لنماذج الذكاء الاصطناعي، كما كتب فيصل حقّ(*).

أهمية الذكاء الاصطناعي المسؤول

ومن المتوقع أن تنتشر هذه النماذج القوية على نطاق واسع، وسيؤدي انتشارها إلى تزايد الحاجة إلى سياسات حوكمة تستند إلى مبادئ الذكاء الاصطناعي المسؤول.

وتهدف ممارسة الذكاء الاصطناعي المسؤول إلى ضمان أن تظل أنظمة الذكاء الاصطناعي، مع ازدياد قوتها، عادلة وقابلة للتفسير وخاضعة للإشراف البشري، وفقاً لمبادئ أخلاقية وهياكل مساءلة تحمي الأفراد المتأثرين بهذه الأنظمة.

إن الذكاء الاصطناعي المسؤول ضرورة ملحة للأعمال، وليس مجرد طموح مستقبلي. فالمؤسسات التي تستخدم الذكاء الاصطناعي دون أطر حوكمة معرضة بالفعل لمخاطر متزايدة على سمعتها وقانونها وتشغيلها، وتتفاقم هذه المخاطر بمرور الوقت مع توسع الأنظمة وتعمقها.

تبعات اجتماعية بتسريح العاملين

والأهم من ذلك، أن المخاطر تتجاوز الأعطال التقنية أو انتهاكات الامتثال. للذكاء الاصطناعي تبعات مجتمعية كبيرة، لا سيما في مجال التوظيف: إذ يتوقع استطلاع رأي أُجري بين المديرين الماليين فقدان نحو 500 ألف وظيفة مرتبطة بالذكاء الاصطناعي في عام 2026، مما يؤكد ضرورة أن تعالج المؤسسات اضطراب القوى العاملة، وليس فقط أداء النظام. لذا، يجب أن يدمج الذكاء الاصطناعي المسؤول الاعتبارات الأخلاقية والتنظيمية والإنسانية في استراتيجية حوكمة موحدة.

إطار الذكاء الاصطناعي المسؤول

يرتكز الإطار المُقدم للذكاء الاصطناعي المسؤول على ثلاثة أركان أساسية:

1. الأسس الأخلاقية. غالباً ما تبدأ المؤسسات بسياسات استخدام الذكاء الاصطناعي - وهي قواعد تحكم الاستخدام المقبول له - لكن هذه السياسات غير كافية دون قيم أساسية واضحة المعالم.

المبادئ الأخلاقية... قبل السياسات

يجب أن تسبق المبادئ الأخلاقية السياسات، لتكون بمثابة بوصلة لاتخاذ القرارات عند ظهور سيناريوهات جديدة لا تغطيها كل تفاصيل السياسات. وتُحدد هذه المبادئ الالتزامات بالعدالة، وعدم التمييز، والإشراف البشري، والمسؤولية المجتمعية. ومن دون هذا الأساس، تُصبح السياسات عرضةً لأن تكون ردود فعلية وغير متسقة.

تحديد السلطة والمسؤولية

2. المساءلة والإشراف. يفشل الذكاء الاصطناعي المسؤول عندما تكون الملكية غير واضحة. تتطلب الحوكمة الفعّالة تحديداً واضحاً للسلطة والمسؤولية: من يُوافق على عمليات النشر، ومن يُمكنه إيقافها، ومن الذي يُحاسب أمام القيادة عند حدوث إخفاقات. يجب أن يُستكمل ذلك بضمانات تشغيلية تضمن مشاركة بشرية فعَّالة، لا سيما في القرارات المصيرية أو التي لا رجعة فيها.

إن الحوكمة ليست مجرد تركيبة هيكلية؛ بل يجب أن تُمارس عملياً بسلطة قابلة للتنفيذ.

3. التأثير البشري. تُعيد أنظمة الذكاء الاصطناعي تشكيل حياة البشر - إذ تُغير الوظائف، والفرص، وبيئات صنع القرار. ويتطلب النهج المسؤول اهتماماً أصيلاً بهذه التأثيرات، مع إعطاء الأولوية للعدالة، والكرامة، والتحسين على عملية الاستبدال. وهذا يُحوِّل (توظيف النظم الذكية) من التركيز من التحسين التقني البحت إلى التصميم الاجتماعي التقني، حيث تُعامل النتائج البشرية كاعتبارات أساسية.

خطة تنفيذية بـ90 يوماً

وإليكم خطة تنفيذية بـ90 يوماً لتحقيق هذه الأهداف، مقسَّمة إلى ثلاث مراحل: التخطيط، والبناء، والتطبيق.

التخطيط

* الأيام 1-30: التخطيط. تركز المرحلة الأولى على فهم واقع الذكاء الاصطناعي الحالي قبل محاولة التحكم فيه. غالباً ما تقلل المؤسسات من شأن مدى انتشار استخدام الذكاء الاصطناعي لديها، لا سيما من خلال عمليات توظيفه بشكل غير رسمي أو حنى «خفي».

تعداد النظم والتهيؤ لأسوأ السيناريوهات

* حصر وتعداد أنظمة الذكاء الاصطناعي: تحديد جميع تطبيقات الذكاء الاصطناعي، بما في ذلك الأدوات غير الرسمية التي يستخدمها الموظفون. وتجرى لكل تطبيق عمليات لتوثيق وظائفه، ومصادر بياناته، والجهات المعنية، ومسؤولية إدارته. وغالباً ما سيكشف هذا التعداد والحصر عن بيئة مجزأة وغير منظمة بشكل كافٍ.

* إجراء تحليل لأسوأ السيناريوهات: باستخدام منهجية «التصور الكارثي» المنظمة، يُطلب من فرق القيادة تصور أخطر حالات الفشل المحتملة لكل نظام. صُممت هذه الطريقة للكشف عن المخاطر الخفية التي قد تغفلها التقييمات القياسية.

الفرز الفوري: في حال الكشف عن مخاطر حرجة - مثل اتخاذ الأنظمة قرارات مصيرية دون رقابة - يجب اتخاذ إجراء فوري. قد يشمل ذلك إيقاف توظيف الأدوات الذكية مؤقتاً أو إدخال مراجعة بشرية، حتى قبل وضع إطار حوكمة متكامل.

ثقافة المؤسسة والصلاحيات

* تقييم ثقافة المؤسسة: تعتمد فعالية الحوكمة على ما إذا كان الذكاء الاصطناعي المسؤول يُعامل كأولوية استراتيجية أم مجرد واحد من المتطلبات العصرية. إذا كان الأمر كذلك، فإن الإصلاحات الهيكلية وحدها ستفشل دون تغيير ثقافي أوسع.

توضيح صلاحيات اتخاذ القرار: تتطلب الحوكمة هياكل سلطة واضحة لا لبس فيها. يجب على المؤسسات تحديد من يمكنه الموافقة على مبادرات الذكاء الاصطناعي ومراجعتها وإيقافها وتوفير الموارد لها. من دون هذا الوضوح، يصبح اتخاذ القرار خاضعاً لديناميكيات السلطة غير الرسمية، ما يقوض المساءلة.

بناء النظم وتفعيلها

* الأيام 31-60: البناء. تركز المرحلة الثانية على بناء البنية التحتية اللازمة لتفعيل الذكاء الاصطناعي المسؤول.

تطوير إطار أخلاقي: يُضفي هذا الإطار طابعاً رسمياً على مبادئ المؤسسة، ويُحوّلها إلى توجيهات عملية، تشمل العدالة، والرقابة، والاستقلالية المقبولة، وتأثيرها على القوى العاملة، وتداعياتها المجتمعية. ويُشكِّل هذا الإطار الأساس لجميع قرارات الحوكمة.

* إنشاء بنية تحتية تقنية: يجب أن تدعم السياسات أنظمة قادرة على مراقبة سلوك الذكاء الاصطناعي. ويشمل ذلك تتبع المخرجات، واكتشاف التحيز وانحراف النموذج، وتوليد أدلة التدقيق. ومن دون هذه القدرات، تبقى الحوكمة نظرية.

فريق مخصص ومسؤول

* تحديد المسؤولية والهيكل: يجب أن يكون هناك فرد أو فريق مُخصَّص مسؤول عن حوكمة الذكاء الاصطناعي، يتمتع بصلاحيات كافية لإنفاذ المعايير. بالإضافة إلى ذلك، تضمن الأدوار اللامركزية داخل وحدات الأعمال تطبيق الحوكمة عملياً.

* تصميم عمليات التقييم: وضع إجراءات موحَّدة لتقييم أنظمة الذكاء الاصطناعي وفقاً لمعايير أخلاقية ومعايير المخاطر. وينبغي أن تُنتج هذه الإجراءات تصنيفات واضحة للمخاطر، مع تحديد «عتبات» تُحدد مستوى الرقابة المطلوب.

إعادة توجيه الحوافز: يتبع سلوك المؤسسة الحوافز. إذا ركزت مقاييس الأداء على السرعة والتكلفة فقط، فسيتم تجاهل الحوكمة. يجب دمج مقاييس الذكاء الاصطناعي المسؤول - مثل تخفيف المخاطر والامتثال - في تقييم القيادة.

تهيئة الكفاءات العالية

* بدء مراجعات المخاطر العالية: ابدأ بتطبيق إطار الحوكمة على الأنظمة الأكثر أهمية التي تم تحديدها سابقاً. هذا يخفف من المخاطر العاجلة ويختبر نموذج الحوكمة تحت الضغط.

* تطوير المهارات والقدرات: يتطلب الذكاء الاصطناعي المسؤول كفاءات جديدة في جميع أنحاء المؤسسة، بما في ذلك الكفاءات التقنية (كشف التحيز)، والإدارية (التعاون بين الإنسان والذكاء الاصطناعي)، والقانونية (الوعي التنظيمي). يُعد وجود برنامج تدريبي منظم أمراً ضرورياً.

تشغيل إطار الحوكمة المسؤولة

* الأيام 61-90: «تضمين» الحوكمة داخل المؤسسة. تضمن المرحلة الأخيرة أن تصبح الحوكمة قدرة تنظيمية مستدامة وليست مبادرة مؤقتة.

مواجهة الأزمات والمراجعة الدورية

* وضع استراتيجيات «الخروج» من الأزمات: يجب أن يكون لكل نظام ذكاء اصطناعي بروتوكول إيقاف تشغيل محدد مسبقاً. يضمن تصميم هذه الاستراتيجيات مسبقاً إمكانية إيقاف تشغيل الأنظمة بأمان أثناء الأزمات.

وضع إجراءات حوكمة فعَّالة: تُرسِّخ اجتماعات المراجعة الدورية الرقابة، موفِّرةً منبراً ثابتاً لرصد المخاطر ومعالجة القضايا المستجدة.

* دمج الحوكمة في سير العمل: يجب دمج الذكاء الاصطناعي المسؤول في سير العمل القياسي. تتطلب الأنظمة عالية المخاطر مراجعةً قبل توظيفها، ويجب إعادة تقييم جميع الأنظمة دورياً. ولهذا تصبح الحوكمة جزءاً لا يتجزأ من العمليات الاعتيادية بدلاً من كونها نقطة تفتيش خارجية.

* التحسين المستمر بناءً على الملاحظات: في هذه المرحلة، تمتلك المؤسسات بيانات تشغيلية حول أداء الحوكمة. ويُعدّ التحسين المستمر أمراً بالغ الأهمية، من خلال تحسين العمليات، ومعالجة المعوقات، وتعزيز التوافق الثقافي.

الخلاصة - الاستعداد لنظم ذكية متطورة

إن قدرات الذكاء الاصطناعي المتقدمة - كما يتضح من مثال «كلود ميثوس» - ليست افتراضية، بل وشيكة. السؤال المحوري ليس ما إذا كانت المؤسسات ستواجه أنظمة ذكاء اصطناعي قوية وربما محفوفة بالمخاطر، بل ما إذا كانت ستكون مستعدة عند حدوث ذلك.

والأهم من ذلك، يمكن تحقيق تقدم ملموس نحو حوكمة مسؤولة للذكاء الاصطناعي في غضون ربع سنة واحد إذا تم اتباع خط منهجي.

إجراءات فورية ومنظمة

الرسالة الأساسية واضحة: الذكاء الاصطناعي المسؤول ليس خياراً، ولا يمكن تأجيله. إنه يتطلب إجراءات فورية ومنظمة تدمج المبادئ الأخلاقية والمساءلة المؤسسية والتصميم الذي يركز على الإنسان في نظام حوكمة متماسك. والمنظمات التي لا تتخذ إجراءات لا تخاطر فقط بالإخفاقات التشغيلية، بل أيضاً بضرر مجتمعي أوسع وخسارة استراتيجية.

إن الذكاء الاصطناعي المسؤول ضرورة ملحة للأعمال، وليس مجرد طموح مستقبلي. فالمؤسسات التي تستخدم الذكاء الاصطناعي دون أطر حوكمة معرضة بالفعل لمخاطر متزايدة على سمعتها وقانونها وتشغيلها، وتتفاقم هذه المخاطر بمرور الوقت مع توسُّع الأنظمة وتعمقها.

* مجلة «فاست كومباني».


الذكاء الاصطناعي في الطب

بين عين الطبيب وعقل الخوارزمية
بين عين الطبيب وعقل الخوارزمية
TT

الذكاء الاصطناعي في الطب

بين عين الطبيب وعقل الخوارزمية
بين عين الطبيب وعقل الخوارزمية

في الطب، لا تبدأ الحقيقة دائماً بما نراه... بل كثيراً بما لا يُعرض علينا أصلاً، فالأرقام، مهما بدت دقيقة، لا تحكي القصة كاملة، والخوارزميات، مهما بلغت من ذكاء، لا تُفصح عن حدودها بصراحة.

حين تعتمد أوروبا على الذكاء الاصطناعي

تقرير أوروبي

في هذا السياق، صدر تقرير حديث عن منظمة الصحة العالمية - المكتب الإقليمي لأوروبا، ونُشر رسمياً في 20 أبريل (نيسان) 2026، ليُقدّم أول صورة شاملة عن واقع استخدام الذكاء الاصطناعي في الأنظمة الصحية داخل دول الاتحاد الأوروبي. لا بوصفه وعداً تقنياً، بل محاولة لقياس ما أصبح بالفعل جزءاً من الممارسة الطبية اليومية: مَن يستخدم هذه الأنظمة؟ كيف تُدمج في القرار السريري؟ وإلى أي حد يمكن الوثوق بها؟

ما الذي نقيسه... وما الذي يغيب عنا؟

لكن ما يلفت الانتباه في هذا التقرير، ليس فقط ما كشفه من أرقام بل ما تركه خارج القياس. فبينما يشير إلى أن نحو 64 في المائة من الدول الأوروبية باتت تعتمد الذكاء الاصطناعي في مجالات التشخيص، خصوصاً في تحليل الصور الطبية، يظل السؤال الأعمق معلقاً: هل تكفي هذه المؤشرات لفهم ما يحدث فعلاً داخل غرفة القرار الطبي؟

في مقالات سابقة، كان السؤال: مَن يقرر؟ أما اليوم، فقد تغيّر السؤال: ماذا لا نرى؟

بين الانتشار والفهم... فجوة لا تُرى

لم يعد إدخال أنظمة الذكاء الاصطناعي إلى المستشفيات تحدياً تقنياً يُذكر؛ فالنماذج قادرة اليوم على تحليل آلاف الصور الطبية في لحظات، واقتراح مسارات تشخيصية بدقة لافتة. غير أن التحدي الحقيقي لا يكمن في القدرة على الاستخدام، بل في القدرة على الفهم: ماذا تفعل هذه الأنظمة حين تعمل؟ وأين تتوقف حدودها؟

تفاوت الجاهزية البشرية والتنظيمية

يكشف تقرير منظمة الصحة العالمية عن تفاوت واضح بين الدول، لا في توفر التكنولوجيا، بل في جاهزيتها البشرية والتنظيمية؛خصوصاً في مجالات الحوكمة الأخلاقية، وتأهيل الأطباء، وإدارة البيانات. لكن هذا التفاوت الظاهر يخفي وراءه فجوة أعمق، لا تُقاس بسهولة.

إنها فجوة معرفية قبل أن تكون تقنية، فالذكاء الاصطناعي لا يعمل بمنطق الشك الذي اعتاد عليه الطبيب، ولا يعلن عن مناطق ضعفه كما يفعل العقل البشري حين يتردد. إنه يولد إجابات، لكنه لا يكشف عمّا استُبعد من الحساب، ولا عمّا لم يُمثَّل في البيانات أصلاً.

هنا يظهر ما يمكن تسميته بـ«الصمت الخوارزمي»؛ ليس بوصفه خللاً في الأداء، بل خاصية بنيوية في هذه الأنظمة: فراغ غير مرئي داخل القرار؛ حيث لا يكون الخطأ في ما قِيل، بل فيما لم يُطرح أصلاً.

هل يُقاس الطب بالخوارزميات وحدها؟

في بيئة طبية تتسارع فيها الأنظمة الذكية، يسهل اختزال جودة الرعاية الصحية في مؤشرات الأداء: دقة أعلى، وقت أقل، وقرارات أسرع. غير أن هذا القياس، على أهميته، يظل عاجزاً عن التقاط جوهر القرار الطبي. فالطب لا يقوم فقط على ما يُكتشف، بل على كيفية التعامل مع ما يظل غير محسوم.

الطبيب لا يعمل داخل معادلة مغلقة، بل داخل مساحة مفتوحة من الاحتمالات؛ حيث تُعاد صياغة القرار مع كل معلومة جديدة، ومع كل شك يظهر في الطريق. وهذا ما لا تعكسه المؤشرات الرقمية، ولا تُترجمه النماذج الحسابية بسهولة.

تفاعل الطبيب

التقرير الأوروبي يقيس مدى انتشار الذكاء الاصطناعي، لكنه لا يقيس كيفية تفاعل الطبيب مع مخرجاته: متى يقبلها؟ ومتى يعيد تفسيرها؟ ومتى يختار أن يتجاوزها؟ هذه اللحظات -التي لا تُسجل في البيانات- هي التي تُشكّل جوهر الممارسة السريرية.

وهنا تتجلى المفارقة بوضوح: كلما أصبحت الأنظمة أكثر دقة في الإجابة، ازدادت الحاجة إلى عقل قادر على إعادة طرح السؤال.

من يكتب القواعد... الإنسان أم الآلة؟

يُظهر تقرير منظمة الصحة العالمية أن الدول الأوروبية لا تتحرك بإيقاع واحد في تنظيم الذكاء الاصطناعي الطبي؛ فبعضها صاغ استراتيجيات وطنية واضحة، في حين لا يزال بعضها الآخر في طور البحث عن إطار ينظم ما يتسارع قبل أن يُفهم بالكامل.

غير أن المسألة لا تتعلق فقط بوجود القوانين، بل بطبيعة ما نحاول تنظيمه. فالذكاء الاصطناعي لم يعد أداة ثابتة يمكن إخضاعها لقواعد جامدة، بل نظام يتعلم ويتغير، وتتشكل مخرجاته من تفاعل معقد بين البيانات والسياق وطريقة الاستخدام.

وهنا تظهر مفارقة تنظيمية عميقة: نحن نكتب قواعد لأنظمة لا تتوقف عن إعادة تشكيل نفسها. فالقانون يفترض ثبات السلوك، في حين تقوم هذه الأنظمة على التحول المستمر.

لهذا، لم تعد مساءلة الذكاء الاصطناعي مساءلة تحديد «من أخطأ»، بل فهم كيف تُشكّل القرار أصلاً، ومن أين بدأ مساره. إنها مساءلة لا تبحث فقط في النتيجة، بل في البنية التي أنتجتها، وهذا ما يجعلها أقرب إلى سؤال فلسفي منه إلى إجراء تنظيمي تقليدي.

أوروبا تتقدم... فماذا عن العالم العربي؟

ما يلفت النظر في تقرير منظمة الصحة العالمية ليس فقط ما حققته أوروبا، بل ما يكشفه ضمنياً عن موقعنا نحن في هذه الخريطة المتحركة. ففي العالم العربي، تبدو الصورة غير متجانسة، بل أقرب إلى تفاوت حاد بين دول تقود التجربة، وأخرى لا تزال في بداياتها الأولى.

المملكة تقود التحول حيث يلتقي الطب بالذكاء

في المقدمة، تبرز المملكة العربية السعودية نموذجاً يقود التحول في الذكاء الاصطناعي الطبي، ضمن رؤية استراتيجية واضحة ترتبط بـ«رؤية السعودية 2030»؛ حيث لم يعد الاستخدام مقصوراً على التجريب، بل أصبح جزءاً من البنية التشغيلية في المستشفيات، ومنصات الرعاية الافتراضية، وتحليل البيانات الصحية على نطاق واسع.

تلي السعودية كل من قطر والإمارات العربية المتحدة بخطوات متفاوتة؛ حيث تتشكل منظومات واعدة، لكنها لم تصل بعد إلى مستوى التكامل الشامل الذي نشهده في التجربة السعودية.

أما بقية العالم العربي، والتي تمثل أكثر من 70 في المائة من الدول، فتتراوح بين مراحل وضع الأسس الأولية للذكاء الاصطناعي الطبي، أو غيابه شبه الكامل عن الممارسة السريرية المنظمة. وهنا لا تكون الفجوة تقنية فحسب، بل فجوة في الرؤية والتخطيط والجاهزية البشرية.

لكن التحدي الحقيقي لا يكمن في تسريع التبني فقط، بل في كيفية توجيهه. فالسؤال لم يعد: كم نظاماً نملك؟ بل: كيف نستخدمه؟ ومن يفسر نتائجه؟ وهل الطبيب العربي اليوم مُهيأ ليكون شريكاً في القرار، لا مجرد متلقٍ لمخرجاته؟

ما الذي لا يظهر في التقارير؟

ربما يكون أهم ما كشفه تقرير منظمة الصحة العالمية... هو ما لم يقله صراحة. فبين الأرقام، تختفي تفاصيل لا تُقاس: قلق طبيب شاب أمام توصية لا يفهم آليتها، أو مريض يبدأ موازنة ثقته بين الإنسان والنظام.

هذه المساحات غير المرئية ليست هامشية، بل هي التي تُشكّل جوهر القرار الطبي؛ حيث تتقاطع الدقة مع الشك، والتوصية مع المسؤولية.

الخلاصة: السؤال الذي تغيّر

في نهاية المطاف، لا يكمن السؤال فيما إذا كان الذكاء الاصطناعي سيُستخدم في الطب، بل في مَن يقود القرار حين يلتقي الإنسان بالخوارزمية.

في هذا العصر، لم تعد الأخطاء تختبئ فقط في القرارات الخاطئة، بل في القرارات التي لم تُتخذ، وفيما لم يُعرض أصلاً على طاولة التفكير السريري. ولهذا، لم يعد السؤال: هل أخطأ النظام؟ بل أصبح:

ما الذي لم نره... وكان ينبغي أن يكون جزءاً من القرار؟


«ناسا» تكشف عن تلسكوب سيوفر «أطلساً جديداً للكون»

صحافي يلتقط صورة للتلسكوب الفضائي الجديد «رومان» (أ.ف.ب)
صحافي يلتقط صورة للتلسكوب الفضائي الجديد «رومان» (أ.ف.ب)
TT

«ناسا» تكشف عن تلسكوب سيوفر «أطلساً جديداً للكون»

صحافي يلتقط صورة للتلسكوب الفضائي الجديد «رومان» (أ.ف.ب)
صحافي يلتقط صورة للتلسكوب الفضائي الجديد «رومان» (أ.ف.ب)

كشفت وكالة الفضاء الأميركية (ناسا) عن تلسكوبها الفضائي الجديد «رومان» القادر على مسح أجزاء شاسعة من الكون بحثاً عن كواكب خارجية، وكذلك عن إجابات لأكبر الألغاز الفيزيائية المتمثلة في المادة والطاقة المظلمتين.

ونقلت «وكالة الصحافة الفرنسية» عن مدير «ناسا» جاريد آيزاكمان قوله أمس (الثلاثاء) من مركز غودارد التابع للوكالة في ولاية ماريلاند (شرق الولايات المتحدة)، إن هذا التلسكوب من الجيل الأحدث «سيوفِّر لكوكب الأرض أطلساً جديداً للكون».

وسيُنقل التلسكوب الذي يتجاوز طوله 12 متراً والمزوَّد ألواحاً شمسية ضخمة إلى فلوريدا، تمهيداً لإرساله إلى الفضاء في أقرب وقت مطلع سبتمبر (أيلول)، بواسطة صاروخ تابع لشركة «سبيس إكس».

وأُطلقت تسمية «رومان» على هذا التلسكوب الذي فاقت تكلفته 4 مليارات دولار، تيمناً بنانسي غريس رومان، إحدى أهم عالمات الفلك الأميركيات، والملقبة بـ«أم هابل»، نسبة إلى تلسكوب «هابل» الشهير التابع لـ«ناسا».

ومن نقطة مراقبة تبعد 1.5 مليون كيلومتر عن كوكب الأرض، سيمسح «رومان» مناطق شاسعة من السماء، بفضل مجال رؤيته الواسع الذي يفوق مجال رؤية «هابل» بأكثر من مائة مرة.

وقال مهندس الأنظمة في مهمة «رومان» مارك ميلتون، لـ«وكالة الصحافة الفرنسية»، إن التلسكوب الجديد سيُرسِل إلى الأرض «11 تيرابايت من البيانات يوميّاً، ما يعني أن كمَّ البيانات التي سيوفِّرها في السنة الأولى وحدها يفوق ما جمعه تلسكوب هابل طوال فترة عمله» منذ دخوله الخدمة قبل 35 عاماً.

وتوقَّعت المسؤولة عن الأنشطة العلمية في «ناسا» نيكي فوكس، أن يتيح «رومان» بفضل عدسته الواسعة الزاوية «اكتشاف عشرات الآلاف من الكواكب الجديدة»، فضلاً عن «آلاف المستعرات العظمى» أي النجوم الضخمة التي شارفت دورة حياتها نهايتها.

لكنَّ «رومان» يهدف أيضاً إلى دراسة ما هو غير مرئي، أي دراسة المادة والطاقة المظلمتين اللتين يُعتقد أنهما تمثِّلان 95 في المائة من الكون.

وبفضل الأشعة تحت الحمراء، سيتمكَّن «رومان» من رصد الضوء المنبعث من أجرام سماوية قبل مليارات السنين، والعودة بذلك إلى الماضي، لفهم هاتين الظاهرتين الغامضتين بصورة أفضل.