في ممرات قصر الأمم بجنيف؛ حيث يلتقي العلم بالدبلوماسية، يتردّد سؤال واحد بين أروقة «قمة الذكاء الاصطناعي لأجل الخير» لعام 2025: هل يمكن أن تتعلم الآلة كيف تكون عادلة، ورحيمة، وإنسانية؟
حدود الأخلاقية والمسؤولية
هنا، لا تَحتدم النقاشات حول قدرات الذكاء الاصطناعي الخارقة، بل حول حدوده الأخلاقية ومسؤوليته تجاه الإنسان. في عصر باتت فيه الخوارزميات تحسم مصير وظائف، وتعطي توصيات طبية، وتُقيّم طلبات لجوء، لم يعد كافياً أن نسأل: «ماذا يستطيع الذكاء الاصطناعي أن يفعل؟»، بل بات الأهم أن نسأل: «ما الذي ينبغي عليه ألا يفعله؟».
ومع ازدياد الاعتماد العالمي على الأنظمة الذكية، تتقدم إلى الواجهة قضايا مثل التحيز الخفي، والشفافية، والمساءلة، والعدالة الرقمية. مَن يُدرّب الخوارزميات؟ وفق أي قيم؟ ومن يضمن ألا تتحول الآلات الذكية إلى أدوات للتمييز بدلاً من المساواة؟
إطار سعودي لحوكمة الذكاء الاصطناعي
في هذا السياق، تتقدّم المملكة العربية السعودية برؤية رائدة، كونها أول دولة في الشرق الأوسط تضع إطاراً وطنياً شاملاً لحوكمة الذكاء الاصطناعي، يستند إلى مبادئ الأخلاق والعدالة والشفافية. وقد حرصت المملكة -من خلال الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا)- على أن يكون الذكاء الاصطناعي جزءاً من مشروع وطني يخدم الإنسان ويحفظ القيم.
ولا تكتفي رؤية المملكة بتبني التقنية، بل تسعى إلى قيادتها بمنظور إنساني يعكس طموحها في أن تكون مركزاً عالمياً متقدماً في مجال الذكاء الاصطناعي المسؤول.
قمة جنيف لأخلاقيات الذكاء الاصطناعي
وتأتي قمة جنيف -التي تُنظَّم هذا العام تحت رعاية الاتحاد الدولي للاتصالات (ITU)، وبالشراكة مع برنامج الأمم المتحدة للذكاء الاصطناعي لأجل التنمية- لتضع هذا الملف على رأس أولوياتها. فقد اختارت القمة شعاراً محورياً هو: «أخلاقيات الذكاء الاصطناعي»، في دعوة صريحة نحو وضع ميثاق عالمي يضمن استخداماً عادلاً، وآمناً، وشفافاً للتقنيات الذكية، وبما يُعزز العدالة الاجتماعية، ويحمي الحقوق الرقمية للبشر حول العالم.
حين تُخطئ الخوارزمية... مَن يتحمّل العواقب؟
الخوارزميات التي نُطلق عليها صفة «الذكاء» ليست سوى مرايا رقمية تعكس طبيعة البيانات التي دُرّبت عليها. وإذا كانت هذه البيانات مشوّهة أو منحازة، انعكس الانحياز بدوره في قرارات الآلة. هنا لا يعود الخطأ تقنياً فحسب، بل أخلاقياً وهيكلياً.
في تقرير مهم نُشر في عام 2024 في مجلة «Nature Machine Intelligence»، حذّر الخبراء من أن العديد من الأنظمة الذكية -بما في ذلك أدوات التوظيف الرقمية والتقييمات البنكية الآلية- قد تُكرّس أشكالاً غير مرئية من التمييز ضد النساء والأقليات، بسبب ما وصفه بـ«التحيّز البنيوي في البيانات».
في مثل هذه الحالات، لا يكفي أن نتقن كتابة الشيفرات، بل ينبغي أن نسأل: مَن يُحاسب حين تتسبب الخوارزمية في ظلم إنسان؟ ومن هنا تبرز الحاجة إلى حوكمة أخلاقية صارمة، تُلزم المطورين والمؤسسات بالمسؤولية الكاملة عن نتائج أدواتهم، لا الاكتفاء بجودة التصميم أو دقة الأداء.
السعودية أولاً... مرجعية عربية في أخلاقيات الذكاء
في قلب النقاشات العالمية حول أخلاقيات الذكاء الاصطناعي، تبرز المملكة العربية السعودية بصفتها صوتاً ريادياً في المنطقة، كونها أول دولة في الشرق الأوسط تضع سياسة وطنية شاملة لحوكمة الذكاء الاصطناعي. فقد أطلقت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) هذه السياسة في عام 2022، واضعةً الأسس الأخلاقية لاستخدام التقنيات الذكية بما يخدم الإنسان أولاً.
وتنصّ الوثيقة الرسمية المنشورة على موقع «سدايا» على أربعة محاور رئيسية:
* الشفافية والعدالة واحترام حقوق الإنسان.
* مساءلة المطورين والمستخدمين عن نتائج استخدام الذكاء الاصطناعي.
* وضع معايير صارمة لحماية البيانات الشخصية.
* تعزيز الثقة المجتمعية في التقنيات الذكية.
وقد حظيت هذه المبادرة باهتمام دولي متزايد، خصوصاً بعد أن استضافت الرياض القمة العالمية للذكاء الاصطناعي في نسختيها لعامي 2022 و2023، بحضور وفود من أكثر من 90 دولة، وبشراكات فاعلة مع جهات مرجعية، مثل منظمة اليونيسكو، والمنتدى الاقتصادي العالمي، ومبادرة منظمة التعاون الاقتصادي والتنمية (OECD) حول الذكاء الاصطناعي المسؤول.
إنّ ما تقدمه المملكة اليوم ليس مجرد نموذج محلي للحَوْكمة، بل مرجعية عربية طموحة تُعيد تعريف العلاقة بين التكنولوجيا والإنسان من منظور أخلاقي وإنساني متجذّر في الثقافة الإسلامية وقيم العدالة العالمية.
تسليط الضوء على الأخلاقيات
في كلمته الافتتاحية لقمة جنيف 2025، دعا الأمين العام للاتحاد الدولي للاتصالات، دورين بوغدان-مارتن، إلى «وضع إطار قانوني عالمي لاستخدام الذكاء الاصطناعي بما يحترم الكرامة الإنسانية»، محذّراً من «فجوة أخلاقية» تسبق الفجوة الرقمية بين الدول.
وتُشارك السعودية حالياً في صياغة هذا الإطار عبر عضويتها في المجلس الاستشاري الدولي لأخلاقيات الذكاء الاصطناعي، الذي أُنشئ ضمن تحالف عالمي ترعاه الأمم المتحدة، ويُشارك فيه خبراء من أكثر من 30 دولة.
نحو دستور رقمي عالمي: أبرز محاضرات القمة
من بين أبرز محاضرات قمة جنيف هذا العام، كانت الكلمة الافتتاحية للدكتورة بيغي هيكس، مديرة شؤون الانخراط في مكتب مفوضية الأمم المتحدة السامية لحقوق الإنسان، التي أكَّدت أن «الذكاء الاصطناعي ليس محايداً بطبيعته، بل يعكس خياراتنا نحن البشر». ودعت إلى وضع «دستور أخلاقي رقمي» عالمي يُنظّم استخدام الذكاء الاصطناعي، بما يحمي الكرامة الإنسانية، ويراعي الفروقات الثقافية بين الشعوب. وقد لاقت كلمتها تفاعلاً واسعاً، خصوصاً مع مشاركة ممثلين عن أكثر من 100 دولة ومنظمات دولية مثل «اليونيسكو»، ومنظمة الصحة العالمية، والمنتدى الاقتصادي العالمي في نقاش مفتوح لصياغة إطار عالمي لأخلاقيات الذكاء الاصطناعي.
الخصوصية... في مهب الريح
في عصر تتحوّل فيه البيانات الشخصية إلى سلعة رقمية، تُدق أجراس الإنذار بشأن انتهاك الخصوصية، لا سيما حين تُسخّر تقنيات الذكاء الاصطناعي في المراقبة واسعة النطاق دون ضوابط قانونية.
وفي مواجهة هذا التحدي، تتحرك الدول الواعية لوضع أطر قانونية تحمي مواطنيها، وهنا تبرز المملكة العربية السعودية مثالاً على هذا الاتجاه؛ إذ أقرت مؤخراً اللائحة العامة لحماية البيانات الشخصية، الصادرة عن الهيئة الوطنية للأمن السيبراني، لتكون بمثابة مظلة تشريعية تضمن تنظيم جمع ومعالجة وتخزين البيانات وفق معايير شفافة ومُلزِمة، بما يُعزز الثقة الرقمية، ويحفظ كرامة الأفراد في الفضاء الإلكتروني.
هل للذكاء الاصطناعي ضمير؟
في عمق المختبرات والمراكز البحثية، لا ينحصر طموح العلماء في تطوير ذكاء يحاكي قدرات الإنسان، بل يمتد نحو ما يُعرف اليوم بـ«الذكاء الأخلاقي الآلي» (Machine Moral Reasoning)، محاولة لتعليم الآلة: كيف تفرّق بين الصواب والخطأ.
من معهد ماساتشوستس للتقنية (MIT) إلى جامعة ستانفورد، وصولاً إلى جامعة الملك عبد الله للعلوم والتقنية (كاوست) في السعودية، تُجرى أبحاث متقدمة لدمج مفاهيم «الفلسفة الأخلاقية والمنطق الرياضي» داخل بنية الخوارزميات، بحيث تُصبح قرارات الذكاء الاصطناعي أكثر عدلاً وإنصافاً، خصوصاً في مجالات حساسة مثل الرعاية الصحية، والعدالة الجنائية، والتوظيف.
لكن، ورغم هذا التقدم، يبقى السؤال مفتوحاً: هل يمكن للآلة أن تمتلك «ضميراً رقمياً»؟ هل تستطيع التمييز بين الإنصاف والإجحاف... بين النية الطيبة والخداع؟
ما زال الجواب مُعلّقاً في المستقبل، لكنه بالتأكيد يبدأ من قرارات الحاضر، ومن التزام البشر بوضع القيم في قلب التكنولوجيا، لا على هامشها.
