كشفت مجلة «نيوساينتست» اليوم، أن آلاف الموظفين الحكوميين في قلب حكومة المملكة المتحدة، بمن فيهم أولئك الذين يعملون بشكل مباشر مع رئيس الوزراء كير ستارمر، يستخدمون روبوت دردشة خاصاً بالذكاء الاصطناعي لأداء عملهم، كما كتب كريس ستوكيل - ووكر(*).
أدوات الذكاء الاصطناعي داخل الحكومة
وقد رفض المسؤولون الإفصاح رسمياً عن كيفية استخدام هذه الأداة، وما إذا كان ستارمر يتلقى نصائح مُعدّة باستخدام الذكاء الاصطناعي، أو كيف يُخفف موظفو الخدمة المدنية من مخاطر نتائج الذكاء الاصطناعي غير الدقيقة أو المتحيزة. ويقول الخبراء إن عدم الإفصاح يثير مخاوف بشأن دقة المعلومات في عمل الحكومة.
«الصندوق الأحمر» الذكي
استخدمت «نيوساينتست» قوانين حرية المعلومات (FOI) لطلب سجلات من 20 إدارة حكومية حول تفاعلاتها مع أداة ريدبوكس Redbox (الصندوق الأحمر) للذكاء الاصطناعي التوليدي طُوّرت داخلياً وجُرّبت على موظفي الحكومة البريطانية.
ويسمح روبوت المحادثة الكبير هذا، المُدار بنموذج لغوي كبير، للمستخدمين بالاطلاع على الوثائق الحكومية و«إعداد مسودات أولية للإحاطات» بالمعلومات، وفقاً لأحد الأشخاص الذين يقفون وراء تطويره. وشهدت التجارب الأولية ادعاء أحد موظفي الخدمة المدنية بأنه قام بتلخيص 50 وثيقة «في غضون ثوانٍ»، بدلاً من قضاء يوم عمل كامل.
رفض حكومي للتعاون الإعلامي
أفادت جميع الإدارات التي تم التواصل معها إما بعدم استخدام ريدبوكس وإما رفضها تقديم نصوص التفاعلات مع الأداة، مدّعية أن طلبات مجلة «نيوساينتست» كانت «مزعجة»، وهو مصطلح رسمي يُستخدم في الرد على طلبات حرية المعلومات التي يُعرّفها مكتب مفوض المعلومات بأنها «من المحتمل أن تُسبب مستوى غير متناسب أو غير مبرر من الضيق أو الاضطراب أو الانزعاج».
مع ذلك، قدّمت إدارتان بعض المعلومات. إذ صرّح مكتب مجلس الوزراء، الذي يدعم رئيس الوزراء، بأن 3000 شخص في إدارته شاركوا فيما مجموعه 30000 محادثة مع ريدبوكس. وذكر المكتب أن مراجعة هذه المحادثات لحذف أي معلومات حساسة قبل نشرها بموجب قوانين حرية المعلومات ستتطلب أكثر من عام من العمل. كما رفضت وزارة الأعمال والتجارة الرد، مشيرة إلى أنها تحتفظ «بأكثر من 13000 رسالة وإجابة»، وأن مراجعتها لنشرها لن تكون مجدية.
وعند طرح أسئلة متابعة حول استخدام ريدبوكس، أحالت الوزارتان المجلة إلى وزارة العلوم والابتكار والتكنولوجيا (DSIT)، المشرفة على الأداة. إلا أن الوزارة رفضت الإجابة عن أسئلة محددة حول ما إذا كان رئيس الوزراء أو وزراء آخرون في الحكومة يتلقون نصائح مُعدّة باستخدام أدوات الذكاء الاصطناعي.
أداة لتلخيص الوثائق
وصرح متحدث باسم وزارة العلوم والابتكار والتكنولوجيا للمجلة بأنه «لا ينبغي لأحد أن يُضيّع وقته في شيء يُمكن للذكاء الاصطناعي القيام به بشكل أفضل وأسرع. إن ريدبوكس، المُصمم في مقر الحكومة البريطانية، يُساعدنا على تسخير قوة الذكاء الاصطناعي بطريقة آمنة ومأمونة وعملية، مما يُسهّل على المسؤولين تلخيص الوثائق ووضع مسودات جداول الأعمال وغيرها».
قلق الخبراء من التحيّز
لكن استخدام أدوات الذكاء الاصطناعي التوليدي يُثير قلق بعض الخبراء. فنماذج اللغات الكبيرة تُعاني من مشاكل موثقة جيداً تتعلق بالتحيز والدقة، ويصعب معالجتها، لذا لا سبيل لدينا لمعرفة ما إذا كان ريدبوكس يُقدم معلومات عالية الجودة. وقد رفضت الوزارة الإجابة عن أسئلة مُحددة حول كيفية تجنّب مستخدمي Redbox هذه الأداة للأخطاء أو التحيز.
نقص الشفافية
تقول كاثرين فليك من جامعة «ستافوردشاير»، بالمملكة المتحدة: «من المفترض أن تخدم الحكومة الجمهور، وجزء من هذه الخدمة هو أن نتمتع بقدرٍ مُعين من فهم كيفية اتخاذ القرارات وماهية العمليات المتعلقة بها». ولأن أدوات الذكاء الاصطناعي التوليدي تُعد بمثابة «صناديق سوداء»، تُعرب فليك عن قلقها من صعوبة اختبار أو فهم كيفية وصولها إلى مُخرجات مُعينة، مثل إبراز جوانب مُعينة من وثيقة ما على حساب جوانب أخرى. وتُضيف أن عدم رغبة الحكومة في مُشاركة هذه المعلومات يُقلل من الشفافية بشكل أكبر.
وزارة الخزانة تستخدم «جي بي تي»
ويمتد هذا النقص في الشفافية إلى وزارة حكومية ثالثة، وهي وزارة الخزانة. رداً على طلب حرية المعلومات، أبلغت وزارة الخزانة مجلة «نيوساينتست» أن موظفيها لا يستطيعون الوصول إلى ريدبوكس، وأن «أدوات (جي بي تي) المتاحة داخلياً في وزارة الخزانة لا تحتفظ بسجلات الإشعارات». ليس من الواضح تحديداً أي أداة «جي بي تي» تشير إليها هذه العبارة - فبينما يُعد ChatGPT المثال الأشهر، تُعرف نماذج اللغات الكبيرة الأخرى أيضاً باسم GPTs. ويشير الرد إلى أن وزارة الخزانة تستخدم أدوات الذكاء الاصطناعي، لكنها لا تحتفظ بسجلات شاملة لاستخدامها. لم تستجب وزارة الخزانة لطلب «نيوساينتست» للتوضيح. وتقول فليك: «إذا لم يحتفظوا بالإشعارات المستخدمة، فمن الصعب تكوين فكرة عن كيفية تكرار عمليات صنع القرار هناك».
ويعلق جون باينز، من شركة المحاماة البريطانية «ميشكون دي ريا»، أن اختيار عدم تسجيل هذه المعلومات أمر غير معتاد. ويضيف: «أجد من المدهش أن الحكومة تقول إنها لا تستطيع استرجاع الإشعارات المُدخلة في أنظمة (جي بي تي) الداخلية الخاصة بها».
وفي حين قضت المحاكم بعدم إلزام الهيئات العامة بالاحتفاظ بسجلات عامة قبل الأرشفة، يقول باينز: «حوكمة المعلومات الجيدة تُشير إلى أهمية الاحتفاظ بالسجلات، خصوصاً عندما يحتمل استخدامها لتطوير السياسات أو نشرها».
* مجلة «نيوساينتست»، خدمات «تريبيون ميديا».
