تحيزات خفية داخل الأنظمة اللوغاريتمية

الواضح أن الرئيس دونالد ترمب لا تروق له الأخبار التي يطالعها عن نفسه عبر «غوغل» و«فيسبوك» و«تويتر». ولذلك وجه اتهامات لهذه المواقع بالتحايل ضده - وضد جميع أنصار التيار المحافظ بصورة عامة.
ورغم السخف الذي قد يبدو عليه ادعاء ترمب فإنه يحمل بعض الوجاهة.
قد يكون ترمب على خطأ بخصوص فكرة أن هذه المواقع الإلكترونية الكبرى التي تعمل بمثابة حراس على بوابات شبكة الإنترنت تقمع عمداً وجهات نظر التيار المحافظ والقصص الإيجابية المتعلقة بترمب. في الواقع نجد أن مواقع مثل «تويتر» فعلت النقيض تماماً بإضفائها قوة أكبر على صوت ترمب.
ومع هذا فإن ترمب محق في قلقه بخصوص التحيز؛ هذا التحيز قائم بالتأكيد ويمثل مشكلة حقيقية في وقت لا تتعامل الشركات التكنولوجية العملاقة المعنية بهذه المشكلة معها بالقوة الكافية.
والاحتمال الأكبر أن الشركات صادقة في تأكيدها أنها غير منحازة سياسياً. الحقيقة أن مصدر انحياز هذه الشركات تجاري محض، وذلك لأنها عندما تقدم العون لجهات الإعلانات لاستغلال نقاط ضعف الأفراد وغرائزهم فإنها تسعى من وراء ذلك إلى تعظيم الفوائد التي تجنيها وليس خدمة آيديولوجية بعينها. ومع هذا وحتى لو كان الدافع محايداً سياسياً فإن النتيجة ربما لا تكون كذلك. وقد تشعل النتيجة نظريات المؤامرة أو تشجع الرافضين للقاحات والتطعيم أو تنشر خطابات تنمي مشاعر الكراهية الرامية لتحفيز الناس على قتل مسلمي الروهينغا في بورما.
ومن الممكن إدارة التحيزات إذا أقرت الشركات بمسؤوليتها لكنها لم تفعل ذلك حتى الآن، وإنما تسارع إلى مقابلة أي تعبير عن القلق بالرفض الفوري، وبذلك تغيب المراقبة الحقيقية عن هذه المواقع الإلكترونية الكبرى. وعندما يجري اكتشاف وجود تحيز ما، وهو ما يحدث كثيراً، تطرح الشركات حلولاً مصممة للتعامل مع حالات بعينها وتفعل كل ما بوسعها للتظاهر بأن الأمر ليس بالخطير، ولذلك تصبح هذه الشركات بمرور الوقت هدفاً لادعاءات غاضبة كتلك التي أعلنها ترمب.
ويبدو الخطر القائم جلياً في الأسلوب الذي تلاعب من خلاله اليمين المتطرف في الرسالة التي حملها كتابي الأخير الذي حذرت خلاله من وجود تحيزات خفية داخل الأنظمة اللوغاريتمية التي تؤثر على كل شيء من حولنا بداية من قرارات ترقية المعلمين وصولاً إلى العقوبات بالسجن. وكان الحل الذي اقترحته محاسبة من يصوغون هذه الأنظمة. وشرحت في ثنايا الكتاب بعض السبل التي يمكن من خلالها تحقيق ذلك وبينها التنظيم الفيدرالي.
ومع هذا فوجئت بأنه في مراجعته للكتاب، ركز موقع «بريتبارت» اليميني المتطرف على الجزء الأول فقط من الكتاب حول كيف أن أنظمة لوغاريتمات تخضع لملكية خاصة تمدنا بمعلومات متحيزة. ونشر الموقع مراجعة الكتاب تحت عنوان «كيف تدير اللوغاريتمات العالم سراً». وبذلك انتقى الموقع تحديداً العناصر الأكثر قدرة على تقويض الثقة في وجود أي حقيقة موضوعية حولنا - وأعتقد أن هذه على وجه التحديد المهمة التي يسعى وراءها موقع «بريتبارت».
وإذا استمرت الشركات التكنولوجية الكبرى في تجنب تحمل مسؤوليتها، فإنها بذلك تخدم أجندة «بريتبارت» وسوف تستمر التحيزات في الظهور ويستمر الناس في افتراض أنه ليس ثمة شيء حقيقي أو موثوق به حتى يعايشوه بصورة مباشرة. وإذا بدا لك هذا الطرح غير منطقي عليك أن تتذكر أن الفيديوهات والملفات السمعية المفبركة تبدو اليوم مقنعة تماماً - حقيقة يحاول ترمب بالفعل استغلالها للإيحاء بأن تصريحاته التي تدينه وأطلقها عبر التلفزيون في بث مباشر «مزيفة» بصورة ما.
على الجانب الآخر سيدفع أنصار الشركات بأن التحيز كان دائماً موجوداً. وهذا صحيح، لكن في الماضي كان لدينا محررون وحراس آخرون من بني البشر يتحملون المسؤولية. أما اليوم فليس لدينا سوى أجهزة كومبيوتر يسيطر عليها أشخاص منحناهم سلطات بالغة الضخامة. ولذلك نحن اليوم بحاجة لإعادة ابتكار نموذج تجاري يشدد بوضوح على السياسة والمساءلة من أجل خدمة مصالح هذه المؤسسات ومصلحة البلاد ككل.
* بالاتفاق مع «بلومبيرغ»