مات ليفين
TT

حيرة بين الروبوتات والإنسان

في الأيام القديمة، كان داخل كل مدينة بنك محلي، وكان صاحب المصرف المحلي يرتبط بشبكة علاقات متينة مع أفراد داخل المدينة تمكنه من إصدار أحكام دقيقة على مدى جدارة الأفراد بالحصول على اعتمادات. وإذا قابلك مثلاً، وتعرف إلى والديك وانبهر بمصافحتك القوية ليده، فإن هذا يشجعه على اتخاذ قرار بمنحك قرضاً. أما إذا قابلك في حفل بهيج ورأى أن والديك لا يتحليان بالشعور بالمسؤولية ورأى أن عينيك زائغتان، فإنه لن يقدم على إعطائك قرضاً مهما بلغت قوة الضمانات التي تقدمها. في ذلك الوقت، كان المحدد الرئيسي لاستحقاق الشخص للحصول على اعتماد شخصيته، وكانت مهمة المصرفي تقييم شخصية المقترض.
بعد ذلك، تحولت المصارف إلى مؤسسات متعددة الجنسيات، ولم يعد بمقدورها الاعتماد في عملها على مثل تلك العلاقات الشخصية العميقة في إصدار قرارات تتعلق بالاعتمادات. وعليه، تحولت مسألة منح القروض إلى عملية إصدار أحكام جافة خالية تماماً من أي اعتبارات شخصية، وتعتمد على معايير عملية مثل معدل الدين بالنسبة للدخل.
وكثيراً ما يجري سرد هذه القصة بهدف الإشارة ضمنياً إلى أن الأساليب القديمة كانت أكثر دقة - بمعنى أن المعرفة الشخصية العميقة والتوجهات المصرفية المحافظة أدت لاتخاذ قرارات أفضل على صعيد الاعتمادات المصرفية عن المؤشرات الرقمية الخالصة - وإن كنت غير واثق بمدى صحة ذلك.
في الحقيقة، لم يسبق لي قط الاطلاع على دراسة تجريبية حول العلاقة بين المصافحة القوية لليد ومدى جدارة المرء للحصول على اعتماد. والواضح أن الأساليب القديمة كانت عرضة لتحيزات واضحة. على سبيل المثال، خلصت دراسة حديثة إلى أن القروض التلقائية (الخاضعة لإدارة بشرية) تميل للتمييز ضد المقترضين المنتمين لأقليات أكثر عن (من الناحية الإحصائية البحتة) المؤسسات المصدرة لبطاقات الاعتماد. على أي حال، تبقى النقطة الرئيسية أن الأساليب الجديدة أسرع وأرخص وأكثر قابلية للتمديد، ذلك أنه إذا كنت مؤسسة لها وجود في كل مكان، من الصعب الاعتماد على المعرفة المحلية، وبالتالي ستلجأ بدلاً من ذلك إلى اللوغاريتمات.
إلا أنه في الوقت الذي كان لفظ «لوغاريتمات» يعني شيئاً أقرب إلى «تقسيم القرض حسب دخل العميل»، فإن اللفظ يحمل اليوم وعوداً بقدر من الدقة لا نهاية له. وفيما يلي سوف أسرد عليكم قصة حول جهات الإقراض التلقائي التي تعتمد على التعلم الآلي في تقييم مدى جدارة المقترضين:
قالت لي إحدى السيدات: «ما سمح لنا الذكاء الصناعي والتعلم الآلي به هو الحصول على رؤية أوسع بكثير تجاه العملاء، وسوف نتمكن من تقديم قروض إلى مزيد من الأشخاص الذين كانوا غير مرئيين بالنسبة لنا من قبل»، بفضل تسليط مزيد من البيانات الضوء على استحقاقهم للاعتمادات.
من جهته، لا ينظر الكومبيوتر إلى مؤشرات خام فحسب، وإنما يتفحص بعمق القصة الحقيقية القائمة خلف هذه الأرقام، بمعنى أنه بدلاً من النظر ببساطة إلى ما إذا كان المقترض المحتمل تقدم من قبل قط بطلب لإشهار إفلاسه، على سبيل المثال، ساعد نظام التعلم الآلي «برستيج» على تحديد العوامل المرتبطة بالإفلاس، وتحليل هذه البيانات مع عوامل أخرى متنوعة، منها سجلات مدفوعات السيارة السابقة، والفترة التي قضاها العميل في مقر إقامته الحالي.
وإذا كنت ممن يراودهم الحنين للأساليب القديمة المعتمدة على التقييم البشري الفردي، فهذا أمر لا بأس به، فجهات الإقراض تجري تقييمات شاملة لحياة فرد ما وشخصيته، بدلاً من الاعتماد على أرقام خام. وعادة ما يخالجني الشعور بالتفاؤل إزاء مثل هذه الأمور، وأميل للاعتقاد بأن اللوغاريتمات المعتمدة على التعلم الآلي سينتهي بها الحال إلى إصدار قرارات أفضل فيما يخص بالإقراض عن الأشخاص المحليين الذين يعتمدون في تقييم للشخص على قوة مصافحته وكذلك الآليات الرقمية البسيطة.
وتظل الحقيقة أن الأسلوب القديم للتقييم الذي كان يعتمد عليه المصرفيون كان غامضاً في جوهره ويصعب التنبؤ به وعرضة للتحيزات والأهواء، لكن على الأقل كان الشخص المسؤول يجلس على الطرف المقابل لك من المكتب ويصافح يديك. أما تقييم اللوغاريتمات لشخصيتك فغامض ويتعذر التنبؤ بنتائجه (على الأقل بالنسبة لك) وربما يكون عرضة للتحيزات، ولا يتوافر أمامك إطار بشري يمكنك اللجوء إليه لمحاولة إصلاح الأمر، ولا سبيل أمامك لاتهام اللوغاريتمات بالغباء أو سوء التقدير.
ورغم أن القصة السابقة تدور حول الإقراض، فإنها في حقيقتها قصة حول حياة ما بعد الحداثة بوجه عام. في الأيام الغابرة، عاش الناس على مستوى بشري صغير كانوا في إطاره على صلات عميقة ببعضهم بعضاً وكانوا على دراية بأعمال بعضهم بعضاً أيضاً. بعد ذلك، جاء العصر الحديث وأصبح الناس أكثر استقلالية وزادت هوياتهم غموضاً، وازدادت الروابط التي تشدهم إلى مجتمعاتهم ضعفاً، لكنهم في الوقت ذاته ازدادوا حرية. ولاحقاً، ظهر «فيسبوك» والآن أصبح لدينا بصورة ما أسوأ الأوضاع على الإطلاق: فالجميع يعرف عن أعمال الجميع، لكن على نحو غير بشري وبعيد.
- بالاتفاق مع «بلومبرغ»