الخوف من تفوق الذكاء الصناعي

يبدأ كتاب «الذكاء الفائق» لنيك بوستروم الصادر عام 2014، وهو نص مهم لمجتمع القلقين من مخاطر الذكاء الصناعي، بحكاية خرافية رمزية عن مجموعة من العصافير تشعر بالقلق من أن يكون وجودها هامشياً، وتصبح مقتنعة بأن كل شيء سوف يصبح أفضل إذا حظيت ببومة لتساعدها في بناء الأعشاش، والرعاية، والتغذية، وحراستها من الطيور المفترسة المعتدية. تقرر العصافير، تحت الوقع والتأثير الساحر لهذه الفكرة، الخروج لاصطياد بيضة بومة، أو فرخ بومة، تربيه مثل واحد منها.
سكرونكفينكل فقط، وهو «عصفور ذو عين واحدة مضطرب المزاج»، يوضح أنه ربما ينبغي على العصافير التفكير في مخاطر العيش مع بومة بالغة، والنظر أولاً في ترويضها وتدجينها. مع ذلك يتم الاعتراض على فكرته على أساس أن الحصول على بومة سوف يكون صعباً بالأساس، وسوف يكون هناك وقت للشعور بالقلق من ترويضها بمجرد الحصول عليها وتربيتها.
لذا في حين طارت العصافير الأخرى للبحث عن بيض وفراخ، حاول سكرونكفينكل وعدد قليل من العصافير الأخرى، التفكير في مشكلة الترويض، وهو تحدٍ صعب بالنظر إلى عدم وجود بومة تعمل مع العصافير، مع الخوف من عودة رفاقهم في أي لحظة ومعهم بومة صغيرة مما يمثل اختباراً صعباً قاسياً لنظرياتهم الأولية العامة.
إنها حكاية خرافية رمزية متقنة عما يعتقد الأشخاص القلقون من الذكاء الصناعي بأنه يحدث حالياً. تمثل قوة الذكاء الصناعي، الصاعدة بوتيرة متسارعة على نطاق عام من خلال برامج الدردشة الآلية وتطبيقات توليد الصور، فرخ بومة آخذاً في النمو في عشنا، ولا يزال القلقون منه غير مستعدين لترويضه بعد.
وفي خطوة مستلهمة من روح سكرونكفينكل، وقّعت مجموعة من الشخصيات البارزة في وادي السيليكون (سيليكون فالي)، من بينهم إيلون ماسك، على خطاب مفتوح يناشد وقف تجارب الذكاء الصناعي، التي تتم على نطاق واسع، لمدة 6 أشهر على الأقل؛ لإتاحة الانتهاء من بروتوكولات الأمن والسلامة الخاصة بنا.
مع ذلك هناك اختلاف جوهري بين الحكاية الخرافية ووضعنا، وهو ما يساعد في تفسير السبب الذي يجعل مهمة المطالبين بذلك التوقف من البشر أصعب من مهمة سكرونكفينكل.
ينبغي ملاحظة أن العصافير، مع كل سذاجتها، تعلم على الأقل بوجه عام شكل البومة وكينونتها وما تفعله. لذا لن يكون من الصعب عليهم، كما هو ليس صعباً على القارئ، تصور قوى تلك البومة غير المروّضة وما يمكن أن تحدثه. إنها قوى مألوفة تتضمن السرعة، وحدة البصر، والقوة العضلية، التي يمكنها تمزيق والتهام عشيرة العصافير سيئة الحظ.
مع ذلك وفي ظل وجود الذكاء الفائق، الذي لا يزال خيالاً وتصوراً ذهنياً حتى هذه اللحظة، المقصد هنا هو عدم وجود شيء مماثل في الوقت الحالي يمكننا ملاحظته ومراقبته، وفهمه، وتعلّم خشيته.
ليس لدى الأشخاص القلقين سيناريو مخاطر بسيط، أو وصف واضح للمخالب والمنقار، وإن كان لديهم كثير من سيناريوهات تتسم بعدم اليقين، مستندة إلى تكهن يتضمن درجة أكبر من عدم اليقين بشأن ما قد يتمتع به ذكاء أكبر منا بشكل ما من قوة وقدرة.
إن هذا لا يجعل من حججهم خاطئة، فحقاً يمكن للمرء القول إن عدم اليقين بدرجة كبيرة يجعل هذا الذكاء الصناعي الفائق جديراً بإثارة الخوف والقلق. مع ذلك بوجه عام عندما يبدأ البشر في التصدي إلى تكنولوجيا، أو الاتجاه نحو تقييدها، تكون لدينا فكرة جيدة عما نخشى حدوثه، وعن تنبؤ النهاية التي نحاول تحاشيها وتجنبها.
لقد ظهرت معاهدات حظر التجارب النووية بعد القصف النووي لمدينتي هيروشيما وناغازاكي، وليس قبله. وهناك مثال أقل وجودية.
النقاش الحالي الخاص بتقييد وقت استخدام الأطفال مواقع التواصل الاجتماعي هو مثال قوي ومقنع لأننا نعيش مع الإنترنت، والـ«آيفون»، منذ مدة ليست بالقصيرة، ونعلم كثيراً عن الآثار السلبية لثقافة الإنترنت، في حين أنه من الصعب تخيل وتصور إقناع شخص عام 1993 بوضع لوائح تنظيمية خاصة بالـ«تيك توك» بشكل وقائي. أكتب هذا باعتباري شخصاً يكافح من أجل استيعاب الكوارث التي قد تحل بنا إذا ثبتت صحة موقف مَن يحذرون من أخطار الذكاء الصناعي.
وترتبط بعض الشكوك التي تساورني بالجدال الدائر حول ضمير الآلات، وما إذا كان الذكاء الصناعي بحاجة لاكتساب درجة من الوعي الذاتي قد يصبح خطيراً حقاً. ومع ذلك، فإن بعض الشكوك تتعلق كذلك بتساؤلات أضيق نطاقاً لا تستلزم اتخاذ موقف حيال طبيعة النفس أو الذات. لذا، دعونا نتكلم الآن عن واحد من هذه التساؤلات: هل سيكون من السهل على الآلات فائقة الذكاء التنبؤ بالمستقبل؟ في الواقع، يروق لي هذا التساؤل نظراً لارتباطه بمهنتي ـ أو على الأقل ما يعتقد الآخرون بأنه مهنتي - رغم عدد المرات التي لا تحصى التي نفيت خلالها هذا الأمر.
وبالتأكيد، ليس هناك ما يمكن أن يجذب قراء الصحف أو المستمعين خلال حفلات العشاء أكثر عن «ماذا سيحدث في أوكرانيا؟» أو «مَن سيفوز في الانتخابات العامة المقبلة؟» في الواقع، لا أعتقد بأن ذكائي ملائم لمثل هذا النمط من التنبؤ. وعندما أمعن النظر في كتاباتي السابقة، أجد أنه لا بأس بي في وصف التوجهات واسعة النطاق التي يتضح أن لها تأثيراً في صياغة الأحداث ـ مثل تحول الحزب الجمهوري إلى ائتلاف ضيق للطبقة العاملة.
ومع ذلك، فإنه فيما يخص كيفية تحول التوجهات الضخمة إلى أحداث محددة بعينها، هنا لا تختلف قدرتي على التنبؤ عن أي شخص آخر. على سبيل المثال، رغم إدراكي للقوى التي أدت إلى صعود دونالد ترمب، فإنني توقعت أنه لن يكون مرشح الحزب الجمهوري بالانتخابات الرئاسية عام 2016. بيد أن ثمة أنماطاً من الذكاء تتمتع بقدرة أفضل عني في التوصل إلى توقعات صائبة محددة.
وإذا قرأت أعمال فيليب تيتلوك، المعني بدراسة أصحاب القدرات الفائقة على وضع توقعات صحيحة، ستضح لك أن ثمة عادات معينة للذهن تفرز تنبؤات أفضل من غيرها، على الأقل عندما يتم التعبير عن مستقبلها بنسب مئوية متوسطة عبر نطاق واسع من التنبؤات.
وعليه، فإن الخبير العادي خلال مرحلة مبكرة من الحرب الأهلية السورية، ربما كان ليضع احتمالية فقدان الرئيس بشار الأسد السلطة في غضون الشهور الستة الأولى عند نحو 40 في المائة.
في المقابل، فإن أصحاب القدرة الفائقة على التنبؤ، الذين يتعمقون أكثر قليلاً في تفحص الموقف، يقدرون هذه الاحتمالية بأقل قليلاً عن 25 في المائة. وبذلك، فإن بقاء الأسد بعد ذلك وحده لا يثبت أن أصحاب القدرة الفائقة على التنبؤ كانوا صائبين بدقة، لكنه بالتأكيد يساعد في رفع مستوى تقييمهم العام. ومع ذلك، فإنه لا يبلغ المستوى الذي يمكّن رجل الدولة من الاعتماد عليها لتحقيق انتصارات جيوسياسية متتالية.
نحن نعلم أن الذكاء الصناعي لديه بالفعل القدرة على التعرف على الأنماط التي تتجاوز صانعيها من البشر، بل وتثير حيرتهم أحياناً. على سبيل المثال، بمقدور الذكاء الصناعي أن يتنبأ بنوع الشخص بمعدلات دقة أعلى من العادي، بناءً على صورة شبكية العين وحدها، وذلك لأسباب لا يزال يلفها الغموض حتى الآن. وثمة دلائل توحي بأن الذكاء الصناعي سيكون قادراً على الاضطلاع بمجهود تشخيصي رائع في مجال الطب. والآن، تخيل نمطاً أكبر من القدرة على التعرف على الأنماط يجري تطبيقه على السياسات العالمية، ليتنبأ ليس فقط بسقوط ديكتاتور ما، وإنما كذلك الأسلوب الذي سيسقط به، وفي أي شهر، والمتآمرين وراء ذلك. والسؤال هنا: هل يتسم عالمنا بقدر هائل من التعقيد بحيث إنه حتى مع تكديس صور من التعرف على الأنماط فوق بعضها البعض وإطلاق العنان للذكاء الصناعي لوضع سيناريوهات محاكاة لا نهاية لها، فإن الحال سينتهي بنا إلى احتمالات لا تزيد دقة كثيراً عما يمكن تحقيقه بالاعتماد على الذكاء البشري وقدرته على إصدار الأحكام؟ في اعتقادي، الإجابة نعم. وأرى أن عالمنا ليس مصمماً على نحو يسمح بالتنبؤ به على نحو مفصل.
* خدمة «نيويورك تايمز»