مكَّنت شركات التكنولوجيا الأميركية العملاقة إسرائيل من تعقب المسلحين المزعومين وقتلهم بسرعة أكبر في غزة ولبنان من خلال استخدام مكثّف لخدمات الذكاء الاصطناعي والحوسبة. لكن عدد المدنيين الذين قُتلوا ارتفع أيضاً؛ ما أثار مخاوف من أن هذه الأدوات تساهم في مقتلهم.
ووفق تقرير نشرته وكالة «أسوشييتد برس»، استأجرت الجيوش لسنوات شركات خاصة لبناء أسلحة مستقلة مخصصة. ومع ذلك، فإن حروب إسرائيل الأخيرة تمثل حالة رائدة، إذ استُخدمت فيها نماذج الذكاء الاصطناعي التجارية المصنوعة في الولايات المتحدة في الحرب، على الرغم من أنها لم يتم تطويرها في الأصل للمساعدة في تحديد من يعيش ومن يموت.
يستخدم الجيش الإسرائيلي الذكاء الاصطناعي لغربلة كميات هائلة من المعلومات الاستخباراتية والاتصالات التي تم اعتراضها والمراقبة للعثور على الكلام أو السلوك المشبوه ومعرفة تحركات أعدائه. وبعد هجوم مفاجئ شنه مسلحو حركة «حماس» في 7 أكتوبر (تشرين الأول) 2023، ارتفع استخدامه تكنولوجيا شركتي «Microsoft» و«OpenAI» بشكل كبير، وفقاً لتحقيق أجرته الوكالة.
كشف التحقيق أيضاً تفاصيل جديدة حول كيفية اختيار أنظمة الذكاء الاصطناعي للأهداف والطرق التي يمكن أن تخطئ بها، بما في ذلك البيانات المعيبة أو الخوارزميات المعيبة. وقد استندت إلى وثائق داخلية وبيانات ومقابلات حصرية مع مسؤولين إسرائيليين حاليين وسابقين وموظفين في الشركة.
كان هدف إسرائيل بعد الهجوم الذي أسفر عن مقتل نحو 1200 شخص واحتجاز أكثر من 250 رهينة هو القضاء على «حماس»، وقد وصف جيشها الذكاء الاصطناعي بأنه «عامل تغيير» في تحقيق الأهداف بشكل أسرع. منذ بدء الحرب، لقي أكثر من 50 ألف شخص حتفهم في غزة ولبنان ودُمّر ما يقرب من 70 في المائة من المباني في غزة، وفقاً لوزارتي الصحة في غزة ولبنان.
قالت هايدي خلف، كبيرة علماء الذكاء الاصطناعي في معهد «AI Now» ومهندسة السلامة السابقة في «OpenAI»: «هذا هو أول تأكيد حصلنا عليه لكون نماذج الذكاء الاصطناعي التجارية تُستخدم بشكل مباشر في الحرب... العواقب هائلة على دور التكنولوجيا في تمكين هذا النوع من الحرب غير الأخلاقية وغير القانونية في المستقبل».
ارتفع استخدام إسرائيل الذكاء الاصطناعي والحوسبة السحابية أثناء الحرب. وجدير بالذكر أن لشركة «Microsoft» علاقة وثيقة مع الجيش الإسرائيلي تمتد لعقود من الزمن.
وقد تكثفت هذه العلاقة، إلى جانب العلاقات مع شركات التكنولوجيا الأخرى، بعد هجوم «حماس». ووفقاً لعرض قدمته العام الماضي الكولونيل راشيلي ديمبينسكي، كبيرة مسؤولي تكنولوجيا المعلومات في الجيش، فإن استجابة إسرائيل للحرب أرهقت خوادمها الخاصة وزادت اعتمادها على البائعين الخارجيين من جهات خارجية. وبينما كانت تصف كيف قدم الذكاء الاصطناعي لإسرائيل «فاعلية تشغيلية كبيرة جداً» في غزة، ظهرت شعارات «Microsoft Azure» و«Google Cloud» و«Amazon Web Services» على شاشة كبيرة خلفها. ووجدت الوكالة في مراجعة معلومات الشركة الداخلية أن استخدام الجيش الإسرائيلي للذكاء الاصطناعي من «Microsoft» و«OpenAI» ارتفع في مارس (آذار) الماضي إلى ما يقرب من 200 مرة أعلى مما كان عليه قبل الأسبوع الذي سبق هجوم 7 أكتوبر. وتضاعفت كمية البيانات المخزنة على خوادم «Microsoft» بين ذلك الوقت ويوليو (تموز) 2024 إلى أكثر من 13.6 بيتابايت - أي ما يقرب من 350 ضعف الذاكرة الرقمية اللازمة لتخزين كل الكتب في مكتبة الكونغرس. كما ارتفع استخدام الجيش بنوك خوادم الكمبيوتر الضخمة التي تمتلكها «Microsoft» بنحو الثلثين في أول شهرين من الحرب وحدها.
رفضت «Microsoft» تقديم أي تعليق على هذه الأنباء ولم ترد على قائمة مفصلة من الأسئلة المكتوبة حول خدمات الحوسبة السحابية والذكاء الاصطناعي التي تقدمها للجيش الإسرائيلي.
وفي بيان موسع على موقعها على الإنترنت، تقول الشركة إن «احترام حقوق الإنسان هو قيمة أساسية للشركة» وهي ملتزمة «بالدفاع عن الدور الإيجابي للتكنولوجيا في جميع أنحاء العالم». وفي تقريرها المكون من 40 صفحة حول شفافية الذكاء الاصطناعي المسؤول لعام 2024، تعهدت «Microsoft» «برسم خريطة وقياس وإدارة مخاطر الذكاء الاصطناعي التوليدي طوال دورة التطوير للحد من خطر الضرر»، ولم تذكر عقودها العسكرية المربحة.
وتُقدم نماذج الذكاء الاصطناعي المتقدمة من خلال «OpenAI»، صانع «ChatGPT»، من خلال منصة «Azure» السحابية من «Microsoft»، حيث يشتريها الجيش الإسرائيلي، كما تظهر الوثائق والبيانات. وكانت «Microsoft» أكبر مستثمر في «OpenAI».
وقالت الإخيرة إنها لا تربطها شراكة مع الجيش الإسرائيلي، وتقول سياسات الاستخدام الخاصة بها إن عملاءها لا ينبغي لهم استخدام منتجاتها لتطوير الأسلحة أو تدمير الممتلكات أو إيذاء الناس. ومع ذلك، قبل عام تقريباً، غيَّرت شركة «OpenAI» شروط استخدامها من حظر الاستخدام العسكري إلى السماح «بحالات استخدام الأمن القومي التي تتوافق مع مهمتنا».
وقد رفض الجيش الإسرائيلي الإجابة عن أسئلة مكتوبة مفصلة من الوكالة حول استخدامه منتجات الذكاء الاصطناعي التجارية من شركات التكنولوجيا الأميركية، لكنه قال إن محلليه يستخدمون أنظمة مدعمة بالذكاء الاصطناعي للمساعدة في تحديد الأهداف وفحصها بشكل مستقل مع ضباط رفيعي المستوى لتلبية القانون الدولي، وموازنة الميزة العسكرية مقابل الأضرار الجانبية.
وقال الجيش الإسرائيلي في بيان للوكالة: «تجعل أدوات الذكاء الاصطناعي هذه عملية الاستخبارات أكثر دقة وفاعلية، وفي كثير من الأحيان في هذه الحرب تمكنت من تقليل الخسائر المدنية».
وتوفر شركات تقنية أميركية أخرى، مثل «Google» و«Amazon»، خدمات الحوسبة السحابية والذكاء الاصطناعي للجيش الإسرائيلي بموجب «مشروع نيمبوس»، وهو عقد بقيمة 1.2 مليار دولار تم توقيعه في عام 2021، عندما اختبرت إسرائيل لأول مرة أنظمة الاستهداف الداخلية التي تعمل بالذكاء الاصطناعي. واستخدم الجيش الإسرائيلي مزارع خوادم أو مراكز بيانات «Cisco» و«Dell». كما قدمت «Red Hat»، وهي شركة تابعة مستقلة لشركة «IBM»، تقنيات الحوسبة السحابية للجيش الإسرائيلي، بينما تتمتع «Palantir Technologies»، وهي شريكة «Microsoft» في عقود الدفاع الأميركية، بـ«شراكة استراتيجية» توفر أنظمة الذكاء الاصطناعي لمساعدة جهود الحرب الإسرائيلية.
بعد أن غيرت «OpenAI» شروط الاستخدام الخاصة بها العام الماضي للسماح بأغراض الأمن القومي، حذت «Google» حذوها في وقت سابق من هذا الشهر بتغيير مماثل لسياسة الأخلاق العامة لإزالة الكلمات التي تقول إنها لن تستخدم الذكاء الاصطناعي الخاص بها للأسلحة والمراقبة.
وقالت «Google» إنها ملتزمة بتطوير ونشر الذكاء الاصطناعي بشكل مسؤول «يحمي الناس ويعزز النمو العالمي ويدعم الأمن القومي».
ما هي استخدامات الذكاء الاصطناعي التجاري؟
يستخدم الجيش الإسرائيلي «Microsoft Azure» لتجميع المعلومات المحصَّلة من خلال المراقبة الجماعية، بما في ذلك المكالمات الهاتفية والرسائل النصية والرسائل الصوتية، وفقاً لضابط استخبارات إسرائيلي. يمكن بعد ذلك التحقق من هذه البيانات بوااسطة أنظمة الاستهداف الداخلية في إسرائيل.
وقال الضابط إنه يعتمد على «Azure» للبحث بسرعة عن المصطلحات والأنماط داخل مخازن نصية ضخمة، مثل العثور على محادثات بين شخصين داخل مستند مكوّن من 50 صفحة. ويمكن لـ «Azure» أيضاً العثور على الأشخاص الذين يعطون التوجيهات بعضهم لبعض في النص، الذي يمكن بعد ذلك الرجوع إليه عبر أنظمة الذكاء الاصطناعي الخاصة بالجيش لتحديد المواقع.
تظهر بيانات «Microsoft التي راجعتها الوكالة أنه منذ هجوم 7 أكتوبر، استخدم الجيش الإسرائيلي بشكل مكثف أدوات النسخ والترجمة ونماذج «OpenAI». وعادةً، تعمل نماذج الذكاء الاصطناعي التي تنسخ وتترجم بشكل أفضل باللغة الإنجليزية. وأقرت «OpenAI» بأن نموذج الترجمة الشهير المدعوم بالذكاء الاصطناعي «Whisper»، الذي يمكنه النسخ والترجمة إلى لغات متعددة بما في ذلك العربية، يمكنه تكوين نص لم يقله أحد، بما في ذلك إضافة تعليقات عنصرية والخروج بخطاب عنيف.
هل أنظمة الذكاء الاصطناعي في إسرائيل موثوقة؟
قال ضباط الجيش الإسرائيلي الذين عملوا على أنظمة الاستهداف إن الأخطاء يمكن أن تحدث لأسباب عدّة تتعلق بالذكاء الاصطناعي. تتضمن المكالمات الهاتفية التي تم اعتراضها والمرتبطة بملف تعريف الشخص الوقت الذي اتصل فيه الشخص وأسماء وأرقام الأشخاص الموجودين في المكالمة. لكن الأمر يتطلب خطوة إضافية للاستماع إلى الصوت الأصلي والتحقق منه، أو رؤية نص مترجم.
يقول الجيش الإسرائيلي إن الشخص الذي يعرف اللغة العربية من المفترض أن يتحقق من الترجمات. ومع ذلك، قال أحد ضباط المخابرات إنه رأى أخطاء استهداف تعتمد على ترجمات آلية غير صحيحة من العربية إلى العبرية.
