بعد أن بدأ برنامج «تشات جي بي تي» بإنشاء صور واقعية، بدأ أنانت كالي برؤية منشورات على وسائل التواصل الاجتماعي تشرح كيفية استخدامه لإنشاء إيصال مزيف ومقنع للغاية، كما كتبت سارة كيسلر(*).
كشف إيصالات الذكاء الاصطناعي
أدرك أنانت كالي أن هذه كانت مشكلته، فبصفته الرئيس التنفيذي لشركة طورت تطبيق «أب زن (AppZen)»، وهو برنامج تستخدمه فرق التمويل لإدارة النفقات، أشرف على إنشاء أدوات كشف الاحتيال التي تُحدِّد الإيصالات المُولَّدة بالذكاء الاصطناعي. لكن الأمر الآن أضحى مختلفاً، كما يقول. ولهذا سارع لتطوير تطبيقات للكشف السريع عن الإيصالات التي يولِّدها الذكاء الاصطناعي.
ولم يكن هو الوحيد في ذلك النهج، إذ أضاف تطبيق إدارة النفقات«إكسبنسيفاي (Expensify)» طرقاً للكشف عن الإيصالات المُولّدة بالذكاء الاصطناعي في أبريل (نيسان) الماضي. ثم تم توسيع عمل أداة التدقيق الآلي للنفقات «فيريفاي (Verify)» من شركة «SAP Concur»، لتوفير إمكانية مماثلة لجميع المستخدمين هذا الشهر.
الذكاء الاصطناعي ضد الاحتيال
هذا الصيف، عند إعلان جهود جديدة للكشف عن الإيصالات المُولّدة بالذكاء الاصطناعي، لخَّص نيكولاس ريتز، الذي يعمل على تطوير المنتجات في شركة «Navan» لبرمجيات السفر للشركات، المعضلة قائلاً: «ستتحسَّن الإيصالات المُولَّدة بالذكاء الاصطناعي من الآن فصاعداً، لذلك ولمكافحة احتيال الذكاء الاصطناعي، نحتاج إلى استخدام الذكاء الاصطناعي».
الاحتيال والسرقة
وأضاف كالي أنه من الشائع أن يُصدر الموظفون أول إيصال مزيف لهم لحساب نفقات مشروعة، إذ ربما فقدوا الإيصال الحقيقي. ولكن عندما لا يُقبَض عليهم، فإنهم يُكرّرون ذلك.
وأحياناً، يكون الاحتيال فادحاً، إذ اكتشفت تطبيق «AppZen» ذات مرة مجموعة من الإيصالات المُولّدة بالذكاء الاصطناعي، التي قدّمها موظف في شركة، لفنادق وتذاكر طيران في بانكوك... وهي مدينة ظهر بعد إجراء تحقيقات إضافية أن الموظف لم يزرها.
وتُلزم جمعية مُحققي الاحتيال المعتمدين، التي تُعتمد نحو 5000 مُحقق جديد سنوياً، أعضاءها بانتظام، بتقديم أكبر قضية احتيال مهني حققت فيها خلال الأشهر الـ18 الماضية. وفي أحدث استطلاع، شمل نحو 13 في المائة من حالات الاحتيال، موظفين قدّموا نفقات مُبالغاً فيها أو اكتشفوا نفقات، قد تؤدي إلى توجيه اتهامات جنائية. وبلغ متوسط الخسارة 50 ألف دولار أميركي.
30 في المائة من الإيصالات ذكية
وصرَّحت الشركة بأنّ نحو 30 في المائة من الإيصالات الاحتيالية التي يكتشفها تطبيق «أب زن» تُولَّد الآن بواسطة روبوتات دردشة الذكاء الاصطناعي، بدلاً من أدوات تحرير الصور أو القوالب، وأنّ عدد الإيصالات الاحتيالية التي تكتشفها قد ارتفع بنسبة 30 في المائة تقريباً منذ مايو (أيار) 2024.
أما شركة «إكسبنسيفاي» فأفادت بأنّها تكتشف مئات الإيصالات المُولّدة بواسطة الذكاء الاصطناعي شهرياً، من بين ملايين الإيصالات التي تُعالجها. وأشارت نتائج «فيريفاي» إلى أنّ نحو 1 في المائة من الإيصالات التي دقّقتها يُحتمل أنّها مُولَّدة بواسطة الذكاء الاصطناعي.
وقال ماسون وايلدر، مدير الأبحاث في جمعية مُحققي الاحتيال: «لقد سمعتُ بالتأكيد من الأعضاء وخبراء مكافحة الاحتيال الآخرين أنّ الذكاء الاصطناعي لا يُؤدّي بشكل مباشر إلى زيادة هذا النوع من الاحتيال من حيث الحجم فحسب، بل يُصعّب أيضاً اكتشافه».
بصمة بيانات الذكاء الاصطناعي
أثارت عمليات التزوير المُقنعة تصعيداً تقنياً جديداً. على غرار ما حدث عندما أوجدت الطابعات المنزلية، على سبيل المثال، حاجةً إلى أساليب جديدة للكشف عن الاحتيال في إيصالات النفقات، طوَّرت شركات البرمجيات ترسانة من الأساليب للكشف عن نوع جديد من الإيصالات المزيفة التي يُنتجها الذكاء الاصطناعي.
تترك روبوتات الدردشة بصمةً في البيانات الوصفية للصور التي تُنتجها، ولكن إذا التقط موظف صورةً أو لقطة شاشة للصورة، فستختفي هذه الإشارة.
يمكن لخوارزميةٍ ما مقارنة الإيصالات المولدة بواسطة الذكاء الاصطناعي بالإيصالات الحقيقية من البائع نفسه. وهي قد تكتشف اختلافات طفيفة في الخط أو التباعد، على سبيل المثال، لا تستطيع العين البشرية رصدها.
رصد الأنماط المشبوهة
ومثل كثير من أدوات تدقيق النفقات، اعتمد «أب زن» على تحديد الأنماط المشبوهة - مثل الإنفاق غير المعتاد في وقتٍ معين من اليوم أو دور الموظف - لتحديد الإيصالات التي تتطلب فحصاً دقيقاً. تُرسل هذه الإيصالات المشبوهة إلى مستوى التدقيق الثاني الأحدث، الذي يبحث عن أنماطٍ تُشير إلى أن روبوت الدردشة قد يكون هو مَن أنتجها. على سبيل المثال، في أثناء إنشاء إيصالات المطعم، هل كان الموظف يطلب دائماً من روبوت المحادثة استخدام اسم الخادم أو طلب الطبق نفسه؟
وقال كالي إنه لا توجد تقنية واحدة قادرة على كشف هذه الإيصالات: «يجب أن تكون هناك طبقات وطبقات. إنها أشبه بلعبة القط والفأر».
* خدمة «نيويورك تايمز».
