«التزييف الصوتي العميق» يهدد حساباتكم المصرفية

عمليات احتيال مدعومة بالذكاء الاصطناعي

«التزييف الصوتي العميق» يهدد حساباتكم المصرفية
TT

«التزييف الصوتي العميق» يهدد حساباتكم المصرفية

«التزييف الصوتي العميق» يهدد حساباتكم المصرفية

اتصل كلايف كاباتزنيك، وهو مستثمرٌ من فلوريدا، الربيع الماضي، بممثّل الفرع المحلّي من مصرف «بنك أوف أميركا»، لمناقشة تحويلٍ مالي كبير كان يخطّط له... ومن ثمّ عاد واتصل مجدداً. إلّا إنّ الاتصال الثاني لم يكن من كاباتزنيك؛ بل من برنامج أعاد إنتاج صوته، وحاول خداع المصرفي لتحويل الأموال إلى مكان آخر.

باختصار، تعرّض كل من كاباتزنيك والمصرفي لمحاولة احتيال محترفة لفتت أنظار خبراء الأمن السيبراني لاستخدام الذكاء الاصطناعي لتوليد مواد «ديب فيك (التزييف العميق)» صوتية أو نسخٍ صوتية تقلّد أصوات أشخاصٍ حقيقيين.

أصوات مزيفة ببرامج ذكية

لا تزال هذه المشكلة جديدة جداً بحيث إنّه لا يوجد إحصاء واضح لنسب حصولها. وقد أشار أحد الخبراء، الذي يملك شركة «بيندروب» المختصة بمراقبة النشاط الصوتي لعددٍ كبير من المصارف الأميركية البارزة، إلى أنّه رأى قفزة ملحوظة في هذه الحوادث هذا العام، وفي احترافية محاولات الاحتيال الصوتي. وكانت شركة «نويانس» المزوّدة لخدمات المصادقة الصوتية، قد شهدت أوّل اعتداء بمادّة «ديب فيك» صوتية على مؤسسات الخدمات المالية أواخر العام الماضي.

في حالة كاباتزنيك، كان الاحتيال قابلاً للضبط، ولكنّ سرعة التطوّر التقني، والانخفاض الهائل في تكلفة برامج الذكاء الاصطناعي التوليدي، والوفرة الواسعة للتسجيلات الصوتية للنّاس على الإنترنت، تشكّل الظروف المثالية لعمليات الاحتيال الصوتي المدعومة بالذكاء الاصطناعي.

تتعرّض بيانات الزبائن كتلك الموجودة في تفاصيل الحسابات المصرفية للسرقة من قِبل القراصنة الإلكترونيين دائماً، وهي متوفرة على نطاق واسع في السوق السوداء، مما يساعد المحتالين على استخدامها في عملياتهم.

وفرة التسجيلات الصوتية الرقمية

وتصبح هذه العمليات أسهل مع الزبائن الأثرياء أصحاب الإطلالات والخطابات المنشورة على الإنترنت. يمكن العثور أيضاً على مقاطع صوتية لزبائن عاديين عبر البحث في تطبيقات التواصل الاجتماعي مثل «تيك توك» و«إنستغرام»، لا سيّما الأشخاص الذين يملك المحتالون معلومات حساباتهم المصرفية.

يقول فيجاي بالاسوبرامانيان، الرئيس التنفيذي ومؤسّس «بيندروب» المسؤولة عن أنظمة المصادقة الصوتية الأوتوماتيكية في 8 من أصل 10 مؤسسات إقراض أميركية، يقول إنّ «المحتوى الصوتي متوفر بكثرة على الإنترنت».

راجعت «بيندروب» خلال العقد الماضي تسجيلات أكثر من 5 مليارات اتصال واردة لمراكز اتصالات تديرها الشركات المالية التي تعمل معها. تدير هذه المراكز منتجات كالحسابات المصرفية، والبطاقات الائتمانية، وغيرهما من الخدمات التي تقدّمها المصارف التجارية الكبرى، وتتلقّى جميعها مكالمات هاتفية من محتالين، تتراوح عادةً بين ألف و10 آلاف في العام الواحد. يتلقّى المركز الواحد ما لا يقلّ عن 20 اتصالاً من هذا النوع في الأسبوع، وفق بالاسوبرامانيان.

وأضاف أنّ الأصوات المزيّفة المصنوعة باستخدام برمجيات الكومبيوتر تقف خلف «قلّة» من هذه الاتصالات حتّى اليوم، وأنّها بدأت الظهور العام الماضي.

ترد معظم اتصالات الأصوات المزيّفة التي تراجعها «بيندروب» إلى المراكز التي تتولّى خدمات البطاقات الائتمانية، حيث يتعامل الوكلاء البشر مع زبائن يحتاجون إلى مساعدة في مسائل متعلّقة ببطاقاتهم.

تعدّ الاتصالات التي تستخدم تقنية تحويل التسجيل إلى نص من وسائل الاعتداء التي يسهل التصدي لها؛ إذ تستطيع مراكز الاتصال استخدام برامج فحص لرصد الإشارات التقنية التي تدلّ على أنّ الكلام مفبرك آلياً.

رصد «الخطاب الاصطناعي»

من جهته، عدّ بيتر سوفلوريس، الرئيس التنفيذي لشركة «إنجن آي دي» المزوّدة لتقنية القياسات الحيوية الصوتية، أنّ «الخطاب الاصطناعي يترك آثاراً كثيرة خلفه، وأنّ خوارزميات عدّة مصمّمة لرصد الاحتيال تنجح في ضبط هذه الآثار».

ولكن كما هي الحال في كثير من الإجراءات الأمنية، يوجد سباق بين المعتدين والمدافعين، والأسوأ أنّ الجبهة الأولى شهدت تطوراً بارزاً في الآونة الأخيرة، حيث أصبح المحتال قادراً اليوم على التحدّث ببساطة عبر ميكروفون، وطباعة أمر حثّ والحصول على ترجمة سريعة بالصوت المستهدف.

استخدمت استشارية الأمن السيبراني رايتشل توباك برنامجاً لاستنساخ صوت شارين ألفونسي، مراسل في برنامج «6 مينتس»، لإقناع أحد الموظفين بتزويدها برقم جواز سفر ألفونسي.

احتاجت العملية، التي حصلت في مايو (أيّار) الماضي، إلى 5 دقائق فقط لإتمامها، وفق توباك، الرئيسة التنفيذية لشركة «سوشيال بروف سيكيوريتي»، التي استخدمت أداةً متوفرة في الأسواق منذ يناير (كانون الثاني).

يشير بريت بيرانيك، مدير عام الأمن والقياسات الحيوية في «نويانس»، إلى أنّ مقاطع «ديب فيك» المخيفة هي الموضوع الرئيسي في مؤتمرات الأمن، إلّا إنّ هذا النوع من الاعتداءات في الواقع لا يزال نادراً جداً. فقد احتاج الاعتداء الوحيد الناجح على واحد من زبائن الشركة في أكتوبر (تشرين الأوّل) إلى أكثر من 10 محاولات ليتمّ.

لا يخشى بيرانيك من الاعتداءات على مراكز الاتصالات أو الأنظمة الآلية كأنظمة القياسات الحيوية الصوتية التي تستخدمها المصارف؛ بل تتمحور مخاوفه الكبرى حول العمليات الاحتيالية التي تستهدف الفرد بشكلٍ مباشر.

وهذا ما حصل في حالة كاباتزنيك، فقد أشار المصرفي في التوصيف الذي قدّمه إلى أنّ المعتدي حاول تغيير وجهة تحويل الأموال، إلّا إنّ صوته بدا تكرارياً واستخدم جملاً غير واضحة، مما دفعه إلى إنهاء الاتصال.

بعد اتصالين آخرين متتاليين، أبلغ المصرفي فريق الأمن في المصرف بالواقعة، كما أنّه توقّف عن الردّ على اتصالات ورسائل كاباتزنيك الإلكترونية، وحتّى تلك الحقيقة الواردة منه شخصياً؛ حفاظاً على سلامة حسابه الأمنية. انتظر المصرفي 10 أيّام حتّى استأنف الاتصالات مع الزبون بعد زيارة الأخير شخصياً للمصرف.

صحيح أنّ الاعتداءات تزداد تعقيداً واحترافيةً مع الوقت، إلّا إنّها ترتكز على تهديد سيبراني موجود منذ عقود: اختراق بياني ونشر المعلومات الشخصية لزبائن المصارف. فقد وقعت أصغر المعلومات الشخصية العائدة لأكثر من 300 مليون شخص في أيدي القراصنة الإلكترونيين بين عامي 2020 و2022، مما أدى إلى خسائر بلغت 8.8 مليار دولار، وفق لجنة التجارة الفيدرالية.

يذكر أنّ الحصول على تسجيلات لصوت كاباتزنيك كان سهلاً جداً؛ لأنّه يظهر في فيديوهات منشورة على الإنترنت وهو يتحدّث في مؤتمرات وحفل لجمع تبرعات.

من جهته، قال كاباتزنيك: «أعتقد أنّ الأمر مخيف جداً، والمشكلة هي أنّنا لا نعرف كيف يجب أن نتصرف. هل نختفي ونختبئ تحت الأرض؟».* خدمة «نيويورك تايمز»



«مونفالي» تُطلق «أداتها القوية» لصناعة الأفلام باستخدام الذكاء الاصطناعي

«مونفالي» تُطلق «أداتها القوية» لصناعة الأفلام باستخدام الذكاء الاصطناعي
TT

«مونفالي» تُطلق «أداتها القوية» لصناعة الأفلام باستخدام الذكاء الاصطناعي

«مونفالي» تُطلق «أداتها القوية» لصناعة الأفلام باستخدام الذكاء الاصطناعي

أعلن مختبر الذكاء الاصطناعي «مونفالي» Moonvalley أمس الثلاثاء عن الإطلاق الرسمي لـ«ماري»، وهو نموذج فيديو مُصمم كأداة إنتاجية لصانعي الأفلام المحترفين.

وتم تدريب «ماري» Marey - التصميم الذي سُمي تيمناً بأحد رواد السينما الأوائل، الفرنسي إتيان جول ماري - حصرياً على مواد مُرخصة. ويقول نعيم تالوكدار، المؤسس المشارك والرئيس التنفيذي للشركة، إن هذا النهج يُساعد في تجنب مخاطر حقوق النشر المُرتبطة بأدوات إنتاج الفيديو المُدربة على لقطات غير مُرخصة. ويضيف: «ماري لا تعرف شيئاً عن مسلسل حرب النجوم، ولا تعرف شيئاً عن فيلم الكرتون (حكاية لعبة)».

إنتاج الفيديو بواسطة النصوص أو الصور

وبالقدر نفسه من الأهمية، يُوفر «ماري» مستوى تحكم غير مُعتاد في مُعظم أدوات إنتاج الفيديو، التي عادةً ما تُنتج مقاطع بناءً على مُطالبات نصية فقط. يقول تالوكدار: «نفترض أن هذه النماذج ليست مُعدّة للمبدعين المحترفين. من الصعب جداً على صانعي الأفلام المحترفين إنتاج أعمال بهذه الطريقة».

ويُمكن للمستخدمين البدء برسالة، كما يُمكنهم أيضاً تحميل مشاهد مُصوّرة بممثلين حقيقيين، وطلب من «ماري» إنشاء لقطات مُشابهة - مع عناصر أو خلفيات أو أزياء مُعدّلة. ويحافظ الذكاء الاصطناعي على حركات الممثلين، بما في ذلك حركة الفم، مما يسمح بدبلجة الكلام أو تفسيره بسلاسة أكبر.

يُمكن لصانعي الأفلام تحسين الفيديو المُولّد بشكل أكبر، عن طريق سحب العناصر لتحريكها أو تحديد حركة الكاميرا للحركات الدائرية والتكبير/ التصغير الافتراضية.

تطويرات مقبلة

وفي الأشهر المقبلة، تخطط «مونفالي» لإطلاق ميزات إضافية للتحكم في الإضاءة والصوت، ولتحديد الشخصيات ووضعها في موقع تصوير افتراضي، وفقاً لتالوكدار.

كما تختبر الشركة تجريبياً أداة تُسمى «فوياجير» Voyager، مصممة لمساعدة المستخدمين على إدارة أرشيف الشخصيات وضبط الإضاءة وتفاصيل المشهد بدقة متزايدة - تتجاوز بكثير قدرات أدوات الفيديو الأولية التي تعتمد على الأوامر الفورية فقط. ويقول تالوكدار: «قناعتنا هي أنك لن تُنتج فيلماً باستخدام روبوت محادثة. أنت بحاجة إلى أدوات أكثر تطوراً بكثير».

أداة إبداعية لـ10 ثوانٍ من العروض كل مرة

وبدلاً من استبدال صانعي الأفلام أو إنتاج أفلام كاملة تلقائياً، تهدف مونفالي إلى إنشاء برنامج ذكاء اصطناعي يُمثل «أداة قوية» للمبدعين. ووفقاً لتالوكدار، يُمكن لـ«ماري» المساعدة في تحقيق تكافؤ الفرص بين إنتاجات الاستوديوهات ذات الميزانيات الكبيرة وصانعي الأفلام المستقلين من خلال تمكين إنشاء مشاهد معقدة بتكلفة زهيدة.

على الرغم من أن النظام يُنتج حالياً نحو 10 ثوانٍ من الفيديو في المرة الواحدة، فإن أدوات النمذجة والتحكم تُحافظ على استمرارية قوية بما يكفي لتمكين صانعي الأفلام من تمديد تلك التسلسلات أو إنشاء لقطات ذات صلة لمشاهد كاملة.

باقات الاشتراك المدفوع

وقد طُوِّر «ماري» بالتعاون مع استوديو Asteria، الذي شارك في تأسيسه كل من برين موسر وناتاشا ليون، الذي يستخدم هذه الأداة لتطوير فيلمه الروائي الطويل Uncanny Valley.

وتتوفر باقات الاشتراك بأسعار 14.99 دولار أميركي، و34.99 دولار أميركي، و149.99 دولار أميركي شهرياً، ولكل منها حدود ائتمانية متفاوتة لاستخدام الذكاء الاصطناعي؛ ويمكن شراء أرصدة إضافية حسب الحاجة. ويتوقع تالوكدار انخفاض أسعار الأرصدة سريعاً مع توفر شرائح حوسبة أسرع.

ولتجميع بيانات التدريب المرخصة، تعاونت «مونفالي» مع صانعي أفلام مستقلين، ومبدعين تجاريين، ومستخدمي «يوتيوب»، واستوديوهات حول العالم، مما ساعد الشركة على جمع مجموعة متنوعة من اللقطات. وفي بعض الحالات، حصلت الشركة على وسائط مادية لاستخراج بيانات تدريب فريدة.

https://app.moonvalley.com/signup

* مجلة «فاست كومباني»، خدمات «تريبيون ميديا».