الثلاثاء 13 مايو 2025 ص
يقول بيل كاسيدي، كبير مسؤولي المعلومات في نيويورك لايف: "كنا نشهد ورود مكالمات احتيالية، ولكن قدرة نماذج [الذكاء الاصطناعي] هذه الآن على الاحتيال، وتقليد الأنماط الصوتية الفعلية للفرد الذي يعطي تعليمات، لشخص ما لديه الهاتف، للقيام بشيء ما - جديدة تماماً علينا".
وكانت البنوك ومقدمو الخدمات المالية من بين الشركات الأولى، التي تم استهدافها، حيث يقول كايل كابيل، رئيس قسم الإنترنت في الولايات المتحدة في شركة KPMG: "إن هذا الفضاء يتحرك بسرعة كبيرة".
هذه السرعة في الانتشار تم الحديث عنها في وقت سابق من هذا الشهر، عندما عرضت شركة "أوبن إيه آي" (OpenAI)، تقنية يمكنها إعادة استنساخ صوت بشري من مقطع مدته 15 ثانية، وقالت "أوبن إيه آي" إنها لن تتيح التكنولوجيا للعلن، حتى تكتشف المزيد عن المخاطر المحتملة لسوء الاستخدام.
ومن بين المخاوف أن العصابات، يمكن أن تستخدم الصوت الناتج عن الذكاء الاصطناعي لتشغيل برامج المصادقة الصوتية التي تستخدمها شركات الخدمات المالية، للتحقق من العملاء ومنحهم حق الوصول إلى حساباتهم، حيث تم خداع تشيس بنك مؤخراً، بصوت تم إنشاؤه بواسطة الذكاء الاصطناعي، أثناء إحدى التجارب. وقال البنك إنه لإكمال المعاملات والطلبات المالية الأخرى، يجب على العملاء تقديم معلومات إضافية.
وزادت حوادث التزييف العميق، في قطاع التكنولوجيا المالية بنسبة 700% في عام 2023، مقارنة بالعام السابق، وفقاً لتقرير حديث صادر عن منصة Sumsub.
وتقول الشركات إنها تعمل على وضع المزيد من حواجز الحماية، استعداداً للموجة القادمة من المهاجمين، الذين يعتمدون على الذكاء الاصطناعي. على سبيل المثال، قال كاسيدي إنه يعمل مع مجموعة رأس المال الاستثماري في نيويورك لايف، لتحديد الشركات الناشئة والتقنيات المصممة لمكافحة التزييف العميق. وقال: "في كثير من الحالات، أفضل دفاع عن تهديد الذكاء الاصطناعي التوليدي، هو شكل من أشكال الذكاء الاصطناعي التوليدي على الجانب الآخر".
ويمكن للجهات الفاعلة أيضاً استخدام الذكاء الاصطناعي، لإنشاء صور لرخص قيادة مزيفة وإنشاء حسابات عبر الإنترنت، لذلك قال أليكس كاريلز، كبير المسؤولين الرقميين في بنك سيمونز، إنه يقوم بتغيير بعض بروتوكولات التحقق من الهوية. في السابق، كانت إحدى خطوات إنشاء حساب عبر الإنترنت مع البنك، تتضمن قيام العملاء بتحميل صور رخص القيادة. والآن بعد أن أصبح من السهل إنشاء صور رخص القيادة باستخدام الذكاء الاصطناعي، يعمل البنك مع مزود الأمان IDScan.net لتحسين العملية.
وقال كاريليس إنه بدلاً من تحميل صورة موجودة مسبقاً، يجب على العملاء الآن تصوير رخص القيادة الخاصة بهم، من خلال تطبيق البنك، ثم التقاط صور سيلفي. ويوجه التطبيق المستخدمين بالنظر إلى اليسار أو اليمين أو لأعلى أو لأسفل، لأن التزييف العميق بالذكاء الاصطناعي العام لن يكون بالضرورة جاهزاً للقيام بذلك.
وقال كاريليس إنه قد يكون من الصعب تحقيق التوازن، بين منح المستخدمين تجربة جيدة وجعل العملية سلسة للغاية، بحيث يمكن للمهاجمين اختراقها.
ولا تدق كل البنوك أجراس الإنذار، حيث قالت آمي برادي، رئيسة قسم المعلومات في KeyBank، إن البنك متراجع في مجال التكنولوجيا، عندما يتعلق الأمر باعتماد برنامج المصادقة الصوتية.
وقالت برادي إنها لم تعد تتطلع إلى تنفيذ برامج المصادقة الصوتية، حتى تتوفر أدوات أفضل لكشف عمليات انتحال الشخصية.
