قالت وكالة “موديز” للتصنيف الائتمانى، إن الذكاء الاصطناعى التوليدى على التصنيفات الائتمانية، يشكل تهديدًا للقطاع المالى الرقمى، وذلك من خلال التلاعب فى الصور والصوت واستبدالهما بصور وصوت شخص آخر مستهدف لا يمكن تمييزها عن الأصل، بهدف التضليل.
فى العصر الرقمى، وخاصة مع ظهور الذكاء الاصطناعى التوليدى، أصبحت تلك العملية أكثر تعقيدًا، وتشكل مخاطر متغيرة وأكبر.
وتُسمى تلك العملية الاحتيالية بـ”التزييف العميق deepfake”، حيث اكتسب المصطلح أول اعتراف واسع به عام 2017 فى منتدى “رديت” الافتراضى.
أضافت “موديز”، أن التقدم التكنولوجى يتسبب فى تضخيم ومضاعفة مخاطر “التزييف العميق”، حيث كان التلاعب المتعمد بمقاطع الفيديو والأصوات وتبديل الهويات أمرًا ليس بالسهل حتى وقتٍ قريب، فكان يتطلب المعرفة الجيدة بالخوارزميات المتخصصة وموارد الحوسبة المتقاربة لطريقة تفكير وتعلم الدماغ البشري.
ولكن مع التطور الذى طرأ على الذكاء الاصطناعى التوليدى، أصبحت تلك العملية الاحتيالية أسهل ويمكن الوصول إليها فى دقائق وبأسعار معقولة، بل وزادت من كفاءة التزوير وتبديل الحقائق.
ومع انتشار التزييف العميق، يمكن له تقويض وإضعاف العمليات التقليدية لمعرفة العميل، وتمكين الجهات الفاعلة السيئة من التسلل إلى كل من النظم المالية التقليدية والتمويل اللامركزى، فضلًا عن تغيير طبيعة ونطاق التهديدات السيبرانية التقليدية.
وعلى سبيل المثال، يمكن استخدام التزييف العميق لإنشاء مقاطع فيديو احتيالية لمسئولى البنوك أو المديرين التنفيذيين للشركة أو الموظفين الحكوميين، أو المعاملات المالية المباشرة أو القيام بعمليات احتيال فى المدفوعات.
فى أكتوبر 2023، تلقى موظف فى بنك “بنق” الهولندى عبر الإنترنت رسالة بريد إلكترونى ودعوة إلى مكالمة فيديو يُزعم أنها من الرئيس التنفيذى للبنك، وكان يوجه بتحويل أموال كبيرة خارج البنك. وعلى الرغم من التزييف العميق المُقنِع، نجحت العمليات المصرفية فى إيقاف التحويل، واكتشاف عملية الاحتيال.
يسلط هذا الحادث الضوء على المخاطر التى تشكلها التزييف العميق على الضمانات الداخلية.
كما يمكن للتزييف العميق تسهيل الاحتيال فى التأمين بشكل متزايد، وهو مصدر قلق لكل من شركات التأمين وحاملى وثائق التأمين. يمكن للمحتالين نشر هذه التكنولوجيا لإنشاء مقاطع فيديو أو تسجيلات صوتية مقنعة، وإظهار الأحداث التى تؤدى إلى مطالبات أو التلاعب بالأدلة لدعم المطالبات الاحتيالية.
على سبيل المثال، يمكن استخدام التزييف العميق لتلفيق حادث طريق أو أضرار فى الممتلكات، وخداع شركات التأمين لدفع تعويضات غير موجودة أو مبالغ فيها. هذا النوع من الاحتيال لديه القدرة ليس فقط على زيادة الخسائر المالية لشركات التأمين ولكن أيضًا لزيادة أقساط التأمين لحاملى وثائق التأمين الصادقين.
وهناك نسخة أخرى من الاحتيال المزيف العميق تتمثل فى استخدامه لدفع الاستثمارات إلى مخطط احتيالى أو التلاعب بمشاعر وميول المستثمرين للتأثير على الأسواق.
وتم استخدام التزييف العميق باستخدام صوت ووجه رئيس البنك المركزى الرومانى للدفاع عن الاستثمار.
وفى مايو 2024، علقت الهيئة الرقابية فى هونج كونج، منصة تداول العملات المشفرة التى ـدعت عن طريق الاحتيال أنها تقدم خدمات تداول التشفير القائمة على الذكاء الاصطناعي.
وزعمت أن “إيلون ماسك” هو المطور الرئيسى وراء منتجهم واستخدم مقاطع فيديو وصور مزيفة له على مواقعهم الإلكترونية ومنصاتهم الاجتماعية.
كان الدافع هو الترويج لخدمات تداول العملات المشفرة وإرساء الشرعية بين مستثمرى العملات المشفرة غير الحذرين فى هونغ كونج.
وفى حالة أخرى مماثلة، فى أبريل 2024، تم استخدام التزييف العميق للرئيس التنفيذى للبورصة الوطنية الهندية فى بعض مقاطع الفيديو الاستشارية للاستثمار والأسهم، ما يسلط الضوء على الانتهازية من قبل الأطراف غير الشريفة نظرًا لزيادة مشاركة الأفراد فى أسواق الأسهم الهندية فى السنوات الأخيرة.
كيف ترى شركات التكنولوجيا المالية الإطار الرقابى لـ”المركزى” عليها؟
ويمكن أن يؤدى التزييف العميق أيضًا إلى حقبة جديدة من التهديدات الإلكترونيةـ وذلك من خلال قدرته على تزوير الهويات، والتهرب من الكشف عن طريق الحواس البشرية، وتنفيذ هندسة اجتماعية متطورة، ويتحدى التزييف العميق آلياتنا التقليدية للثقة فى الفضاء الرقمي.
يُذكر أنه فى استطلاع حديث للصناعة، برز التزييف العميق كأكبر التهديدات الإلكترونية الناشئة، وأفاد معظم قادة أمن تكنولوجيا المعلومات أنهم غير جاهزين لهزيمة المخاطر التى تقدمها هذه التكنولوجيا الجديدة.
وأشارت “موديز” إلى تهديد إلكترونى آخر يمكن أن يصبح أكثر شيوعًا يسمى “هجمات الابتزاز”، وتتضمن هذه الهجمات تقليديًا مهاجمًا يهدد بنشر معلومات حساسة أو التسبب فى ضرر ما لم يتم دفع فدية.
ويمكن للتزييف العميق المدعوم من الذكاء الاصطناعى التوليدى زيادة تعقيد وتواتر مثل هذه الجرائم الإلكترونية.
على سبيل المثال، يمكن استخدام أدوات الذكاء الاصطناعى التوليدى لإنشاء مقاطع فيديو أو صور مزيفة تعرض الموضوع المتورط فى فعل إجرامى أو ضار أو خاص.
ويمكن أيضًا أن يكون هناك صوت يُزعم أنه يُظهر الضحية وهو يقوم بنشاط مماثل مرفوض، ويمكن بعد ذلك استخدام هذه الأصول لابتزاز الموضوع للامتثال لمطالب مجرم الإنترنت.
ويشكل التزييف العميق خطرًا على الاستقرار والأمن الاجتماعى والسياسى العالمي.
وأخيرًا فإن التدابير المضادة الحالية محدودة فى مواجهة التهديدات المتصاعدة التى تشكلها التزييف العميق، وتسعى الحكومات والمنظمون وأصحاب المصلحة فى الصناعة إلى إيجاد حلول للحد من انتشارها.
وقالت “موديز” إن الاستراتيجيات تتخذ حاليًا ثلاثة طرق رئيسية، وهى التدابير القانونية والتنظيمية، والحلول التكنولوجية، والتعاون الطوعى، لكن يظل هناك حاجة لنشر على نطاق واسع بالمخاطر ضروريًا للحد من العواقب السلبية التى تأتى من المعلومات الخاطئة.
وأشارت إلى أنه فى الولايات المتحدة، وضعت لجنة التجارة الفيدرالية (FTC) اللمسات الأخيرة على قاعدة جديدة تحظر انتحال شخصية الحكومة، والشركات، كما سعى مسؤولوها أو لجانها إلى الحصول على رأى عام بشأن اللوائح المستقبلية التى من شأنها أن تخلق مسؤولية للشركات التى لديها منتجات تسمح للأشخاص بإنشاء فيديو.
وفى وقت سابق من أكتوبر 2023، أصدر الرئيس بايدن، قرارًا بدراسة طرق تحديد وتمييز ما يسمى بالمحتوى الاصطناعى، بالإضافة إلى مصادقة المحتوى وتتبع أصله الحقيقى.
