استطاعت تقنية التزييف العميق زعزعة أركان اليقين، وجعلت الحواس البشرية غير كافية للتحقق من مصداقية ما نراه أو نسمعه، حيث لم يعد الصوت الذي تسمعه عبر الهاتف بالضرورة صوت ابنك المستغيث، ولا الوجه الذي يبتسم لك في اجتماع الفيديو هو بالضرورة وجه مديرك المالي.

وكشفت هذه التقنية عن الجانب المظلم للذكاء الاصطناعي المتمثل في الصيدليات الرقمية التي تبيع أدوات التزييف العميق الجاهزة للاستخدام بصفتها خدمة لمن ليس لديه خبرة برمجية، مما أدى إلى ظهور جيل جديد من عمليات الاحتيال المعتمدة على النسخ المزيفة من الأصوات والوجوه.

بدأت تقنية التزييف العميق تجربة تعتمد على الشبكات العصبية التنافسية، لكنها تحولت سريعا إلى صناعة مزدهرة، حيث انتقلنا من عصر صناعة المحتوى إلى عصر تزييف الواقع. ويكفي وجود ثوان معدودة فقط من صوت شخص ما لتدريب نموذج ذكاء اصطناعي يقلد النبرة والإيقاع واللهجة بدقة، في حين يعتمد تزييف الفيديوهات على لقطات عامة أصبحت فيها حركات العين، ورمش الجفون، وانعكاس الإضاءة على الجلد طبيعية تماما.

وبرزت أدوات في مجال استنساخ الصوت قادرة على محاكاة المشاعر الإنسانية، مثل "إيلفين لابس" (ElevenLabs) و"ريسمبل أيه آي" (Resemble AI)، بينما تسمح أدوات، مثل "هايجين" (HeyGen) و"راسك أيه آي" (Rask AI)، بإنشاء فيديوهات تتحدث بلغات متعددة مع مزامنة حركة الشفاه بدقة.

كما ظهرت نماذج لغوية كبيرة مصممة خصيصا للجريمة، مثل "وورم جي بي تي" (WormGPT) و"كاواي جي بي تي" (KawaiiGPT)، مما يسمح للمحتالين بصياغة رسائل تصيد فائقة التخصيص بلغات متعددة وبسرعة.

ومع تقدم تقنيات التزييف العميق التي تباع بأسعار زهيدة عبر الويب المظلم، أصبح من السهل إنتاج فيديو مزيف لمدير بنك أو صوت مستنسخ لابنة تستغيث.