تقنية التزييف العميق

ينقسم البحث الأكاديمي المتعلق بتقنية التزييف العميق بين مجال رؤية الحاسوب ، وهو فرع من علوم الحاسوب، ^{[ 18 ]} الذي يُعنى بتطوير تقنيات إنشاء وكشف التزييف العميق، وبين مناهج العلوم الإنسانية والاجتماعية التي تدرس الآثار الاجتماعية والأخلاقية والجمالية، فضلاً عن الآثار الصحفية والإعلامية للتزييف العميق. ^{[ 23 ]} ومع ازدياد تطور وانتشار التزييف العميق، بفضل الابتكارات التي توفرها أدوات الذكاء الاصطناعي، انصبّ اهتمام بحثي كبير على تطوير أساليب الكشف عنه وتحديد العوامل الدافعة للتفاعل معه على الإنترنت. ^{[ 24 ] [ 25 ]} وقد تبين أن التزييف العميق يظهر على منصات التواصل الاجتماعي وأجزاء أخرى من الإنترنت لأغراض تشمل الترفيه، والتعليم المتعلق بالتزييف العميق، ونشر المعلومات المضللة بهدف إثارة ردود فعل قوية. ^{[ 26 ]} إلا أن هناك ثغرات في الأبحاث المتعلقة بانتشار التزييف العميق على وسائل التواصل الاجتماعي. وتُعدّ السلبية والاستجابة العاطفية من أهم العوامل الدافعة لمشاركة المستخدمين للتزييف العميق. ^{[ 27 ]}

في دراسات السينما، تُظهر تقنية التزييف العميق كيف أن "الوجه البشري يبرز كعنصر محوري للازدواجية في العصر الرقمي". ^{[ 28 ]} استخدم فنانو الفيديو تقنية التزييف العميق "لإعادة كتابة تاريخ السينما بأسلوب مرح من خلال إعادة صياغة الأفلام الكلاسيكية بنجوم جدد". ^{[ 29 ] [ 30 ]} يحلل الباحث السينمائي كريستوفر هوليداي كيف أن تغيير جنس وعرق الممثلين في مشاهد سينمائية مألوفة يُزعزع تصنيفات وفئات النوع الاجتماعي. ^{[ 30 ]} كما يُناقش مفهوم " تغيير " التزييف العميق في بحث أوليفر إم. جينجريتش حول الأعمال الفنية الإعلامية التي تستخدم التزييف العميق لإعادة صياغة النوع الاجتماعي، ^{[ 31 ]} بما في ذلك عمل الفنان البريطاني جيك إيلويس " زيزي: تغيير مجموعة البيانات" ، وهو عمل فني يستخدم صورًا مُزيّفة لملكات دراغ كوين للعب بالنوع الاجتماعي بشكل مقصود. كما بدأت تُستكشف الإمكانيات الجمالية للتزييف العميق. يشير مؤرخ المسرح جون فليتشر إلى أن العروض المبكرة لتقنية التزييف العميق تُقدم على أنها عروض فنية، ويضعها في سياق المسرح، ويناقش "بعض التحولات النموذجية الأكثر إثارة للقلق" التي تمثلها تقنية التزييف العميق كنوع من أنواع الأداء. ^{[ 32 ]}

بينما تركز معظم الدراسات الأكاديمية باللغة الإنجليزية حول تقنية التزييف العميق على المخاوف الغربية بشأن التضليل الإعلامي والمواد الإباحية، حللت عالمة الأنثروبولوجيا الرقمية غابرييل دي سيتا ردود الفعل الصينية تجاه هذه التقنية، المعروفة باسم " هوانليان " والتي تُترجم إلى "تغيير الوجوه". لا يحتوي المصطلح الصيني على كلمة "fake" الموجودة في مصطلح "deepfake" الإنجليزي، وتجادل دي سيتا بأن هذا السياق الثقافي قد يفسر سبب تركيز الاستجابة الصينية على التدابير التنظيمية العملية لمواجهة "مخاطر الاحتيال، وحقوق الصورة، والربح الاقتصادي، والاختلالات الأخلاقية". ^{[ 33 ]}

كان برنامج "إعادة كتابة الفيديو" الذي نُشر عام ١٩٩٧، أحد المشاريع الرائدة في بدايات هذا المجال. عدّل البرنامج لقطات فيديو موجودة لشخص يتحدث ليُظهر ذلك الشخص وهو يُحرك شفتيه مع الكلمات من مسار صوتي مختلف. ^{[ ٣٤ ]} كان هذا أول نظام يُؤتمت هذا النوع من إعادة تحريك الوجه بشكل كامل، وقد فعل ذلك باستخدام تقنيات التعلّم الآلي لربط الأصوات الصادرة عن الشخص في الفيديو بشكل وجهه. ^{[ ٣٤ ]}

ركزت المشاريع الأكاديمية المعاصرة على إنشاء مقاطع فيديو أكثر واقعية وتحسين تقنيات التزييف العميق. ^{[ 35 ] [ 36 ]} يُعدّل برنامج "توليف أوباما"، الذي نُشر عام 2017، لقطات فيديو للرئيس السابق باراك أوباما ليُظهره وهو يُحرك شفتيه مع الكلمات الموجودة في مسار صوتي منفصل. ^{[ 35 ]} ويُعتبر من أبرز إسهامات هذا المشروع البحثية تقنيته الواقعية للغاية في توليف أشكال الفم من الصوت. ^{[ 35 ]} أما برنامج "وجهاً لوجه"، الذي نُشر عام 2016، فيُعدّل لقطات فيديو لوجه شخص ما ليُظهره وهو يُقلّد تعابير وجه شخص آخر. ^{[ 36 ]} ويُبرز هذا المشروع إسهامه البحثي الرئيسي في تطوير أول طريقة لإعادة تمثيل تعابير الوجه في الوقت الفعلي باستخدام كاميرا لا تلتقط العمق، مما يُتيح استخدام هذه التقنية مع كاميرات المستهلكين الشائعة.

أظهرت الأبحاث أيضًا أن تقنية التزييف العميق تتوسع لتشمل مجالات أخرى، مثل التصوير الطبي. ^{[ 37 ]} في هذه الدراسة، تم توضيح كيف يمكن للمهاجم حقن أو إزالة سرطان الرئة تلقائيًا في صورة مقطعية ثلاثية الأبعاد لمريض . كانت النتيجة مقنعة للغاية لدرجة أنها خدعت ثلاثة أطباء أشعة ونظام ذكاء اصطناعي متطور للكشف عن سرطان الرئة. ولإثبات خطورة هذه التقنية، نفّذ الباحثون بنجاح هجومًا مماثلًا على مستشفى في اختبار اختراق أخلاقي . ^{[ 38 ]}

تُقدّم دراسة استقصائية حول تقنية التزييف العميق، نُشرت في مايو 2020، تسلسلًا زمنيًا لتطور إنشاء هذه التقنية وكشفها خلال السنوات القليلة الماضية. ^{[ 39 ]} وتُشير الدراسة إلى أن الباحثين يُركّزون على حلّ التحديات التالية التي تواجه إنشاء تقنية التزييف العميق:

• التعميم. غالبًا ما يتم تحقيق التزييف العميق عالي الجودة من خلال التدريب على ساعات من لقطات الفيديو للشخص المستهدف. يكمن التحدي في تقليل كمية بيانات التدريب والوقت اللازم لتدريب النموذج لإنتاج صور عالية الجودة، وتمكين تشغيل النماذج المدربة على هويات جديدة (لم يسبق رؤيتها أثناء التدريب).
• التدريب المزدوج. يُمكن لتدريب نموذج مُشرف أن يُنتج نتائج عالية الجودة، ولكنه يتطلب مُزاوجة البيانات. وتتمثل هذه العملية في إيجاد أمثلة للمدخلات ومخرجاتها المطلوبة ليتعلم منها النموذج. تُعدّ مُزاوجة البيانات عملية شاقة وغير عملية عند التدريب على هويات متعددة وسلوكيات وجهية متنوعة. تشمل بعض الحلول التدريب الذاتي (باستخدام إطارات من نفس الفيديو)، أو استخدام شبكات غير مُزاوجة مثل Cycle-GAN، أو التلاعب بتضمينات الشبكة.
• تسريب الهوية. يحدث هذا عندما تنتقل هوية السائق (أي الممثل الذي يتحكم بالوجه في إعادة تمثيل المشهد) جزئيًا إلى الوجه المُولّد. تتضمن بعض الحلول المقترحة آليات الانتباه، والتعلم باستخدام عدد قليل من الأمثلة، وفك التشابك، وتحويلات الحدود، ووصلات التخطي.
• الحجب. عندما يُحجب جزء من الوجه باليد أو الشعر أو النظارات أو أي شيء آخر، قد تظهر تشوهات في الصورة. ومن الحجب الشائعة إغلاق الفم، مما يحجب باطن الفم والأسنان. تتضمن بعض الحلول تجزئة الصورة أثناء التدريب وإعادة ترميمها.
• التماسك الزمني. في مقاطع الفيديو التي تحتوي على تقنية التزييف العميق، قد تظهر تشوهات مثل الوميض والاهتزاز لأن الشبكة لا تملك سياق الإطارات السابقة. يقوم بعض الباحثين بتوفير هذا السياق أو استخدام تقنيات جديدة لفقدان التماسك الزمني للمساعدة في تحسين الواقعية. ومع تطور هذه التقنية، يتضاءل هذا التشويش.

بشكل عام، من المتوقع أن يكون لتقنية التزييف العميق آثار عديدة في الإعلام والمجتمع، وإنتاج المحتوى الإعلامي، وتمثيلات وسائل الإعلام، وجمهور وسائل الإعلام، والجنس، والقانون، والتنظيم، والسياسة. ^{[ 40 ]}

ظهر مصطلح "التزييف العميق " في أواخر عام 2017 من مستخدم على موقع ريديت يُدعى "deepfakes". ^{[ 41 ]} وقد شارك هو، إلى جانب أعضاء آخرين في منتدى "r/deepfakes" على ريديت، مقاطع فيديو مُزيّفة بتقنية التزييف العميق قاموا بإنشائها؛ تضمنت العديد من مقاطع الفيديو وجوه مشاهير مُركّبة على أجساد ممثلين في أفلام إباحية، ^{[ 41 ]} بينما تضمنت المحتويات غير الإباحية العديد من مقاطع الفيديو التي تم فيها تركيب وجه الممثل نيكولاس كيج في أفلام مختلفة. ^{[ 42 ]}

بعد هذا التقديم الأولي، نما تطوير الهواة بوتيرة سريعة بفضل توفر البرامج مفتوحة المصدر والدروس التعليمية على الإنترنت. سمحت الأدوات المجانية المتاحة، مثل FakeApp وFaceSwap وDeepFaceLab، للمستخدمين الذين لا يملكون أي تعليم رسمي في علوم الحاسوب بتجميع مقاطع فيديو بتقنية التزييف العميق باستخدام أجهزة استهلاكية. ^{[ 43 ] [ 21 ]} لعبت المنتديات الإلكترونية، مثل Reddit وGitHub وYouTube، دورًا هامًا في توزيع البرامج والتعليمات والمحتوى التجريبي، وساعدت في نشر وتطوير تقنيات التزييف العميق للهواة بسرعة أكبر. ^{[ 21 ]}

تستمر بعض المجتمعات الإلكترونية الأخرى في مشاركة المواد الإباحية على منصات لم تحظر المواد الإباحية المزيفة بتقنية التزييف العميق. ^{[ 44 ]}

في يناير 2018، تم إطلاق تطبيق سطح مكتب احتكاري يُدعى "FakeApp". ^{[ 45 ]} يتيح هذا التطبيق للمستخدمين إنشاء ومشاركة مقاطع فيديو بسهولة بعد تبديل وجوههم. ^{[ 46 ]} وبحلول عام 2019، تم استبدال "FakeApp" إلى حد كبير ببدائل مفتوحة المصدر مثل "Faceswap"، و"DeepFaceLab" الذي يعمل عبر سطر الأوامر، وتطبيقات الويب مثل DeepfakesWeb. ^{[ 47 ] [ 48 ] [ 49 ]}

بدأت الشركات الكبرى باستخدام تقنية التزييف العميق. ^{[ 20 ]} يمكن إنشاء فيديوهات تدريبية للشركات باستخدام صور رمزية مُزيّفة وأصواتها، على سبيل المثال ، تطبيق Synthesia الذي يستخدم تقنية التزييف العميق مع الصور الرمزية لإنشاء فيديوهات شخصية. ^{[ 50 ]} طوّر تطبيق Momo للهواتف المحمولة تطبيق Zao الذي يسمح للمستخدمين بتركيب وجوههم على مقاطع التلفزيون والأفلام بصورة واحدة. ^{[ 20 ]} في عام 2019، طوّرت شركة DataGrid اليابانية للذكاء الاصطناعي تقنية تزييف عميق لكامل الجسم قادرة على إنشاء شخص من الصفر. ^{[ 51 ]}

بحلول عام 2020، ظهرت تقنيات التزييف العميق الصوتي وبرامج الذكاء الاصطناعي القادرة على استنساخ الأصوات البشرية بناءً على بضع ثوانٍ من الكلام. ^{[ 52 ] [ 53 ]} كما ظهرت أدوات لكشف التزييف العميق. ^{[ 54 ] [ 55 ] [ 56 ]} وفي مارس 2020، أُطلق تطبيق Impressions للهواتف المحمولة، وهو تطبيق متخصص في التزييف العميق، وكان أول تطبيق لإنشاء فيديوهات مزيفة للمشاهير باستخدام الهواتف المحمولة. ^{[ 57 ] [ 58 ]}

تمتد قدرة تقنية التزييف العميق على تزييف رسائل وأفعال الآخرين لتشمل المتوفين، كما هو الحال في العلاج النفسي للمفجوعين الذي يسمح بالتواصل الظاهري مع أحد الأحباء المتوفين. ^{[ 59 ]} في أكتوبر 2020، نشرت كيم كارداشيان مقطع فيديو يظهر فيه مجسم ثلاثي الأبعاد لوالدها الراحل، روبرت كارداشيان ، من إنتاج شركة كايليدا، التي استخدمت مزيجًا من تقنيات الأداء وتتبع الحركة والمؤثرات الخاصة والبصرية والتزييف العميق لخلق هذا الوهم. ^{[ 60 ] [ 61 ]}

في عام 2020، تم إنشاء فيديو بتقنية التزييف العميق لخواكين أوليفر، أحد ضحايا حادثة إطلاق النار في باركلاند ، كجزء من حملة للتوعية بسلامة الأسلحة. تعاون والدا أوليفر مع منظمة "تغيير المرجع" غير الربحية وشركة "ماكان هيلث" لإنتاج فيديو يظهر فيه أوليفر لتشجيع الناس على دعم تشريعات سلامة الأسلحة، وحثّ السياسيين المؤيدين لها على فعل الشيء نفسه. ^{[ 62 ]}

في عام 2022، تم استخدام فيديو مزيف بتقنية التزييف العميق لإلفيس بريسلي في برنامج America's Got Talent 17. ^{[ 63 ]}

سبق أن ظهرت نسخ رقمية لممثلين محترفين في أفلام ، ومن المتوقع أن يُسهم التقدم في تقنية التزييف العميق في زيادة سهولة الوصول إلى هذه النسخ وفعاليتها. ^{[ 68 ]} وكان استخدام تقنية الذكاء الاصطناعي قضية محورية في إضراب نقابة ممثلي الشاشة (SAG-AFTRA) عام 2023 ، حيث أتاحت التقنيات الجديدة إمكانية توليد وتخزين صورة رقمية لاستخدامها بدلاً من الممثلين. ^{[ 69 ]}

حسّنت ديزني مؤثراتها البصرية باستخدام تقنية التزييف العميق عالية الدقة لتبديل الوجوه. ^{[ 70 ]} طورت ديزني هذه التقنية من خلال تدريب تدريجي مُبرمج للتعرف على تعابير الوجه، وتطبيق ميزة تبديل الوجوه، والتكرار لتحسين استقرار الناتج ودقته. ^{[ 70 ]} توفر تقنية التزييف العميق عالية الدقة هذه تكاليف تشغيل وإنتاج كبيرة. ^{[ 71 ]} يستطيع نموذج توليد التزييف العميق من ديزني إنتاج وسائط مُولّدة بالذكاء الاصطناعي بدقة 1024 × 1024 بكسل، على عكس النماذج الشائعة التي تنتج وسائط بدقة 256 × 256 بكسل. ^{[ 71 ]} تسمح هذه التقنية لديزني بإعادة الشخصيات إلى شبابها أو إحياء الممثلين المتوفين. ^{[ 72 ]} استخدم المعجبون تقنية مشابهة في البداية لإدخال وجوه بشكل غير رسمي في وسائط موجودة، مثل تركيب وجه هاريسون فورد الشاب على وجه هان سولو في فيلم "سولو: قصة من حرب النجوم" . ^{[ 73 ]} استخدمت ديزني تقنية التزييف العميق لشخصيتي الأميرة ليا في فيلم Rogue One ولوك سكاي ووكر في كل من مسلسل The Mandalorian وكتاب Boba Fett . ^{[ 74 ] [ 75 ]}

في فيلم الخيال العلمي والحركة الهندي التاميلي " الأعظم على مر العصور" (The Greatest of All Time) الصادر عام 2024، جسّد أياز خان شخصية جيفان، التي يؤديها فيجاي، في مرحلة المراهقة . وقد تم الحصول على وجه فيجاي في تلك المرحلة باستخدام تقنية التزييف العميق بالذكاء الاصطناعي. ^{[ 76 ]} وفي مايو 2025، طوّرت شركة زيكويا الهولندية، التابعة لشركة الإنتاج بارتيكل 6 التي أسستها الممثلة والكوميدية إيلين فان دير فيلدن ، ممثلةً مُولّدةً بالذكاء الاصطناعي تُدعى تيلي نوروود . ^{[ 77 ]}

تُستخدم تقنية التزييف العميق أيضًا في التعليم والإعلام لإنشاء مقاطع فيديو واقعية ومحتوى تفاعلي، مما يوفر طرقًا جديدة لإشراك الجماهير.

في مارس 2018، نشر الفنان متعدد التخصصات جوزيف آيرل عمله الفني المرئي "Un'emozione per sempre 2.0" (العنوان الإنجليزي: The Italian Game ). استخدم الفنان تقنية التزييف العميق لإنشاء شخصية اصطناعية، نسخة مُصنّعة من نجمة السينما الإيطالية أورنيلا موتي ، تسافر عبر الزمن من عام 1978 إلى عام 2018. وقد أشار معهد ماساتشوستس للتكنولوجيا إلى هذا العمل الفني في دراسة بعنوان "الحكمة الجماعية". ^{[ 78 ]} استخدم الفنان سفر أورنيلا موتي عبر الزمن لاستكشاف انعكاسات الأجيال، بالإضافة إلى بحثه في دور الاستفزاز في عالم الفن. ^{[ 79 ]} وللتنفيذ التقني، استخدم آيرل مشاهد من عارضة الأزياء كيندال جينر . استبدل البرنامج وجه جينر بوجه مُصنّع بالذكاء الاصطناعي لأورنيلا موتي. ونتيجة لذلك، يمتلك الممثل الاصطناعي وجه الممثلة الإيطالية أورنيلا موتي وجسم كيندال جينر.

استُخدمت تقنية التزييف العميق على نطاق واسع في السخرية أو لمحاكاة المشاهير والسياسيين. ويُبرز مسلسل "ساسي جاستس" الإلكتروني لعام 2020 ، الذي ابتكره تري باركر ومات ستون ، استخدام شخصيات عامة مُزيّفة بتقنية التزييف العميق بشكل كبير للسخرية من الأحداث الجارية وزيادة الوعي بهذه التقنية. ^{[ 80 ]}

يمكن استخدام تقنية التزييف العميق لإنشاء مواد ابتزاز تُدين الضحية زوراً. وقد حذّر تقرير صادر عن دائرة أبحاث الكونغرس الأمريكي من إمكانية استخدام هذه التقنية لابتزاز المسؤولين المنتخبين أو من لديهم إمكانية الوصول إلى معلومات سرية لأغراض التجسس أو التأثير . ^{[ 81 ]}

عندما يتعذر التمييز بين الأدلة المزيفة والأدلة الحقيقية بشكل موثوق، قد يدّعي ضحايا الابتزاز بالأدلة الرقمية أن الأدلة الحقيقية مزيفة، سعياً وراء إنكار معقول بالاعتماد على حجة عدم التمييز بين الأدلة المزيفة والحقيقية. والنتيجة المرجوة هي إبطال مصداقية بعض مواد الابتزاز الموجودة، والتي، إذا كانت الدليل الوحيد الذي يحتفظ به المبتز، ولم تتمكن هيئة المحلفين من تمييزها عن الأدلة المزيفة وفقاً لهذه الحجة، فقد يؤدي ذلك نظرياً إلى تقويض ولاء المبتزين والحد من سيطرتهم على ضحاياهم. وقد أُطلق على هذه الظاهرة اسم "تضخم الابتزاز"، لأنها نظرياً "تقلل من قيمة" مواد الابتزاز الأصلية. ^{[ 82 ]} من الممكن استخدام أجهزة معالجة رسومية (GPU) تجارية مع برنامج صغير لإنشاء محتوى مزيف يهدف إلى ابتزاز أي شخص يمتلك الخصم بيانات تدريبية كافية عنه. ^{[ 83 ]} ومع ذلك، حتى التزييف المُعالَج بعناية قد يظل قابلاً للكشف.

إن وجود تقنيات فعالة لتلفيق أدلة كاذبة يشير بوضوح إلى أن أي مزيج من الفيديو أو الصوت أو الصور أو غيرها من الأدلة القابلة للجمع، كأساس لإدانة جريمة ما، أصبح الآن معيارًا محفوفًا بالمخاطر وهشًا نظرًا لاحتمالية تلفيق الأدلة بشكل خبيث، مما يزيد من أهمية وجود شهود عيان متعددين على الجريمة، لا سيما في الادعاءات الأكثر خطورة. ^{[ 84 ]}

في 8 يونيو 2022، ^تعاون دانيال إيميت، المتسابق السابق في برنامج ^" أمريكا غوت تالنت" ^، مع شركة الذكاء الاصطناعي ^{الناشئة " ميتافيزيك إيه آي "} لإنشاء فيديو مزيف بتقنية التزييف العميق فائقة الواقعية ليظهر وكأنه سايمون كويل ^{. كان} كويل، المعروف بانتقاداته اللاذعة للمتسابقين، على المسرح يؤدي أغنية " أنتِ مصدر الإلهام " لفرقة شيكاغو ^{. غنى إيميت على المسرح بينما ظهرت صورة سايمون كويل على} الشاشة خلفه بتزامن ^{تام .}

في 30 أغسطس 2022، قامت شركة Metaphysic AI بتصوير سيمون كويل ، وهاوي ماندل، وتيري كروز بتقنية التزييف العميق وهم يغنون الأوبرا على المسرح. ^{[ 90 ]}

في 13 سبتمبر 2022، قدمت شركة Metaphysic AI عرضًا مع نسخة اصطناعية من إلفيس بريسلي في نهائيات برنامج America's Got Talent . ^{[ 91 ]}

استُخدم مشروع الذكاء الاصطناعي 15.ai التابع لمعهد ماساتشوستس للتكنولوجيا في إنشاء محتوى للعديد من جماهير الإنترنت ، وخاصة على وسائل التواصل الاجتماعي. ^{[ 92 ] [ 93 ] [ 94 ]}

في عام 2023، تعاونت فرقتا ABBA و Kiss مع Industrial Light & Magic و Pophouse Entertainment لتطوير صور رمزية بتقنية التزييف العميق قادرة على أداء حفلات موسيقية افتراضية . ^{[ 95 ]}

يستغل المحتالون تقنية التزييف العميق لخداع الناس وإيقاعهم في فخ مخططات استثمارية وهمية، وعمليات احتيال مالي ، وتداول العملات المشفرة ، وإرسال الأموال ، وتقليد الإعلانات . وقد استُخدمت صور المشاهير والسياسيين في عمليات احتيال واسعة النطاق، بالإضافة إلى صور الأفراد العاديين في هجمات التصيد الاحتيالي . ووفقًا لمكتب الأعمال الأفضل ، فإن عمليات الاحتيال باستخدام التزييف العميق تتزايد انتشارًا. ^{[ 96 ]} وتُقدر الخسائر الناجمة عن هذه العمليات بنحو 12 مليار دولار أمريكي على مستوى العالم. ^{[ 97 ]} ويتوقع تقرير حديث أن تصل هذه الأرقام إلى 40 مليار دولار أمريكي خلال السنوات الثلاث المقبلة. ^{[ 97 ]} وبحلول عام 2030، من المتوقع أن يصل الأثر المالي العالمي للاحتيال باستخدام التزييف العميق إلى 58.3 مليار دولار أمريكي، مدفوعًا بظهور ما يُعرف بـ"الاحتيال كخدمة". يتجاوز متوسط ​​الخسارة لكل حادثة تزييف عميق إجرامية الآن 500 ألف دولار، ومن المتوقع أن تكلف الهويات التركيبية المركبة "فرانكشتاين" الاقتصاد البريطاني 4.2 مليار جنيه إسترليني بحلول عام 2027. ^{[ 98 ]}

استغلت حملات الترويج المزيفة هويات مشاهير مثل تايلور سويفت ، ^{[ 99 ] [ 96 ]} وتوم هانكس ، ^{[ 100 ]} وأوبرا وينفري ، ^{[ 101 ]} وإيلون ماسك ؛ ^{[ 102 ]} ومذيعي الأخبار ^{[ 103 ]} مثل غايل كينغ ^{[ 100 ]} وسالي بوندوك ؛ ^{[ 104 ]} وسياسيين مثل لي هسين لونغ ^{[ 105 ]} وجيم تشالمرز . ^{[ 106 ] [ 107 ]} وقد ظهرت مقاطع فيديو لهم في إعلانات على منصات يوتيوب وفيسبوك وتيك توك ، التي تتبنى سياسات ضد المحتوى المصطنع والمُتلاعب به . ^{[ 108 ] [ 99 ] [ 109 ]} ويشاهد ملايين الأشخاص الإعلانات التي تعرض هذه الفيديوهات. وقد حصدت حملة واحدة للاحتيال على برنامج الرعاية الصحية الحكومي (Medicare) أكثر من 195 مليون مشاهدة عبر آلاف الفيديوهات. ^{[ 108 ] [ 110 ]} استُخدمت تقنية التزييف العميق في: توزيع هدايا وهمية لأواني طهي من لو كروزيه مقابل "رسوم شحن" دون استلام المنتجات، باستثناء رسوم شهرية مخفية؛ ^{[ 99 ]} علكات إنقاص الوزن بأسعار أعلى بكثير من المعلن عنها؛ ^{[ 101 ]} توزيع هدايا وهمية لهواتف آيفون؛ ^{[ 99 ] [ 109 ]} وعمليات احتيال للثراء السريع ، ^{[ 102 ] [ 111 ]} والاستثمار، ^{[ 112 ]} والعملات المشفرة . ^{[ 105 ] [ 113 ]} وإلى جانب عمليات الاحتيال على المستهلكين، تستهدف عمليات التزييف العميق الصناعية بشكل متزايد البنية التحتية للشركات، متجاوزةً كاميرات المراقبة الافتراضية وفحوصات التحقق من الحضور لتنفيذ عمليات سطو مؤسسية بارزة تُسفر عن خسائر تصل إلى 50 مليون دولار في حدث واحد. ^{[ 98 ]}

استُخدمت تقنية التزييف الصوتي العميق كجزء من عمليات الاحتيال الهندسي الاجتماعي ، حيث يتم خداع الناس وإيهامهم بأنهم يتلقون تعليمات من شخص موثوق به. ^{[ 114 ]} في عام 2019، تعرض الرئيس التنفيذي لشركة طاقة بريطانية للاحتيال عبر الهاتف، حيث طُلب منه تحويل 220 ألف يورو إلى حساب مصرفي في المجر من قِبل شخص يُزعم أنه استخدم تقنية التزييف الصوتي العميق لانتحال صوت الرئيس التنفيذي للشركة الأم. ^{[ 115 ] [ 116 ]} وبحلول عام 2023، مكّنت التطورات في تقنية التزييف العميق، التي تستطيع استنساخ صوت شخص ما من تسجيل صوتي يتراوح بين بضع ثوانٍ ودقيقة، إلى جانب أدوات جديدة لتوليد النصوص ، من عمليات احتيال آلية لانتحال الشخصية، تستهدف الضحايا باستخدام نسخة رقمية مقنعة لصديق أو قريب. ^{[ 117 ]} تستطيع هذه الهجمات المتطورة، المعروفة باسم "التصيد الصوتي"، استنساخ صوت الهدف بدقة من ثلاث ثوانٍ فقط من الصوت، مما يؤدي إلى خسائر مالية لـ 77% من الضحايا المستهدفين. علاوة على ذلك، يلجأ المهاجمون بشكل متزايد إلى نشر "الذكاء الاصطناعي الوكيل" المستقل القادر على التفكير والتكيف في الوقت الفعلي أثناء سيناريوهات الهندسة الاجتماعية الحية. ^{[ 98 ]}

تم استخدام تقنية التزييف العميق لتشويه صورة سياسيين معروفين في مقاطع الفيديو.

• في فبراير 2018، وفي مقاطع فيديو منفصلة، ​​تم استبدال وجه الرئيس الأرجنتيني ماوريسيو ماكري بوجه أدولف هتلر ، وتم استبدال وجه أنجيلا ميركل بوجه دونالد ترامب . ^{[ 118 ] [ 119 ]}
• في أبريل 2018، تعاون جوردان بيل مع موقع بازفيد لإنشاء فيديو مزيف بتقنية التزييف العميق لباراك أوباما بصوت بيل؛ وقد كان بمثابة إعلان خدمة عامة لزيادة الوعي بتقنية التزييف العميق. ^{[ 120 ]}
• في يناير 2019، بثت قناة KCPQ التابعة لشبكة فوكس مقطع فيديو مزيفاً بتقنية التزييف العميق لترامب أثناء خطابه من المكتب البيضاوي ، ساخراً من مظهره ولون بشرته. وقد تم فصل الموظف المسؤول عن الفيديو لاحقاً. ^{[ 121 ]}
• في يونيو 2019، عقدت لجنة الاستخبارات بمجلس النواب الأمريكي جلسات استماع حول الاستخدام الخبيث المحتمل لتقنية التزييف العميق للتأثير على الانتخابات. ^{[ 122 ]}
• في أبريل/نيسان 2020، نشر الفرع البلجيكي لحركة "تمرد ضد الانقراض" مقطع فيديو مُفبركًا بتقنية التزييف العميق لرئيسة الوزراء البلجيكية صوفي ويلميس على فيسبوك. ^{[ 123 ]} روّج الفيديو لرابط محتمل بين إزالة الغابات وجائحة كوفيد-19 . حصد الفيديو أكثر من 100 ألف مشاهدة خلال 24 ساعة، وتلقى العديد من التعليقات. على صفحة فيسبوك التي نُشر عليها الفيديو، اعتبره العديد من المستخدمين حقيقيًا. ^{[ 124 ]}
• خلال الحملة الرئاسية الأمريكية لعام 2020 ، انتشرت العديد من الفيديوهات المُفبركة بتقنية التزييف العميق التي تزعم أن جو بايدن يعاني من تدهور معرفي - حيث ظهر وهو ينام أثناء مقابلة، ويتوه، ويخطئ في الكلام - مما عزز الشائعات حول تدهور حالته. ^{[ 125 ] [ 126 ]}
• خلال حملة انتخابات الجمعية التشريعية في دلهي عام 2020 ، استخدم حزب بهاراتيا جاناتا في دلهي تقنية مماثلة لتوزيع نسخة مترجمة إلى اللغة الهاريانية من إعلان حملة انتخابية باللغة الإنجليزية لزعيمه، مانوج تيواري ، وذلك لاستهداف ناخبي ولاية هاريانا . وقد تم استخدام ممثل لتسجيل التعليق الصوتي، كما تم استخدام ذكاء اصطناعي مُدرَّب على مقاطع فيديو لخطابات تيواري لمزامنة حركة الشفاه مع التعليق الصوتي الجديد. وصف أحد أعضاء الحزب ذلك بأنه استخدام "إيجابي" لتقنية التزييف العميق، مما سمح لهم "بالتواصل بفعالية مع الجمهور المستهدف حتى لو لم يكن المرشح يتحدث لغة الناخب". ^{[ 127 ]}
• في عام 2020، أنتج برونو سارتوري مقاطع فيديو بتقنية التزييف العميق تحاكي سياسيين مثل جاير بولسونارو ودونالد ترامب . ^{[ 128 ]}
• في أبريل/نيسان 2021، تواصل مُقَلِّدان يُدعيان فوفان وليكسوس مع سياسيين في عدد من الدول الأوروبية ، ويتهمهما منتقدوهما بالعمل لصالح الدولة الروسية . انتحلا شخصية ليونيد فولكوف ، السياسي المعارض الروسي ورئيس أركان حملة زعيم المعارضة الروسية أليكسي نافالني ، وذلك باستخدام تقنية التزييف العميق (Deepfake) كما يُزعم. ^{[ 129 ] [ 130 ] [ 131 ] [ 132 ]} إلا أنهما صرحا لموقع "ذا فيرج" أنهما لم يستخدما تقنية التزييف العميق، وإنما استخدما شخصًا يُشبههما فقط . ^{[ 133 ]}
• في مايو 2023، انتشر على مواقع التواصل الاجتماعي مقطع فيديو مُفبرك بتقنية التزييف العميق يُزعم أنه يُظهر نائبة الرئيس كامالا هاريس وهي تتلعثم في الكلام وتتحدث بكلام غير مفهوم عن اليوم والغد والأمس. ^{[ 134 ] [ 135 ]}
• في يونيو 2023، في الولايات المتحدة، استخدمت الحملة الرئاسية لرون ديسانتيس تقنية التزييف العميق لتضليل دونالد ترامب. ^{[ 136 ]}
• في نوفمبر 2023، قام مركز الجمال السياسي (Zentrum für Politische Schönheit) بتحميل فيديو مُفبرك بتقنية التزييف العميق (Deepfake) على موقع يوتيوب، يُظهر المستشار الألماني أولاف شولتز وهو يُعلن عن خطة لحظر الأنشطة السياسية لحزب البديل من أجل ألمانيا (AfD ). ^{[ 137 ]}
• في مارس 2024، وخلال انتخابات المجالس التشريعية للولايات الهندية، استخدم المرشحون السياسيون تقنية التزييف العميق على نطاق واسع للتواصل مع الناخبين. لجأ العديد من السياسيين إلى استخدام مقاطع فيديو مُزيّفة بتقنية الذكاء الاصطناعي، من إنتاج شركة "ذا إنديان ديب فيكر" الناشئة، التي أسسها ديفيندرا سينغ جادون، ^{[ 138 ]} لترجمة خطاباتهم إلى لغات إقليمية متعددة، مما أتاح لهم التواصل مع مختلف المجتمعات اللغوية في جميع أنحاء البلاد. وقد مثّل هذا الارتفاع الكبير في استخدام التزييف العميق في الحملات السياسية تحولاً هاماً في أساليب الحملات الانتخابية في الهند. ^{[ 139 ] [ 140 ]}
• في يونيو 2025، دعمت حكومة خافيير ميلي حملة تشويه ضد الصحفي مينغوليني، والتي استندت جزئياً إلى مقاطع فيديو مزيفة بتقنية التزييف العميق. ^{[ 141 ] [ 142 ]}
• في يوليو 2025، نشر دونالد ترامب مقطع فيديو مزيفاً بتقنية التزييف العميق على حسابه على منصة "تروث سوشيال" ، يصور الرئيس السابق باراك أوباما وهو يُعتقل في البيت الأبيض ويُسجن. ^{[ 143 ] [ 144 ]}

In 2017, Deepfake pornography prominently surfaced on the Internet, particularly on Reddit.^[145] As of 2019, many deepfakes on the internet feature pornography of female celebrities whose likeness is typically used without their consent.^[146] A report published in October 2019 by Dutch cybersecurity startup Deeptrace estimated that 96% of all deepfakes online were pornographic.^[147] As of 2018, a Daisy Ridley deepfake first captured attention,^[145] among others.^{[148][149][150]} As of October 2019, most of the deepfake subjects on the internet were British and American actors.^[146] However, around a quarter of the subjects are South Korean, the majority of which are K-pop stars.^[146][151]

In June 2019, a downloadable Windows and Linux application called DeepNude was released that used neural networks, specifically generative adversarial networks, to remove clothing from images of women. The app had both a paid and unpaid version, the paid version costing $50.^[152][153] On 27 June the creators removed the application and refunded consumers.^[154]

Female celebrities are often a main target when it comes to deepfake pornography. In 2023, deepfake porn videos appeared online of Emma Watson and Scarlett Johansson in a face swapping app.^[155] In 2024, deepfake porn images circulated online of Taylor Swift.^[156]

Academic studies have reported that women, LGBT people and people of colour (particularly activists, politicians and those questioning power) are at higher risk of being targets of promulgation of deepfake pornography.^[157] Deepfake technology has become a tool for gender-based harassment and violence, proportionally targeting women and marginalized groups. There is an increasing ethical and equity concerns of intimidation and reputational harm intentions behind this specific media.^[158]

بدأت تقنية التزييف العميق (Deepfakes) بالانتشار على منصات التواصل الاجتماعي الشهيرة، لا سيما من خلال تطبيق Zao الصيني، الذي يتيح للمستخدمين استبدال وجوههم بوجوه شخصيات من أفلام ومسلسلات تلفزيونية مثل روميو وجولييت وصراع العروش . ^{[ 159 ]} واجه التطبيق في البداية تدقيقًا بسبب انتهاكه لخصوصية المستخدمين وبياناتهم، وبعد ذلك أصدرت الشركة بيانًا أعلنت فيه أنها ستراجع سياستها. ^{[ 20 ]} في يناير 2020، أعلنت فيسبوك أنها ستتخذ إجراءات جديدة لمواجهة هذه الظاهرة على منصاتها. ^{[ 160 ]}

استشهدت دائرة أبحاث الكونغرس بأدلة غير محددة تشير إلى أن عملاء المخابرات الأجنبية استخدموا تقنية التزييف العميق لإنشاء حسابات على وسائل التواصل الاجتماعي بهدف تجنيد أفراد لديهم إمكانية الوصول إلى معلومات سرية . ^{[ 81 ]}

في عام 2021، انتشرت على منصة تيك توك مقاطع فيديو بتقنية التزييف العميق (Deepfake) تُظهر الممثل توم كروز بشكلٍ واقعي ، وحققت انتشارًا واسعًا وحصدت أكثر من عشرات الملايين من المشاهدات. تضمنت هذه المقاطع نسخةً مُولّدة بتقنية الذكاء الاصطناعي لكروز وهو يقوم بأنشطة مختلفة، مثل لعب الغولف، واستعراض خدعة العملة، وقضم مصاصة. وصرح مُنشئ هذه المقاطع، الفنان البلجيكي المتخصص في المؤثرات البصرية كريس أوميه، ^{[ 161 ]} بأنه بدأ يهتم بتقنية التزييف العميق في عام 2018، ولاحظ الإمكانيات الإبداعية الكامنة فيها. ^{[ 162 ] [ 163 ]}

Deepfake photographs can be used to create sockpuppets, non-existent people, who are active both online and in traditional media. A deepfake photograph appears to have been generated together with a legend for an apparently non-existent person named Oliver Taylor, whose identity was described as a university student in the United Kingdom. The Oliver Taylor persona submitted opinion pieces in several newspapers and was active in online media attacking a British legal academic and his wife, as "terrorist sympathizers". The academic had drawn international attention in 2018 when he commenced a lawsuit in Israel against NSO, a surveillance company, on behalf of people in Mexico who alleged they were victims of NSO's phone hacking technology. Reuters could find only scant records for Oliver Taylor and "his" university had no records for him. Many experts agreed that the profile photo is a deepfake. Several newspapers have not retracted articles attributed to him or removed them from their websites. It is feared that such techniques are a new battleground in disinformation.^[164]

A primary pitfall is that humanity could fall into an age in which it can no longer be determined whether a medium's content corresponds to the truth.^[118][168] Deepfakes are one of a number of tools for disinformation attack, creating doubt, and undermining trust. They have a potential to interfere with democratic functions in societies, such as identifying collective agendas, debating issues, informing decisions, and solving problems through the exercise of political will.^[169] People may also start to dismiss real events as fake.^[170]

Deepfakes possess the ability to damage individual entities tremendously.^[171] This is because deepfakes are often targeted at one individual, and/or their relations to others in hopes to create a narrative powerful enough to influence public opinion or beliefs. This can be done through deepfake voice phishing, which manipulates audio to create fake phone calls or conversations.^[171] Another method of deepfake use is fabricated private remarks, which manipulate media to convey individuals voicing damaging comments.^[171] The quality of a negative video or audio does not need to be that high. As long as someone's likeness and actions are recognizable, a deepfake can hurt their reputation.^[170]

In September 2020, Microsoft made public that they were developing a Deepfake detection software tool.^[172]

يتساءل الخبراء القانونيون بجدية عما إذا كانت الأطر التنظيمية الحالية والناشئة تُوازن بشكل كافٍ بين التطورات في مجال كشف التزييف العميق وحماية الحقوق الفردية. وتشمل التشريعات ذات الصلة التي تخضع للتدقيق قانون الذكاء الاصطناعي للاتحاد الأوروبي ، واللائحة العامة لحماية البيانات (GDPR)، وقانون الخدمات الرقمية في الاتحاد الأوروبي، بالإضافة إلى القوانين الفيدرالية وقوانين الولايات المتفرقة في الولايات المتحدة، وقانون السلامة على الإنترنت لعام 2023 في المملكة المتحدة، والأحكام الإدارية الصينية بشأن التوليف العميق في خدمات المعلومات عبر الإنترنت (المعروفة باسم أحكام التوليف العميق). ^{[ 187 ]} ويُقيّم الباحثون ما إذا كانت هذه الأطر تُعالج بفعالية التفاعل المعقد بين التكنولوجيا والحقوق والمسؤوليات في سياق التزييف العميق. ^{[ 188 ]}

يقول هنري أجدر، الذي يعمل لدى شركة Deeptrace المتخصصة في كشف التزييف العميق، إن هناك عدة طرق للحماية من التزييف العميق في مكان العمل. يمكن استخدام كلمات مرور دلالية أو أسئلة سرية عند إجراء محادثات مهمة. يجب تحديث أنظمة التحقق الصوتي وغيرها من ميزات الأمان البيومترية . كما يجب توعية الموظفين بشأن التزييف العميق. ^{[ 170 ]}

نظراً لقدرة تقنية التزييف العميق على خداع المشاهدين وتقليد الأشخاص بشكلٍ مقنع، أشارت الأبحاث إلى أنه لا يمكن الاعتماد كلياً على مفهوم الحقيقة من خلال الملاحظة. ^{[ 189 ]} إضافةً إلى ذلك، قد يُثار التساؤل حول مدى إلمام عامة الناس بهذه التقنية نظراً للنجاح الحديث نسبياً في إنتاج فيديوهات تزييف عميق مقنعة. ^{[ 189 ]} ومع سهولة الوصول المتزايدة إلى هذه التقنية، أثار ذلك قلق بعض الخبراء من أن بعض المجتمعات غير مستعدة للتفاعل مع فيديوهات التزييف العميق بشكلٍ طبيعي دون عواقب محتملة ناتجة عن نشر معلومات مضللة ومغلوطة. ^{[ 189 ]} وقد اعتُبرت التوعية الإعلامية وسيلةً فعّالة لـ"تهيئ" المشاهدين لكشف فيديوهات التزييف العميق عند مصادفتها بشكلٍ طبيعي، وذلك من خلال تشجيع التفكير النقدي. ^{[ 189 ]} وبينما قد تُسفر برامج التوعية الإعلامية عن نتائج متضاربة فيما يتعلق بالنجاح الكلي في كشف فيديوهات التزييف العميق، ^{[ 190 ]} فقد أشارت الأبحاث إلى أن التفكير النقدي والنظرة التشكيكية تجاه أي محتوى إعلامي يُساعدان الفرد على تحديد فيديوهات التزييف العميق. ^{[ 190 ] [ 191 ]} تُعزز أُطر التثقيف الإعلامي التحليل النقدي للوسائط الإعلامية والدوافع الكامنة وراء عرض المحتوى المرتبط بها، ويمكنها الحد من مخاطر التضليل. ^{[ 192 ]} يُظهر التثقيف الإعلامي إمكانات واعدة كإجراء مضاد معرفي محتمل عند التعامل مع التزييف العميق الخبيث. ^{[ 190 ]}

في مارس 2024، نشر قصر باكنغهام مقطع فيديو يُعلن فيه إصابة كيت ميدلتون بالسرطان وخضوعها للعلاج الكيميائي. وقد أثار ظهور خاتم كانت ترتديه ميدلتون في المقطع شائعاتٍ حول كونه مُفبركًا بتقنية التزييف العميق. ^{[ 193 ]} شكّك جوناثان بيركنز، مدير قسم العرق والمساواة في جامعة كاليفورنيا في لوس أنجلوس ، في إصابة ميدلتون بالسرطان، بل وتكهّن بأنها قد تكون في حالة حرجة أو متوفاة. ^{[ 194 ]}

درس الباحثون قدرات وتأثيرات تقنية التزييف العميق عند استخدامها في حملات التضليل ، بما في ذلك إمكانية تجاوزها لشكوك الأفراد والتأثير على آرائهم حول قضية ما. ^{[ 195 ] [ 168 ]} وعلى عكس التضليل الصريح، غالبًا ما تستغل الدعاية السياسية عبر الذكاء الاصطناعي التوليدي الصور النمطية الثقافية ووسائل الإعلام المرئية والسخرية لصياغة رسائل مؤثرة عاطفيًا يصعب التحقق من صحتها دون فقدان دقتها. ^{[ 196 ]} ونظرًا للتقدم التكنولوجي المستمر الذي يُحسّن قدرات التزييف العميق الخادعة، يعتقد بعض الباحثين أن هذه التقنية قد تُشكّل تهديدًا كبيرًا للمجتمعات الديمقراطية. ^{[ 197 ]} وقد بحثت دراساتٌ آثار التزييف العميق السياسي. ^{[ 195 ] [ 197 ] [ 168 ]} وفي دراستين منفصلتين ركزتا على مشاركين هولنديين، وُجد أن للتزييف العميق تأثيرات متفاوتة على الجمهور. كأداة للتضليل، لم تُحدث تقنية التزييف العميق بالضرورة ردود فعل أقوى أو تحولات في وجهات النظر مقارنةً بالتضليل النصي التقليدي. ^{[ 195 ]} ومع ذلك، فقد أحدثت هذه التقنية أثرًا مطمئنًا لدى الأفراد الذين يحملون أفكارًا مسبقة تتوافق مع وجهة النظر التي روجت لها المعلومات المضللة المُزيّفة في الدراسة. ^{[ 195 ]} إضافةً إلى ذلك، تكون تقنية التزييف العميق فعّالة عند تصميمها لاستهداف شريحة ديموغرافية محددة مرتبطة بقضية معينة. ^{[ 197 ]} يتضمن "الاستهداف الدقيق" فهم القضايا السياسية الدقيقة لشريحة ديموغرافية محددة لإنشاء تزييف عميق مُستهدف. ثم يُستخدم هذا التزييف للتواصل مع تلك الشريحة الديموغرافية والتأثير على وجهة نظرها. وقد وجد بعض الباحثين أن التزييف العميق المُستهدف فعّال بشكل ملحوظ. ^{[ 197 ]} في المقابل، وجد باحثون آخرون في المملكة المتحدة أن التضليل السياسي المُزيّف بتقنية التزييف العميق لا يضمن تأثيرًا على السكان، باستثناء مؤشرات على أنه قد يُثير عدم الثقة أو الشك في المصدر الذي يُقدّم هذا التزييف. ^{[ 168 ]} دفعت تداعيات انعدام الثقة في المصادر هؤلاء الباحثين إلى استنتاج أن تقنية التزييف العميق قد يكون لها تأثير بالغ في بيئة معلوماتية "منخفضة الثقة" حيث لا تحظى المؤسسات العامة بثقة الجمهور. ^{[ 168 ]}

في جميع أنحاء العالم، توجد حالات رئيسية استُخدمت فيها تقنية التزييف العميق لتشويه صورة سياسيين معروفين وشخصيات عامة أخرى. ^{[ 198 ]}

إن ما يُعرف بـ"عائد الكاذب" ظاهرة سياسية واجتماعية، حيث يلجأ الأفراد، عند مواجهة تسجيلات فيديو أو صوتية حقيقية تدينهم أو تحرجهم، إلى الادعاء بأن هذه التسجيلات هي من صنع الذكاء الاصطناعي، وذلك بهدف دحض هذه الادعاءات وكسب التعاطف. ^{[ 199 ]}

اتخذ موقع الدردشة ديسكورد إجراءات ضد المواد الإباحية المُفبركة بتقنية التزييف العميق في عام 2018، ^{[ 230 ]} واتخذ موقفًا عامًا ضد هذه التقنية. ^{[ 231 ] [ 232 ]} وبدأ موقع جيفكات بإزالة جميع مقاطع الفيديو المُفبركة بتقنية التزييف العميق من موقعه في 31 يناير 2018. ^{[ 233 ] [ 231 ]}

حظر موقع Reddit منتدى r/deepfakes الفرعي في 7 فبراير 2018، بسبب انتهاكه سياسة "المواد الإباحية غير الرضائية". ^{[ 234 ] [ 235 ]} وفي فبراير 2018 أيضًا، أعلن موقع Pornhub أنه سيحظر مقاطع الفيديو بتقنية التزييف العميق على موقعه الإلكتروني لأنها تُعتبر "محتوى غير رضائي" وهو ما يُخالف شروط الخدمة. ^{[ 236 ]} وكان الموقع قد صرّح سابقًا بأنه سيحذف المحتوى المُصنّف على أنه تزييف عميق. ^{[ 237 ]} وأفاد كتّاب من موقع Motherboard أن البحث عن "deepfakes" على Pornhub لا يزال يُظهر العديد من مقاطع الفيديو الحديثة بتقنية التزييف العميق. ^{[ 236 ]}

أضافت جوجل "الصور الإباحية التركيبية غير الطوعية" إلى قائمة الحظر في سبتمبر 2018، مما يسمح لأي شخص بطلب حجب نتائج البحث التي تعرض صوره العارية المزيفة. ^{[ 238 ]} وفي مايو 2022، عدّلت جوجل رسميًا شروط خدمة Jupyter Notebook colabs ، وحظرت استخدامها لغرض إنشاء صور مزيفة بتقنية التزييف العميق. ^{[ 239 ]} جاء ذلك بعد أيام قليلة من نشر مقال في VICE ذكر فيه كاتبه، إيمانويل مايبرغ، أن "معظم الصور المزيفة بتقنية التزييف العميق هي صور إباحية غير رضائية"، وأن الاستخدام الرئيسي لبرنامج DeepFaceLab (DFL) الشهير، "التقنية الأهم التي تدعم الغالبية العظمى من هذا الجيل من الصور المزيفة بتقنية التزييف العميق"، والذي غالبًا ما كان يُستخدم مع منصات جوجل التعاونية، هو إنشاء صور إباحية غير رضائية. أشار مايبرغ إلى حقيقة أن العديد من الأمثلة المعروفة الأخرى لتطبيقات DFL من جهات خارجية - مثل مقاطع الفيديو المزيفة التي كلفت بها شركة والت ديزني ، ومقاطع الفيديو الموسيقية الرسمية، وسلسلة الويب Sassy Justice من صناع South Park وصفحة DFL على GitHub - ترتبط أيضًا بموقع MrDeepFakes الإباحي المزيف ، والذي يشارك فيه أيضًا أعضاء خادم DFL Discord. ^{[ 240 ]}

سبق أن صرّحت فيسبوك بأنها لن تزيل مقاطع الفيديو المُزيّفة بتقنية التزييف العميق من منصاتها. ^{[ 241 ]} وبدلاً من ذلك، سيتمّ تصنيف هذه الفيديوهات على أنها مُزيّفة من قِبل جهات خارجية، وبالتالي ستُخفّض من ظهورها في صفحات المستخدمين. ^{[ 242 ]} جاء هذا الإجراء في يونيو 2019 بعد انتشار فيديو مُزيّف بتقنية التزييف العميق يُظهر مارك زوكربيرج في فيديو يعود لعام 2016 على فيسبوك وإنستغرام . ^{[ 241 ]} لاحقاً، بذلت فيسبوك جهوداً لتشجيع إنشاء مقاطع الفيديو المُزيّفة بتقنية التزييف العميق بهدف تطوير برامج متطورة لكشفها. وكانت فيسبوك الشريك الأبرز في استضافة تحدّي كشف التزييف العميق (DFDC)، الذي عُقد في ديسمبر 2019، بمشاركة 2114 شخصاً قاموا بإنشاء أكثر من 35000 نموذج. ^{[ 243 ]} تمّ تحليل النماذج الأفضل أداءً والأكثر دقة في الكشف عن أوجه التشابه والاختلاف بينها؛ وتُعدّ هذه النتائج مجالات بحثية مهمة لتحسين وتطوير نماذج كشف التزييف العميق. ^{[ 243 ]} أوضحت فيسبوك أيضًا أن المنصة ستزيل الوسائط المُنشأة باستخدام الذكاء الاصطناعي لتغيير كلام المستخدم. ^{[ 244 ]} مع ذلك، ستبقى الوسائط التي تم تعديلها لتغيير ترتيب الكلمات أو سياقها في رسالة المستخدم على الموقع، ولكن سيتم تصنيفها على أنها زائفة، لأنها لم تُنشأ بواسطة الذكاء الاصطناعي. ^{[ 244 ]}

في فبراير 2018، صرّح ممثلون عن تويتر (التي تُعرف الآن باسم X) بأنهم سيُعلّقون الحسابات المشتبه في نشرها محتوى مُزيّف بتقنية التزييف العميق دون موافقة أصحابها. ^{[ 245 ]} وفي عام 2019، أعلنت تويتر أنها تسعى للحصول على آراء الجمهور حول سياسة مُقترحة للتعامل مع "الوسائط المُصنّعة والمُتلاعب بها". ^{[ 246 ]} وبموجب مسودة السياسة، أفاد موقع TechCrunch بأن تويتر "ستضع علامات تحذيرية على الوسائط المُتلاعب بها، ولكنها لن تحذفها دائمًا". ^{[ 247 ]}في أغسطس/آب 2024، وجّه وزراء خارجية ولايات مينيسوتا وبنسلفانيا وواشنطن وميشيغان ونيو مكسيكو رسالة مفتوحة إلى إيلون ماسك، مالك شركة X، يحثّونه فيها على إجراء تعديلات على مُولّد تحويل النصوص إلى مقاطع فيديو الجديد في برنامج الدردشة الآلي Grok ، الذي أُضيف في أغسطس/آب 2024، مُشيرين إلى أنه نشر معلومات مُضلّلة حول الانتخابات. ^{[ 248 ] [ 249 ] [ 250 ]}

في الولايات المتحدة، كانت هناك بعض الاستجابات للمشاكل التي تُسببها تقنية التزييف العميق. ففي عام 2018، قُدِّم قانون حظر التزييف العميق الخبيث إلى مجلس الشيوخ الأمريكي ؛ ^{[ 251 ]} وفي عام 2019، قُدِّم قانون المساءلة عن التزييف العميق إلى الكونغرس الأمريكي الـ116 من قِبَل ممثلة الولايات المتحدة عن الدائرة التاسعة في نيويورك، إيفيت كلارك . ^{[ 252 ]}

في عام 2024، شملت أكثر من نصف حالات الاحتيال في الهوية الموثقة عمليات تزوير تم إنشاؤها بواسطة الذكاء الاصطناعي، ^{[ 253 ]} مما دفع العديد من الولايات إلى سن تشريعات تتعلق بتقنية التزييف العميق، بما في ذلك فرجينيا، ^{[ 254 ]} وتكساس، وكاليفورنيا، ونيويورك؛ ^{[ 255 ]} وقد تم توجيه اتهامات متنوعة مثل سرقة الهوية ، والمطاردة الإلكترونية ، ونشر الصور الجنسية الانتقامية ، في حين يُطالب بسن قوانين أكثر شمولاً. ^{[ 238 ]}

في إطار الجهود التشريعية الأمريكية، وقّع حاكم ولاية كاليفورنيا، جافين نيوسوم، في 3 أكتوبر/تشرين الأول 2019، على مشروعَي قانون الجمعية رقم 602 ورقم 730. ^{[ 256 ] [ 257 ]} يمنح مشروع القانون رقم 602 الأفراد المستهدفين بمحتوى تزييف عميق ذي محتوى جنسي صريح، تم إنشاؤه دون موافقتهم، الحق في مقاضاة مُنشئ هذا المحتوى. ^{[ 256 ]} ويحظر مشروع القانون رقم 730 توزيع الوسائط الصوتية أو المرئية الخبيثة المُزيّفة بتقنية التزييف العميق، والتي تستهدف مرشحًا لمنصب عام، خلال 60 يومًا من انتخابه. ^{[ 257 ]} وقدّمت عضوة مجلس النواب الأمريكي، إيفيت كلارك، مشروع قانون HR 5586: قانون المساءلة عن التزييف العميق، إلى الكونغرس الأمريكي الـ118 في 20 سبتمبر/أيلول 2023، في محاولة لحماية الأمن القومي من التهديدات التي تُشكّلها تقنية التزييف العميق. ^{[ 258 ]} قدمت النائبة الأمريكية ماريا سالازار مشروع قانون HR 6943: قانون مكافحة الاحتيال بالذكاء الاصطناعي، إلى الكونغرس الأمريكي الـ118 في 10 يناير 2024، وذلك لتحديد حقوق ملكية محددة للخصائص الجسدية للأفراد، بما في ذلك الصوت. ^{[ 259 ]}

في عام 2016، أطلقت وكالة مشاريع البحوث الدفاعية المتقدمة (DARPA) برنامج التحليل الجنائي للوسائط (MediFor) الذي مُوِّل حتى عام 2020. ^{[ 260 ]} هدف برنامج MediFor إلى الكشف التلقائي عن التلاعب الرقمي في الصور ومقاطع الفيديو، بما في ذلك تقنية التزييف العميق (Deepfakes ) . ^{[ 261 ] [ 262 ]} في صيف عام 2018، نظم برنامج MediFor فعالية تنافس فيها المشاركون لإنشاء مقاطع فيديو وصوت وصور مُولَّدة بواسطة الذكاء الاصطناعي، بالإضافة إلى أدوات آلية للكشف عن هذه التقنية. ^{[ 263 ]} ووفقًا لبرنامج MediFor، فقد وضع إطار عمل من ثلاثة مستويات من المعلومات - السلامة الرقمية، والسلامة المادية، والسلامة الدلالية - لتوليد درجة سلامة واحدة، وذلك بهدف تمكين الكشف الدقيق عن الوسائط المُتلاعب بها. ^{[ 264 ]}

في عام ٢٠١٩، استضافت وكالة مشاريع الأبحاث الدفاعية المتقدمة (DARPA) "يومًا للمقترحين" لبرنامج التحليل الدلالي الجنائي (SemaFor)، حيث سعى الباحثون إلى منع الانتشار الفيروسي للوسائط المُعالجة بالذكاء الاصطناعي. ^{[ ٢٦٥ ]} كما تعاونت DARPA مع برنامج التحليل الدلالي الجنائي للكشف عن الوسائط المُعالجة بالذكاء الاصطناعي من خلال تدريب الحواسيب على استخدام المنطق السليم والاستدلال المنطقي. ^{[ ٢٦٥ ]} وبالاستناد إلى تقنيات MediFor، تستنتج خوارزميات إسناد SemaFor ما إذا كانت الوسائط الرقمية صادرة عن منظمة أو فرد معين، بينما تحدد خوارزميات التوصيف ما إذا كانت الوسائط قد أُنشئت أو عُولجت لأغراض خبيثة. ^{[ ٢٦٦ ]} وفي مارس ٢٠٢٤، نشر SemaFor فهرسًا تحليليًا يتيح للجمهور الوصول إلى موارد مفتوحة المصدر طُوّرت في إطار البرنامج. ^{[ ٢٦٧ ] [ ٢٦٨ ]}

تم إطلاق الفريق الدولي المعني ببيئة المعلومات في عام 2023 كائتلاف يضم أكثر من 250 عالماً يعملون على تطوير تدابير مضادة فعالة للتزييف العميق والمشاكل الأخرى الناجمة عن الحوافز السلبية في المنظمات التي تنشر المعلومات عبر الإنترنت. ^{[ 269 ]}