AI深度伪造与验证难完整版
深度伪造的技术原理与发展
深度伪造使用称为生成对抗网络（GANs）的AI算法。原理是这样的：一个网络（生成器）生成虚假的视频或音频，另一个网络（判别器）试图识别虚假内容。这两个网络不断改进和竞争，直到生成的内容与真实内容无法区分。这个过程有点像两个对手在进行永无止境的游戏——一个试图欺骗，一个试图揭露欺骗。经过足够的训练，生成器变得非常好，以至于人类观察者无法区分真假。
技术发展的速度令人惊讶。2018年，高质量的深度伪造视频是稀有的。2020年，开源工具使任何人都可以创建它们。2023年，移动应用使用户可以在几秒钟内创建深度伪造。2024年，实时深度伪造成为可能，意味着诈骗分子可以在直播期间实时改变一个人的脸或声音。
对于视频，诈骗分子可以将一个人的脸替换为另一个人的脸。对于音频，他们可以合成一个人的声音说任何他们想要的话。对于文本，AI可以生成看起来像某人的写作风格的消息。而且，最新的技术可以组合所有这些——一个虚假视频，其中CEO的脸和声音都被替换，说着从未说过的话，进行从未做过的事情。
深度伪造诈骗的四种主要类型
类型1：虚假CEO投资直播诈骗
这可能是最常见的深度伪造诈骗。诈骗分子创建一个看起来像知名CEO、企业家或投资顾问的虚假视频。视频显示此人进行实时投资讲座，声称分享了一个赚钱的秘密方法。视频看起来非常真实——照明是自然的，背景是专业的，此人的面部表情和口语风格都是正确的。观众被引导点击链接加入一个私人投资课程，成本是几十万日元。一旦支付完成，诈骗分子会消失。
类型2：声音诈骗与冒充权威
诈骗分子使用AI合成某人（通常是权威人物或家人）的声音。他们打电话给受害人。虚假声音要求紧急转账。由于声音听起来完全真实，许多受害人在挂断电话前就转账了。这种诈骗特别对华人有效，因为许多人信任权威人物，并且可能不愿意质疑他们声称的身份。
类型3：名人代言虚假产品
诈骗分子创建一个虚假视频，其中一个受欢迎的名人（比如一个足球运动员或演员）给某个产品或投资做代言。视频完全逼真。受害人被说服购买该产品或投资，认为它得到了名人的认可。没有这样的认可曾经发生过。
类型4：身份盗窃、勒索和非法内容
诈骗分子创建某人的虚假图像或视频（通常是不堪入目或令人尴尬的内容）。他们然后威胁发布这些内容除非受害人支付勒索费。即使受害人知道视频是假的，许多人仍然为了保护自己的声誉而支付。
真实案例分析
案例1：工程师的CEO诈骗
李先生，38岁，是一个IT工程师。2023年10月，他在YouTube上看到了一个视频，声称是一个著名企业家进行的投资讲座。视频显示此人在一个办公室里，谈论一个新的投资平台可以在30天内将1000美元变成50000美元。
李先生被说服了。他所有的朋友都在讨论这个平台。视频看起来完全合法——照明、背景、此人的面部表情——一切都看起来完全真实。他没有意识到他正在看一个深度伪造。他点击了视频中的链接，注册了账户，并转账了200万日元。一个月后，当他没有看到任何回报时，他决定向警察报案。警察告诉他这是一个深度伪造。真正的企业家从未进行过这样的讲座。整个视频都是虚假的。
案例2：母亲的儿子声音诈骗
王女士，65岁，住在福冈。她的儿子在东京工作。2023年9月的一个晚上，她接到了一通电话。对方用她儿子的声音说「妈妈，我遇到了麻烦。我需要立即借用500万日元。请不要告诉爸爸。」王女士立即转账了。她没有质疑。她认出了她儿子的声音——他的口音、他说话的方式、甚至他的呼吸模式都是对的。
直到第二天她的儿子打电话时，她才意识到发生了什么。他从未打过那个电话。整个声音都是通过AI合成的，使用他社交媒体上的录音作为样本。王女士损失了500万日元。
案例3：网红的虚假代言
张女士，28岁，是一个社交媒体爱好者。2023年12月，她在Instagram上看到了一个视频，声称是她最喜欢的网红推荐一个新的美妆产品。视频显示网红穿着她通常穿着的衣服，说着她通常说的话，推荐了这个产品。
张女士相信了。她订购了这个产品（5000日元）。产品到达时，它完全是假的——一个低质量的仿制品。当她试图联系网红关于这个时，网红说她从未给出这样的代言。整个视频都是深度伪造。
为什么深度伪造特别难以识别
深度伪造之所以有效，是因为我们的大脑被进化来信任我们看到和听到的东西。当我们看到一个视频时，我们假设它是真实的，除非有明确的证据表明相反。深度伪造利用了这个假设。视频看起来太真实了，以至于我们无法识别虚假。此外，许多人不知道深度伪造甚至存在，更不用说他们如何被识别了。
识别深度伪造的10个信号
眼睛不眨眼或眨眼模式不自然（深度伪造往往在眼睛周围失败）；嘴唇与声音不完全同步（即使差一帧也可能表示伪造）；皮肤纹理或光线不自然（AI往往在皮肤细节中失败）；背景中的异常（物体可能扭曲或不真实）；视频质量不一致（脸部比背景更清晰）；表情或肢体语言不自然（运动可能有点生硬）；权力人物从不见过的场景（CEO在他们的办公室从不出现过的背景）；耳朵的细节（AI往往在耳朵上失败）；头发线和边界（接缝可能不自然）；多个人物的互动不自然（如果有多个人，他们的互动可能看起来不协调）。
检测工具与防守策略
除了肉眼识别，还有一些工具可以帮助检测深度伪造：Microsoft的Video Authenticator、Facebook的Detect Deepfake、以及各种AI驱动的检测工具。但这些工具并不完美，随着深度伪造技术的改进，它们的有效性下降。
第1步：对名人或权力人物的请求持怀疑态度。官方沟通通常会通过官方渠道进行，而不是通过社交媒体或随机视频。如果CEO真的想进行投资讲座，他会通过官方公司网站进行。
第2步：要求视频通话验证，而不是仅使用录制的视频。实时视频通话比录制视频更难伪造。如果有人要求转账，坚持进行实时视频通话来验证他们的身份。
第3步：使用深度伪造检测工具，但不要完全依赖它们。这些工具有限制，诈骗分子正在开发绕过它们的方法。
第4步：验证来自陌生来源的视频。如果你看到一个来自知名人物的视频，检查他们的官方社交媒体账户。如果视频在那里，它可能是真的。如果不是，它很可能是假的。
第5步：永远通过已知的直接渠道验证重要信息。如果你接到声称来自你的银行的电话，挂断电话并拨打银行的官方号码。
