深度伪造诈骗

深度伪造诈骗是指利用AI生成的逼真音频、视频或图像进行诈骗的行为。随着深度伪造技术的普及和工具化，这类诈骗的规模和危害性正在快速增长。

典型案例

• [[Arup]]案：一名员工在深度伪造视频通话中看到模仿CFO的数字分身后，转账了2500万美元。这是深度伪造诈骗的标志性案例。
• 语音克隆：只需三秒音频即可克隆一个人的声音，用于冒充亲友或高管进行诈骗。

技术基础

• 语音克隆：AI模型能够从少量音频样本中学习并生成逼真的语音。
• 视频伪造：AI能够生成逼真的面部表情和口型同步视频。
• 实时深度伪造：能够在实时视频通话中伪造身份。

规模化趋势

• [[深度伪造即服务（DaaS）]]：将深度伪造技术作为服务在暗网或黑市上出售，进一步降低了使用门槛。
• 合成身份诈骗：DaaS的爆炸式增长导致美国125亿美元的诈骗损失。

防御策略

• 多因素验证：对涉及大额转账的请求进行多渠道验证。
• 数字水印：在AI生成内容中嵌入可检测的水印。
• 行为分析：检测深度伪造内容中的异常行为模式。
• 提升数字素养：培养"验证习惯"，对紧急请求保持警惕。