AI驱动的网络犯罪

AI驱动的网络犯罪是指利用人工智能（尤其是生成式AI和大语言模型）来增强、自动化或规模化传统网络犯罪手段的现象。其核心论点是：AI没有创造全新的犯罪类型，而是极大地放大了现有诈骗手段的规模、效率和危害性。

核心特征

• 生产力工具：AI降低了攻击所需的时间、努力和专业知识门槛，使低技能攻击者也能实施复杂诈骗。
• 民主化：AI工具（如LLM、深度伪造服务）的普及使得网络犯罪不再是高技能黑客的专属领域。
• 规模化：AI能够生成海量、个性化、语法完美的攻击内容，压倒传统防御。
• 质量提升：AI生成的钓鱼邮件、深度伪造内容在逼真度上远超传统手段。

主要攻击形式

• [[AI生成钓鱼邮件]]：使用LLM生成语法完美、上下文相关的个性化钓鱼邮件。
• [[深度伪造诈骗]]：利用AI生成的逼真音频、视频或图像进行诈骗。
• [[深度伪造即服务（DaaS）]]：将深度伪造技术作为服务出售，降低使用门槛。
• [[PromptLock]]：实验性的端到端自动化AI攻击，展示自动化攻击链潜力。
• [[情感工程]]：利用AI分析目标情绪并生成高度情感化内容来操纵受害者。

关键数据

• 全球网络犯罪成本：2025年达到10.5万亿美元。
• AI生成垃圾邮件：占全部垃圾邮件的50%以上。
• 针对性钓鱼邮件比例：从2024年4月的7.6%跃升至2025年4月的14%。
• 微软拦截：每年拦截400亿美元的诈骗交易。
• Arup案：深度伪造诈骗导致2500万美元损失。

与现有概念的关系

• [[ai-as-amplifier]]：AI驱动的网络犯罪是"AI作为放大器"概念在安全领域的反面应用——AI放大的是攻击者的能力。
• [[大模型不是真理机器-而是论证机器]]：LLM强大的"论证"能力被用于制造令人信服的诈骗信息，这是同一枚硬币的两面。
• [[企业AI转型陷阱]]：展示了AI在"坏人"手中同样能成为强大的生产力工具，其"降本增效"逻辑与合法应用完全一致。