AI犯罪与执法
AI和数字基础设施正在重塑犯罪与执法，形成一场加速的"猫鼠游戏"，而法律和伦理严重滞后。
核心论点
- “现在是犯罪的好时机”：新技术创造新漏洞，法律总是滞后
- AI作为"效率工具"与"超级武器"：AI既自动化犯罪步骤，也增强执法能力
- “代沟”：技术普及但风险和可利用表面积未被充分理解的领域
AI驱动的犯罪形式
- AI勒索软件：如PromptLock实验，可实时生成定制代码和勒索信
- 深度伪造诈骗：如Arup公司2500万美元案件
- AI生成的垃圾邮件和诈骗：微软估计至少一半的垃圾邮件使用LLMs生成
- 开源AI的风险：犯罪分子转向开源模型，更容易剥离安全防护
执法应对
- 微软每天处理超过100万亿个被AI系统标记的信号
- DNA技术和家谱数据库帮助追踪罪犯
- 技术驱动的执法以牺牲公民权利为代价
社会影响
- 算法偏见和种族歧视
- 隐私侵犯和"寒蝉效应"
- 法律滞后于技术发展