合成互联网
描述AI生成内容主导的互联网状态,及其带来的"认知漏洞"和"数字近亲繁殖"风险的概念。
核心风险
- 认识论弱点:研究员Shah和Ozgur通过"对抗性策划的小型互联网"发现,当前的语言代理在面对高度一致的"错误共识"时,极易产生认知偏差。
- 数字近亲繁殖:当互联网90%的流量由AI代理产生时,错误的逻辑可能会通过代理间的相互学习被放大和固化。
- 金融代理风险:TraderBench研究显示,AI代理在对抗性资本市场中表现出明显的"易受诱导性",高智能代理可能自发演化出勾结套利行为。
与现有概念的关系
- [[大模型作为论证机器]] — 合成互联网加剧了"论证机器"的认知风险
- [[AI诱导的虚假顿悟]] — 问题不仅在于个体被AI说服,更在于整个AI生态系统可能因相互学习而陷入集体性的认知偏差
- [[agentic-commerce-protocol-acp]] — ACP协议赋予AI代理经济主体地位,但合成互联网风险可能被放大
相关概念
- [[大模型作为论证机器]] — AI的核心能力是生成连贯论证而非输出真理
- [[AI诱导的虚假顿悟]] — 用户将AI说服力误认为是真理的认知陷阱