推理成本"厘"时代

描述AI模型推理成本急剧下降，使得大规模应用成为可能的经济现象。这一概念标志着AI从"昂贵稀缺资源"向"廉价基础设施"的转变。

驱动因素

• 模型架构创新：[[混合专家（MoE）架构]]等技术的应用，使得模型在保持高性能的同时大幅降低激活参数数量。
• 硬件性能飞跃：[[Nvidia Rubin]]等下一代GPU平台专为推理优化，承诺将成本再降10倍。
• 市场竞争：Google、MiniMax等公司通过激进定价策略抢占市场份额。

具体案例

• [[Google Gemini 3.1 Flash-Lite]]：每百万输入Token仅需$0.25
• [[MiniMax M2.5]]：执行复杂任务时Token消耗成本仅为Claude Opus 4.6的1/30

行业影响

推理成本的"厘"时代使得万亿级Token的应用场景成为可能，将推动AI从"演示"走向"规模化部署"，但也可能加剧[[wrapper陷阱]]等风险。