标签: 模型部署

0

280B参数、每次只激活16B：MoE如何改写本地大模型的成本公式

MoE把模型容量与单Token计算量拆开，也把显存、KV Cache、路由通信和设备利用率带入成本核算。本文结合dots3-note与Qwen3.8-27B分析本地部署的完整账单。