0
280B参数、每次只激活16B：MoE如何改写本地大模型的成本公式
MoE把模型容量与单Token计算量拆开，也把显存、KV Cache、路由通信和设备利用率带入成本核算。本文结合dots3-note与Qwen3.8-27B分析本地部署的完整账单。
标签: 显存
0
M5、DGX Spark、Strix Halo 与 RTX 6000 AI 推理基准对比：带宽、显存边界与真实选型
一次围绕 M5、DGX Spark、Strix Halo 与 RTX 6000 的社区基准对比，真正有价值的并不是谁跑得最快，而是“模型是否装得下”与“溢出之后掉得有多惨”。本文从内存带宽、统一内存、显存溢出惩罚与散热持续性四个维度，解释这组结果背后的工程逻辑。