0
AIPerf与生产级推理压测：企业如何做容量规划
大模型推理压测不能停留在单请求吞吐。企业需要用真实到达模式、输入输出长度、P95与P99延迟、GPU遥测和故障场景，建立可复现的容量模型，并据此决定集群规模、扩容阈值和成本边界。
标签: GPU集群
0
Qwen3.8 以95B激活撬动2.4万亿参数：MoE部署真正难在哪
Qwen3.8-2.4T-A95B以2.4万亿总参数、每Token约950亿激活构建旗舰级开放模型。本文拆解512专家路由、DeltaNet与全注意力混合架构、长上下文状态、FP8机架级部署及企业采用边界。