0
一个176B模型，每个Token只激活6B：Qwen3.8-Flash-Next正在重新定义“大模型有多大”
Qwen团队在8月26日公开Qwen3.8-Flash-Next时，最醒目的数字很容易让人产生困惑：主模型125B参数，额外还有51B N-gram Embedding，但每个Token只激活约6B参数。把几组数字相加，整个系统的参数...
标签: 本地大模型
0
同一个27B模型，为什么在你电脑上像7B：量化、KV Cache和推理引擎正在偷偷改掉模型
同一个大模型在本地部署后为何表现明显变化？量化格式、KV Cache精度、Attention Backend、底层Kernel与推理框架共同决定模型的实际运行效果。
0
本地大模型终于能干活了吗？Qwen 3.6 27B 给开发者泼了盆冷水，也点了把火
Qwen 3.6 27B 的意义，不是证明本地模型已经全面追平云端，而是让“私有代码助手”第一次接近可长期使用的工程状态。
0
本地模型能接替 Claude 做多智能体“大脑”了吗？OpenYabby × Qwen3.6-27B 两周实测的启示
r/LocalLLaMA 上一位 OpenYabby 作者把原本依赖 Claude 的推理层换成单张 RTX 3090 上本地运行的 Qwen3.6-27B，并用 47 个多步骤编码工作流做了两周对比。结果显示，本地模型已经可以承担规划、记忆和部分审查，但工具调用、长上下文稳定性与执行安全仍需要系统闸门。
0
M5、DGX Spark、Strix Halo 与 RTX 6000 AI 推理基准对比：带宽、显存边界与真实选型
一次围绕 M5、DGX Spark、Strix Halo 与 RTX 6000 的社区基准对比，真正有价值的并不是谁跑得最快，而是“模型是否装得下”与“溢出之后掉得有多惨”。本文从内存带宽、统一内存、显存溢出惩罚与散热持续性四个维度，解释这组结果背后的工程逻辑。
0
一张3090，够不够撑起你的本地大模型？
在本地大模型玩家圈里，RTX 3090 仍然是一张极有代表性的“临界点显卡”。24GB 显存、成熟的软件生态和相对可承受的成本，让它成为很多人判断本地模型是否真正可用的一把尺子。问题是，一张3090到底能干什么，边界又在哪？