4位量化 4位量化 4位量化是一种模型压缩技术，将模型从16-bit精度压缩至4-bit精度，同时保持高精度。2026年2月，NVIDIA发布了近乎无损的4位量化技术。 技术突破 压缩比：16-bit → 4-bit 精度保持：99.4% 技术方法：非均匀动态采样 工业意义 推理速度：翻倍 显存占用：降低75% 硬件门槛：100B规模模型未来有望在单卡消费级GPU上运行 相关页面 [[nvidia]] — 技术发布者 [[算力下沉]] — AI计算向边缘设备迁移的趋势