article https://gyznsw.cn/knowledge/wiki/concepts/%E5%8A%A8%E6%80%81%E7%B2%BE%E5%BA%A6%E8%BD%AC%E6%8D%A2.html

动态精度转换 (Dynamic Precision)

NVIDIA Vera Rubin (VR100) 架构中的一项重要技术，允许模型在推理的不同阶段自动切换FP4、FP6和FP8精度。

技术原理

• 模型在推理过程中根据计算需求动态调整数值精度
• 在性能与功耗之间取得极限平衡
• 开发者社区认为这是VR100架构中最受关注的技术特性之一