动态精度转换 (Dynamic Precision)

NVIDIA Vera Rubin (VR100) 架构中的一项重要技术，允许模型在推理的不同阶段自动切换FP4、FP6和FP8精度。

技术原理

• 模型在推理过程中根据计算需求动态调整数值精度
• 在性能与功耗之间取得极限平衡
• 开发者社区认为这是VR100架构中最受关注的技术特性之一