潜空间几何对齐
一种模型压缩技术，通过在潜空间中对齐几何结构，实现极低比特量化下的性能保持。是实现"算力去中心化"的关键技术路径。
技术原理
- 在潜空间（Latent Space）中对齐模型的几何结构
- 通过最大化谱能量增益（Spectral Energy Gain）优化量化过程
- 使模型参数量化至1比特以下仍保持极高的逻辑严密性
意义
- 为[[sub-1-bit-llm]]提供核心技术支撑
- 推动[[算力下沉]]：推理算力从云端向边缘侧扩散
- 挑战"算力昂贵"的现状，通过算法创新降低对极致算力的依赖
相关概念
- [[sub-1-bit-llm]] — 潜空间几何对齐的应用成果
- [[算力下沉]] — AI计算能力从云端数据中心迁移到边缘设备
- [[推理侧算力扩展定律]] — 解释小模型+多步推理能超越大模型