0
27B模型装进手机:1比特压缩把本地AI推到新的硬件门槛
PrismML发布Bonsai 27B,把27B多模态模型压缩到3.9GB至5.9GB级别,使高端手机、普通笔记本和小型边缘设备开始具备承载中型本地AI模型的现实可能。
PrismML发布Bonsai 27B,把27B多模态模型压缩到3.9GB至5.9GB级别,使高端手机、普通笔记本和小型边缘设备开始具备承载中型本地AI模型的现实可能。