标签: Bonsai 27B

0

27B模型装进手机：1比特压缩把本地AI推到新的硬件门槛

PrismML发布Bonsai 27B，把27B多模态模型压缩到3.9GB至5.9GB级别，使高端手机、普通笔记本和小型边缘设备开始具备承载中型本地AI模型的现实可能。