1
colibri – 在 25GB 内存电脑上运行 GLM-5.2 (744B MoE)
普通电脑也能跑744B参数大模型！colibri开源工具让25GB内存畅玩GLM-5.2。
colibri 是一个非常实用的开源项目，它能让普通电脑也能运行超大语言模型（GLM-5.2（744B），并且可以在无显卡的情况下，仅使用 CPU，但需要至少25G 内存。@Appinn 普通电脑跑 GLM-5.2（744B）模型 colibri 使用纯 C 语言，零依赖。可以按需从硬盘加载 Exp