colibri – 在 25GB 内存电脑上运行 GLM-5.2 (744B MoE)
普通电脑也能跑744B参数大模型!colibri开源工具让25GB内存畅玩GLM-5.2。
colibri 是一个非常实用的开源项目,它能让普通电脑也能运行超大语言模型(GLM-5.2(744B),并且可以在无显卡的情况下,仅使用 CPU,但需要至少25G 内存。@Appinn 普通电脑跑 GLM-5.2(744B)模型 colibri 使用纯 C 语言,零依赖。可以按需从硬盘加载 Exp
普通电脑也能跑744B参数大模型!colibri开源工具让25GB内存畅玩GLM-5.2。
colibri 是一个非常实用的开源项目,它能让普通电脑也能运行超大语言模型(GLM-5.2(744B),并且可以在无显卡的情况下,仅使用 CPU,但需要至少25G 内存。@Appinn 普通电脑跑 GLM-5.2(744B)模型 colibri 使用纯 C 语言,零依赖。可以按需从硬盘加载 Exp
全球首个基于MoE架构的开源具身视频基模,蚂蚁灵波LingBot-Video填补领域空白
Sand.ai获超亿美元融资,曹越详解为何视频是通往世界模型的关键路径
“每一代模型,我们都在押注一个非共识。” 文|邓咏仪 编辑|张雨忻 Sand.ai 创始人曹越,不太关心自己站在共识的哪一边。 Sand.ai 是一家视频生成模型和产品公司,成立于2024年1月。曹越创立Sand.ai 的故事也已经被讲过很多遍:在上一段创业“光年之外”戛然而止后,曹越很快就投入到 …
苹果四台 Mac Studio 集群突破万亿参数大模型推理,硬件共享内存技术成关键。
IT之家 6 月 20 日消息,在苹果 WWDC 2026 期间,LM Studio 与苹果合作在四台 Mac Studio 集群上成功运行起了月之暗面万亿参数大模型 Kimi K2.6,并通过 LM Link 实现从 MacBook Neo 和 iPhone 的安全远程访问。 IT之家此前报道,K…
英伟达推出5500亿参数Nemotron 3 Ultra开源模型,推理速度飙升5倍,还带来首个开源量子AI模型,硬核技术双响炮。
IT之家 6 月 1 日消息,为加强自主智能体的智能能力,英伟达今日发布了面向全天候运行智能体的全新开源模型与数据集,相关成果由英伟达 Nemotron 联盟联合打造。 据官方介绍,英伟达 Nemotron 3 Ultra 是一款拥有 5500 亿参数的混合专家模型,可为代码开发、科研及企业业务流程…