1
面壁智能发布新一代端侧多模态大模型 MiniCPM-V 4.7,仅 3GB 内存可实现 13+ token/s 解码速度
IT之家 10 月 13 日消息,面壁智能今天宣布推出新一代端侧多模态大模型 MiniCPM-V 4.7,提供 35B-A3B 和 1B 两种规格,其中 35B-A3B 是 MiniCPM-V 系列首个 MoE 模型。 据官方介绍,这款模型基于最新 LES(前瞻专家调度)推理加速技术,其中 35B-…
IT之家 10 月 13 日消息,面壁智能今天宣布推出新一代端侧多模态大模型 MiniCPM-V 4.7,提供 35B-A3B 和 1B 两种规格,其中 35B-A3B 是 MiniCPM-V 系列首个 MoE 模型。 据官方介绍,这款模型基于最新 LES(前瞻专家调度)推理加速技术,其中 35B-…
M4 Mac上Qwen3小模型解码速度翻倍,苹果CoreAI端侧推理架构初露锋芒。
IT之家 6 月 11 日消息,科技媒体 Wccftech 昨日(6 月 10 日)发布博文,报道称在 2026 年全球开发者大会(WWDC)上,苹果推出 CoreAI 引擎, 接替 2017 年推出的 CoreML 框架,主打端侧大模型推理。 IT之家援引博文介绍,CoreML 框架已服役 9 年…