1
英特尔面向四至六代至强处理器推出推理微服务：自动检测硬件并配置 vLLM 参数
IT之家 10 月 14 日消息，英特尔今日宣布推出 Intel Inference Microservices 服务，这是一套面向大语言模型推理的容器化微服务方案，目标是让企业在已有的至强处理器上直接获得经过调优的模型推理能力，无需再花费数天时间进行手动硬件优化。 在该模式下，每个微服务都是一个独…
2
微软升级 Win11 的 AI 框架，实验性支持 GGUF 与 ONNX 原生本地推理
IT之家 10 月 9 日消息，科技媒体 NeoWin 昨日（10 月 8 日）发布博文，报道称微软正与 llama.cpp 和 GGUF 开源社区合作，在 Windows 11 系统上升级 Windows ML， 实验性原生支持 GGUF 与 ONNX 格式模型推理，并推出 Windows ML …
3
JetBrains 编程 AI 模型 Mellum2.1 发布：高负载推理吞吐量近 Qwen3.5-9B 两倍
IT之家 10 月 9 日消息，JetBrains 昨日（10 月 8 日）发布博文，宣布上线 Mellum2.1 模型，重点增强智能体编程能力。该模型延续 Mellum2 的 12B 混合专家架构，拥有 2.5B 活跃参数，并继续采用 Apache 2.0 许可证发布。 Mellum2.1 主要升…
4
消息称英伟达拟投资 AI 推理 ASIC 企业 d-Matrix，双方此前已达成技术合作
IT之家 10 月 9 日消息，外媒 The Information 当地时间昨日报道称， NVIDIA（英伟达）拟投资 AI 推理 ASIC 芯片初创企业 d-Matrix 。这将是其“事实收购”Groq 后对芯片领域竞争对手的又一次重磅行动。 IT之家注意到，d-Matrix 此前已同 NVID…
5
GitHub Copilot 不再纯云端 AI 模型：Surface Laptop Ultra 本地推理吞吐量最高每秒 63 词元
IT之家 10 月 8 日消息，太平洋时间 10 月 7 日上午 10 点（北京时间 10 月 8 日凌晨 1 点）在美国旧金山举办的发布会中，微软宣布 GitHub Copilot 将在本月底前支持本地 AI 模型推理， 开发者可在云端模型与设备端模型之间自动或手动切换。 GitHub Copil…
6
pkg-topic-detective-noir-推理链的黑箱拆解-1786976029-1
The last time a retry loop burned through our API quota, it didn't look like a crime scene at first. It looked like a loop that had given up thinking:…
7
OpenAI推理之父最新访谈！数学只是多智能体时代的开胃菜
千禧年难题的突破，10000个Agent最多占了10%的功劳。
8
LPDDR6 内存加持 AI 推理 ASIC，SEMIFIVE 接获规格交接型芯片设计订单
IT之家 9 月 29 日消息，韩国芯片设计服务企业 SEMIFIVE 当地时间今日宣布，将为一家美国无晶圆厂 AI 设计芯片企业开发一款支持 LPDDR6、PCIe Gen5 的数据中心级“大芯片”推理加速器。 IT之家注意到， 这是高带宽低功耗的 LPDDR6 成为 ASIC 片外缓存选择的早期…
9
谷歌TPU跑Kimi比英伟达GPU快57%！用的还是DeepSeek推理框架
vLLM人马创业公司团队出品
10
间谍易容推理游戏《千面人在此》10 月 14 日发售：提供免费试玩版，支持中文
IT之家 9 月 26 日消息，开发商 Geoffroy Monde 宣布旗下间谍易容推理游戏《千面人在此（Legion Was Here）》将于北京时间 10 月 14 日凌晨 1:00 在 Steam 上正式发售，游戏支持中文，提供了免费试玩版，IT之家附游戏商品页（ https://store…
11
PCIe显卡被低估了！内核补齐+通信重构，DeepSeek推理吞吐翻近7倍
1.5台6000D跑赢1台B300！
12
小米公开 MiMo-V3 核心架构 HySparse2：面向长程多轮 Agent 优化推理效率
IT之家 9 月 24 日消息，小米 MiMo 今天公布面向 MiMo-V3 的核心架构 HySparse2，瞄准下一代长上下文 Agent。新架构旨在让模型以更低成本处理网页、文件、代码和工具调用记录，并从不断增长的任务历史中更准确地检索关键信息。 IT之家附官方详细介绍如下： HySparse2…
13
Salesforce 联合英伟达推出 Koa 推理大模型，挑战闭源前沿模型
IT之家 9 月 15 日消息，本周在规模盛大的 Dreamforce 技术大会上，Salesforce 最重要的发布成果之一就是一款名叫 Koa 的全新 AI 模型。Koa 是该公司首款推理大模型，基于英伟达开源权重的 Nemotron 模型打造。两家企业联合完成了 Koa 的后续微调训练，让其擅…
14
无问芯穹联合清华、上交正式开源具身端侧推理引擎APXInf，Pi 0.5性能SOTA
卡位具身智能规模化落地“最后一公里”！
15
韩企 HyperAccel 4nm AI 芯片 Bertha 量产，面向数据中心推理用途
IT之家 9 月 9 日消息，韩国芯片设计服务企业 SEMIFIVE 当地时间 8 日宣布，韩国 AI 芯片初创企业 HyperAccel 设计的数据中心人工智能推理加速器芯片 "Bertha" 已在三星晶圆代工的 4nm 制程节点实现量产 。 SEMIFIVE 表示 "Bertha" 的面积达到 …
16
OpenAI 应用研究主管谈空间推理，称 Astra 模型已补上人类少数优势
IT之家 9 月 6 日消息，OpenAI 应用研究主管鲍里斯 · 鲍尔（Boris Power）今天在 X 平台表示， 空间推理曾是人类大幅领先计算机的少数优势之一 ，如今有了 Astra 模型，这一差距已不复存在。 据悉，独立 AI 研究员 @spicylemonade 曾在今天早些时候表示，A…
17
英伟达开源发布 PAIR：本地跑 AI 新方案，调度 Mac / RTX PC 跨设备推理
IT之家 9 月 4 日消息，科技媒体 AppleInsider 昨日（9 月 3 日）发布博文，报道称英伟达以开源测试版状态，推出 Personal AI Router（PAIR）软件， 用于在局域网内为本地 AI 请求选择可用计算机，类似把任务分派给空闲工位的调度员。 在兼容设备上，该软件可以在…
18
磐镭预告 YO2 迷你主机全新进阶版：更大内存，更快推理
IT之家 9 月 4 日消息，磐镭 (PELADN) 今日发布 YO2 迷你主机全新进阶版产品预告，宣传 新品改进包括“更新 CPU，更大内存，更高 TOPS，更快推理” 。 考虑到 原版 YO2 搭载 AMD 锐龙 AI Max+ 395 处理器 ， 这一新品很可能升级到近日解禁的 AMD 锐龙 …
19
OpenAI 首席科学家回应“AI 推理不透明”争议：复杂度未跳跃增长
IT之家 9 月 3 日消息，OpenAI 首席科学家雅库布・帕乔基（Jakub Pachocki）昨日（9 月 2 日）在 X 平台发布推文， 回应 AI 模型 Astra“不可监控 / 推理不透明”的争议。 帕乔基强调，包括 Astra 在内的前沿模型，计算图深度与 GPT-4 相差不超过两倍，…
20
消息称英伟达重启推理预填充优化芯片 Rubin CPX 项目，设计大幅调整
IT之家 9 月 1 日消息，分析师郭明錤昨日表示，其最新产业调查显示 NVIDIA（英伟达）已重启人工智能推理预填充加速 GPU "Rubin CPX" 项目 ，不过其设计得到了大幅度的调整，预计 2027Q1 开始生产。 在芯片级别， 新 Rubin CPX 拥有接近标准 Rubin GPU 的…