Show HN: Catch your local LLM falling back to CPU
监控你的本地LLM是否偷偷用CPU运行,这个开源工具让你一目了然。
Article URL: https://github.com/logxio/picchio Comments URL: https://news.ycombinator.com/item?id=48874905 Points: 2 # Comments: 0
监控你的本地LLM是否偷偷用CPU运行,这个开源工具让你一目了然。
Article URL: https://github.com/logxio/picchio Comments URL: https://news.ycombinator.com/item?id=48874905 Points: 2 # Comments: 0
扔掉Transformer和显卡,纯CPU拓扑AI架构让LLM高效运行,开源方案值得关注。
Article URL: https://www.hackster.io/jenfi59/brainiak-topological-al-drives-llm-by-lora-runtime-adapters-73a678 Comments URL: https://news.ycombinator…
生动比喻揭秘为何GPU是大模型的大脑,从按下回车到万亿运算的探索之旅。
The moment you press Enter, billions of mathematical operations begin. Let's follow that journey. Every day, millions of people ask ChatGPT, Gemini, C…
英特尔确认CPU涨价30-50美元,同时重启13/14代酷睿复产,大陆市场将迎供应放量。
IT之家 7 月 6 日消息,据第一财经今日报道,继 DRAM、NAND Flash 等存储器价格持续上涨之后,CPU 成为最新加入涨价阵营的核心零部件。 7 月 6 日,英特尔对该媒体确认了涨价信息。英特尔表示, 价格调整是基于不断变化的市场动态定期对供应链以及与之相关成本的持续监控 。 根据行业…
Linux 7.2-rc2 正式将 RISC-V 默认 CPU 核心数从 64 提升至 256,为多核服务器铺路,性能影响几乎为零。
IT之家 7 月 4 日消息,据 Phoronix,Linux 内核主线今日迎来了一项针对 RISC-V 架构的重要调整。 在即将发布的 Linux 7.2-rc2 版本中,RISC-V 64 位架构默认支持的 CPU 核心数上限从原有的 64 核提升至 256 核。这一变更已于本周作为 RISC-…
单卡10GB显存就能跑满血DeepSeek-R1-671B,支持全系N卡/A卡甚至国产卡,MOE混合推理更是绝活。
Article URL: https://github.com/ztxz16/fastllm Comments URL: https://news.ycombinator.com/item?id=48728290 Points: 3 # Comments: 0
RISC-V阵营再添新军:希奥端计算将基于赛昉Dubhe-100 IP打造面向智能边缘的服务器CPU,国产芯片生态加速成熟。
IT之家 6 月 29 日消息,RISC-V 芯片及解决方案提供商赛昉科技 (StarFive) 当地时间近日宣布,服务器 CPU 设计企业希奥端计算 (LECARC) 将基于其 RISC-V CPU IP 昉 · 天枢-100 (Dubhe-100) 开发面向智能边缘的新一代服务器 CPU。 IT…
树莓派4B推出降频版,售价更低,性能妥协换来性价比之选
IT之家 6 月 28 日消息,树莓派授权经销商 Cytron 昨天推出了“特别版”树莓派 4B 单板电脑,采用降频版处理器,但售价相比原版更加便宜。 据介绍,这款树莓派 4B 搭载的博通 BCM2711 是“筛选版”SoC,CPU 主频为 1.25GHz。作为对比,原版树莓派 4B 的主频是 1.…
高通推出Dragonfly数据中心组合:HBC架构带宽6倍于HBM,C1000 CPU与AI300推理加速器专为AI优化
IT之家 6 月 25 日消息,Qualcomm(高通)今日在投资者日上宣布了其全面的 Dragonfly 数据中心解决方案,包括 HBC 架构、C1000 CPU、AI300 推理加速器,此外还有芯片设计服务与互连产品组合。 HBC(高带宽计算)架构 HBC 是一种分离式架构,其将完整芯片拆分为主…
V社神秘Steam Machine跑分曝光,搭载AMD定制6核CPU,4K 60帧游戏性能揭秘
IT之家 6 月 16 日消息,一款名为“Valve Fremont”的神秘设备昨天现身 Geekbench 跑分数据库, 录得单核 2334 分 、 多核 7316 分的成绩 。 数据库信息显示,这款神秘设备运行 SteamOS 操作系统,搭载 AMD 定制 CPU“1772”,拥有 6 核 12…
中科曙光发布新一代高性能通用计算平台及全闪存存储、400G无损网络,国产算力对标英伟达NDR,填补国内空白。
IT之家 6 月 12 日消息,中科曙光 (Sugon) 昨日宣布 新一代高性能通用计算平台即将于 6 月 15 日(下周一)发布 。IT之家注意到,相关直播活动的开始时间是当日的 14:00。 本次发布的宣传语为“百核聚变,超算新境”,这显然意味着新品将采用高核心数量处理器。 延伸阅读 中科曙光(…
开源LLM服务模拟器Frontier,支持CPU端到端执行和现代优化,是研究和部署的有力工具。
Article URL: https://github.com/NetX-lab/Frontier Comments URL: https://news.ycombinator.com/item?id=48487049 Points: 2 # Comments: 0
从系统程序员视角拆解LLM推理,附真实CPU性能数据,直击量化与优化要点。
Article URL: https://blog.xiangpeng.systems/posts/how-to-llm-inference/ Comments URL: https://news.ycombinator.com/item?id=48461660 Points: 3 # Commen…
CPU-Z 新版上线,专为英特尔 Arc G3/G3 Extreme 处理器提供识别支持,硬件爱好者速更。
IT之家 6 月 8 日消息,PC 硬件检测工具 CPU-Z 现已更新 2.20.2 版本,主要增加英特尔新款处理器支持。 开发商 CPUID 表示,本次更新变化不大, 主要是新增英特尔 Arc G3/G3 Extreme 处理器识别支持 。 IT之家了解到, 英特尔 Arc G3/G3 Extre…
用本体论抽象现实,探索降低LLM资源消耗的新思路,让大模型在CPU上飞驰
# A Wild Idea: Abstract Reality with Ontology ## Background Large language models (LLMs) debuted with GPT-3 back in June 2020. After roughly five to s…
英伟达黄仁勋放话:Vera CPU专为AI智能体打造,速度比x86快1.8倍,有望开辟全新市场。
IT之家 6 月 2 日消息,据台媒 TVBS 今天报道,英伟达创始人兼 CEO 黄仁勋在台北电脑展 2026 期间表示, 未 来 Vera CPU 甚至会比自家 GPU 产品更受欢迎 。 黄仁勋指出,英伟达出货量最大的 AI 机器中已经全面内置 Vera CPU,这代表它一旦上市,就拥有 AI 软…
联发科与英伟达联手打造20核CPU+RTX GPU,支持超大型3D场景和本地大模型,性能炸裂。
IT之家 6 月 1 日消息,在今日的 2026 台北国际电脑展主题演讲中,英伟达 CEO 黄仁勋正式宣布推出 RTX Spark PC 处理器 。 英伟达 RTX Spark 由 联发科合作的 20 核 Grace CPU + 英伟达 Blackwell RTX GPU 组成 (6144 CUDA…
外媒实测宏碁入门本,八核骁龙CPU+主动散热,仅399美元。
IT之家 6 月 1 日消息,外媒 Tom's Hardware 今天发布博文,分享宏碁 Aspire Go 15 笔记本电脑的上手体验。该产品定位入门市场,采用高通骁龙 C 平台,预计售价 300 美元(IT之家注:现汇率约合 2032 元人民币)。 据报道,该媒体在台北电脑展 2026 期间见到…
Rust构建的Agent OS,类CPU内存架构,灵感源自诸葛亮的木牛流马,v0.1.2带来实时文件感知与终端UI。
Article URL: https://github.com/doiito/gliding_horse Comments URL: https://news.ycombinator.com/item?id=48319699 Points: 1 # Comments: 0