Show HN: Catch your local LLM falling back to CPU
监控你的本地LLM是否偷偷用CPU运行,这个开源工具让你一目了然。
Article URL: https://github.com/logxio/picchio Comments URL: https://news.ycombinator.com/item?id=48874905 Points: 2 # Comments: 0
监控你的本地LLM是否偷偷用CPU运行,这个开源工具让你一目了然。
Article URL: https://github.com/logxio/picchio Comments URL: https://news.ycombinator.com/item?id=48874905 Points: 2 # Comments: 0
急需低配本地模型?HN热帖推荐2B参数以下、内存<3GB的高效SLM方案
For my local project, I have been finding a good LLM or a SLM that consumes less than 2gb ram, can you get me any models that would aid me? Comments U…
HN 热议:用本地 LLM 全面替代 Claude/GPT 做日常编码的真实体验与性能数据(tok/s)。
Has anyone here fully swapped Claude/GPT for a local model as their main coding tool, not just for side experiments? If so, please share your setup an…
揭秘苹果AI中谷歌Gemini的真实分量,本地模型仍是主力。
What's powering the new Siri AI? It's complicated.
一个Claude Code兼容的LLM网关,灵活路由子代理至本地或低成本模型。
Hi HN, I’m one of the builders of Rayline. Rayline is a Claude Code compatible LLM gateway. It intercepts and overrides claude code’s internal routing…
谷歌实时音乐AI模型MRT2本地运行,延迟骤降至1/15,支持即兴合奏,大小两种规模可选。
IT之家 6 月 5 日消息, 谷歌 Magenta 团队昨日(6 月 4 日)发布 Magenta RealTime 2(MRT2)模型 ,并同步免费放出乐器应用 Jam 以及 DAW 插件 MRT2。 MRT2 定位是可与用户“即兴合奏”的本地实时音乐模型,共有 2 种规模,其一是高质量模型 m…
AI将像高级编译器而非运行时,12-18个月后本地模型能力接近峰值,带来家中高效代码工厂。
In 12 - 18 months we get local models that match the capabilities of 4.6. The overall capabilities will peak, and we all get highly efficient code for…
微软重塑 Win11 为 AI 应用与智能体开发平台,集成本地模型 Aion,并提供治理与信任控制
IT之家 6 月 3 日消息,科技媒体 Windows Latest 今天(6 月 3 日)发布博文,报道称在 2026 年 Build 开发者大会上,微软明确 Windows 11 系统定位: 不再只是带 AI 功能的桌面系统,而是要成为 AI 应用和智能体的开发平台。 微软新方向涵盖智能体 Ru…
哈希文件秒变AI诗歌,本地运行的开源趣味小工具,创意十足但别用于生产环境。
Article URL: https://github.com/alebeck/rhymesum Comments URL: https://news.ycombinator.com/item?id=48284596 Points: 1 # Comments: 0
预装于HMD手机的本土AI聊天工具,搭载印度Sarvam 1050亿参数大模型,专注服务当地用户需求
HMD is pre-loading Sarvam's Indus chatbot app, which supports 22 Indic languages
本地运行Gemma 4模型,通过JSON AST生成Clojure代码,隐私安全且自定义灵活
Article URL: https://github.com/quadracollision/llmisp Comments URL: https://news.ycombinator.com/item?id=48196707 Points: 1 # Comments: 0
300行代码拆解AI Agent核心,ReAct循环的原理、本地模型限制与动作风险,拨开炒作看清本质。
Article URL: https://quantumentangled.dev/viewpost/11/whats-actually-inside-an-ai-agent-a-300-loc-react-loop Comments URL: https://news.ycombinator.co…