美国家用储能巨头Sunrun试点将AI推理节点部署到用户微电网，分布式电力变身分布式算力，边缘AI落地新场景。
IT之家 7 月 14 日消息，自称美国最大家用电池储能、太阳能和家用并网电站供应商的 Sunrun 当地时间本月 8 日宣布启动一项边缘人工智能推理计算节点部署试点项目， 将分布式电力转化为分布式算力 。 Sunrun 表示其拥有超过 110 万现有客户，而这些客户可选择在其家用表后微电网中加装来…
从零训练113M参数地震大模型，开源全流程管线，自建数据集+分布式训练，值得参考复现。
Article URL: https://github.com/jiazhe868/nanogpt-seis Comments URL: https://news.ycombinator.com/item?id=48885236 Points: 9 # Comments: 2
Python运行时，让多个agent智能协作完成分布式任务，开源且轻量。
Article URL: https://github.com/nMaroulis/protolink Comments URL: https://news.ycombinator.com/item?id=48892091 Points: 2 # Comments: 0
36氪获悉，工信部等四部门发布关于推动互联网基础资源高质量发展的指导意见。其中提到，突破关键核心技术。加强互联网科技创新规划，推动实施相关国家重点研发计划和国家科技重大专项，加强原始技术创新，开展人工智能、区块链、分布式标识等技术与互联网基础资源融合创新技术攻关，突破网络动态优化、资源智能调度、数据…
分布式AI新方案：Mesh LLM通过模型分层分割，让多台中低端设备协同运行大模型，突破单机算力限制。
Article URL: https://www.iroh.computer/blog/mesh-llm Comments URL: https://news.ycombinator.com/item?id=48876505 Points: 99 # Comments: 26
从故障域设计切入网格LLM运营，而非依赖免费GPU，揭示分布式系统可靠性的实战关键
Mesh LLM reached 215 points in the Hacker News snapshot I reviewed at 2026-07-12 08:00 UTC . Its author describes an OpenAI-compatible API that can ru…
浏览器变身分布式算力节点，P2P协同完成大模型推理的开源创新方案。
Article URL: https://github.com/ktock/llmlet Comments URL: https://news.ycombinator.com/item?id=48878859 Points: 1 # Comments: 0
提出GIFT方法，利用梯度几何信息实现低精度通信，在不牺牲模型精度的前提下显著降低LLM预训练通信开销。
arXiv:2607.07494v1 Announce Type: cross Abstract: Gradient communication is a primary scaling bottleneck in large language model (LLM) pretraining. Co…
开源工具实现分布式LLM追踪与GitHub PR/issue关联，无需查询即可快速定位相关工作。
See where coding agents struggle, what tools eat tokens and how it all links to GitHub PRs & issues. I open-sourced a tool that streams data from all …
LLM推理新突破：HippoSpark按需经验系统，动态提升复杂推理准确率与效率。
arXiv:2606.29929v1 Announce Type: new Abstract: Distilling historical trajectories into reusable experience to enhance future problem-solving has beco…
用扩散并行与训练器辅助生成，大幅加速视觉生成LLM的分布式强化学习，前沿技术突破点。
arXiv:2606.24369v1 Announce Type: new Abstract: Reinforcement learning (RL) has become a dominant post-training paradigm, driving the emergence of hig…
744B超大规模模型通过分布式流水线并行在多个消费级GPU上高效推理，速度达30 tok/s，展示前沿部署方案。
Article URL: https://github.com/leyten/shard Comments URL: https://news.ycombinator.com/item?id=48602121 Points: 1 # Comments: 0
36氪获悉，工业和信息化部、中央网信办、市场监管总局等七部门日前联合印发《促进平台经济大中小企业协同发展行动方案（2026—2028年）》。《行动方案》提出，深入开展算力基础设施高质量发展和算力互联互通行动计划。推动算力资源开放，开展算力并网池化及互联工作，引导平台企业联通分布式算力资源及纳管平台，…
新方案解决LLM推理中前缀缓存的跨节点共享难题，去中心化路由让集群推理更高效。
arXiv:2606.17059v1 Announce Type: cross Abstract: Prefix caching can reduce LLM inference latency by reusing KV caches across requests with shared pro…
联邦学习打破带宽瓶颈，让大模型预训练从数据中心走向协作分布式场景
arXiv:2411.02908v2 Announce Type: replace Abstract: Scaling large language models (LLMs) demands extensive data and computing resources, which are tra…
揭示LLM服务中内存受限导致的服务诱导拥塞现象，为推理系统优化提供新视角。
arXiv:2606.15555v1 Announce Type: cross Abstract: In large language model (LLM) serving, each request accumulates persistent graphics processing unit …
多智能体系统面临数据竞争？这篇ATC论文提出CoAgent并发控制协议，为协作智能体提供事务一致性保障。
arXiv:2606.15376v1 Announce Type: cross Abstract: Multi-agent LLM systems -- coding agents, devops agents, document agents -- now routinely run severa…
探讨AI代理系统中实现弹性共识的前沿研究，为分布式智能体协作提供新思路。
arXiv:2606.15024v1 Announce Type: cross Abstract: Large language model (LLM) agents are increasingly deployed in multi-agent systems where they must c…
在ESP32-S3上实现1.4 tok/s的LLM推理，跨板分布式运行，嵌入式AI新尝试。
Article URL: https://github.com/harmansingh4163-ai/ESP-32-s3-Story-maker-LLM Comments URL: https://news.ycombinator.com/item?id=48500424 Points: 1 # C…
Piper 让你用少量注解自定义分布式训练策略，真正实现策略与运行时的解耦。
arXiv:2606.11169v1 Announce Type: cross Abstract: Large-scale model training increasingly relies on composing multiple parallelism strategies, such as…