GPT-5.6 Terra tier仅$2.50/百万输入token，1M上下文窗口直击生产负载痛点，性价比碾压Sol。
GPT-5.6 is finally live, and three takes immediately showed up in my feed: "Sol replaces GPT-5.5 everywhere." "The API still isn't broadly available."…
IT之家 6 月 29 日消息，英伟达昨日（7 月 7 日）发布博文，指出在智能体 AI 时代，NVIDIA Vera CPU 成为“可规模化单线程最强 CPU”， 持续单核性能是 x86 的 1.8 倍。 在博文中，英伟达提出“可规模化单线程最强 CPU”（Max single-threaded …
用在线线性规划算法优化LLM服务的多目标路由，兼顾效率与资源均衡
arXiv:2607.03948v1 Announce Type: new Abstract: We study the online routing problem in large language model serving, where requests arrive sequentiall…
开箱即用的LLM API模拟器，支持GPT-5/4/Claude等延迟配置，轻松压测你的AI应用。
Testing LLM apps and agent frameworks against real APIs is expensive, rate-limited, slow, and non-reproducible. LLMSim is a Rust simulator for the Ope…
IT之家 6 月 25 日消息，据新华社消息，今日在厦金大桥（厦门段）环岛路隧道“厦金号”盾构机掘进现场，国产智能盾构换刀机器人正式投用。 据介绍，机器人拥有 11 个独立可控活动关节 ，具备高避障能力与精细操作能力，凭借 500 公斤的负载能力 和灵活伸缩的结构，可覆盖 10 米至 18 米级超大…
IT之家 6 月 16 日消息，AMD 公司昨日（6 月 15 日）发布公告， 宣布收购内存优化技术公司 MEXT，目标是缓解数据中心日益突出的内存瓶颈。 IT之家援引博文介绍，在 AI、数据分析、虚拟化和高性能计算负载持续膨胀后，现代数据中心普遍面临内存资源紧张的问题。对云服务商和企业客户来说，内…
M5 Max MacBook Pro运行AI模型过热致屏幕变色，Fusion架构散热设计遭质疑。
IT之家 6 月 13 日消息，网友 u/B00TK1D 于 6 月 9 日在 Reddit 社区发帖，反馈其搭载 M5 Max 芯片的苹果 MacBook Pro 出现故障，在高负载运行本地大语言 AI 模型数分钟后， 屏幕底部、对应风扇出风口位置出现两处轻微变色区域。 IT之家援引该用户反馈，由…
为HAProxy和Stunnel打造的超轻量级开源GUI，让配置管理更直观高效。
Article URL: https://chrissiefken.github.io/osbal/ Comments URL: https://news.ycombinator.com/item?id=48495069 Points: 2 # Comments: 0
预测12-18个月内80%AI工作负载转向便宜模型，科技巨头如何应对成本浪潮？
If those same AI workloads can be handled by cheaper models without affecting quality, it would mean a massive shift in the economics of AI.
创新性负载均衡与通信优化，FlashCP打破LLM长上下文训练效率瓶颈。
arXiv:2606.08476v1 Announce Type: cross Abstract: Context parallelism (CP) is essential for training large-scale, long-context language models, as it …
一文对比移动设备、NPU与GPU在持续负载下的大模型推理效率，为边缘部署提供实测参考。
arXiv:2603.23640v2 Announce Type: replace-cross Abstract: Deploying large language models on-device for always-on personal agents demands sustained in…
开源LLM网关ToTra，集成PII扫描、语义缓存和负载均衡，确保GDPR与EU AI Act合规。
Article URL: https://github.com/SugaC-275/ToTra Comments URL: https://news.ycombinator.com/item?id=48420028 Points: 2 # Comments: 0
微软神秘AI开发机曝光，千孔铝壳散热设计专为本地运行120B参数大模型打造，预装开发者版系统
IT之家 6 月 4 日消息，科技媒体 Windows Latest 今天（6 月 4 日）发布博文，分享了更多关于微软 Surface RTX Spark Dev Box 的规格信息。 定位方面，微软 Surface RTX Spark Dev Box 是一款面向本地 AI 开发的紧凑型桌面设备，…
将你的Google账户变成免费、负载均衡的LLM API网关，整合多个来源降低成本。
Article URL: https://github.com/arifozgun/OpenGem Comments URL: https://news.ycombinator.com/item?id=48296259 Points: 4 # Comments: 4
慧荣发布专为AI推理优化的SSD主控SM2524XT，14GB/s无DRAM设计，稳定随机I/O性能。
IT之家 5 月 28 日消息，慧荣 (Silicon Motion) 今日发布面向 AI 推理与 KV 缓存工作负载优化的固态硬盘主控芯片 SM2524XT。 SM2524XT 基于台积电 6nm 制程工艺，拥有 4 个内核，采用 DRAM-less 架构，支持 PCIe Gen5 ×4。慧荣表示…
零阶微调本质是推理负载，颠覆大模型微调的计算认知
arXiv:2605.28760v1 Announce Type: new Abstract: Zeroth-order (ZO) fine-tuning is attractive for large language models because it replaces backpropagat…
新论文提出ReCoVer系统，用容错集合和灵活工作负载增强LLM预训练弹性，减少训练中断损失。
arXiv:2605.11215v2 Announce Type: replace-cross Abstract: Pre-training large language models on massive GPU clusters has made hardware faults routine …
AI负载冲击GitHub可靠性骤降，揭示大厂基础设施的差异化应对困境
Article URL: https://blog.pragmaticengineer.com/the-pulse-ai-load-breaks-github/ Comments URL: https://news.ycombinator.com/item?id=48266309 Points: 3…
新框架直接优化群体级专家平衡，解决MoE训练中负载均衡偏差问题。
arXiv:2605.15403v1 Announce Type: new Abstract: Mixture-of-Experts (MoE) models rely on balanced expert utilization to fully realize their scalability…