1
AMD 晒 256 核 EPYC 9996 官方跑分，代际吞吐量提升约 73%
IT之家 9 月 19 日消息，在官方 9 月 17 日公布的《EPYC Venice 架构与性能概览》白皮书中， AMD 公布了旗舰第六代霄龙 EPYC 9996 处理器的多项跑分成绩。 AMD EPYC 9996 是 AMD 第六代 EPYC 9006（代号“Venice”）服务器 CPU 的顶…
2
英伟达展示 DSX MaxLPS 技术，AI 工厂每兆瓦 token 吞吐量最高提升 40%
IT之家 9 月 17 日消息，科技媒体 Wccftech 昨日（9 月 16 日）发布博文，报道称在 AI 基础设施峰会上，英伟达展示了面向 AI 工厂的 DSX MaxLPS 功耗调度系统， 每兆瓦 token 吞吐量最高提升 40%。 IT之家注：每兆瓦 token 吞吐量是指数据中心每消耗 …
3
OpenAI 首款自研芯片 Jalapeño 性能首秀：DeepSeek R1 每瓦 AI 吞吐量是 GB300 的 1.7 倍
OpenAI自研芯片Jalapeño能效实测惊人，DeepSeek R1每瓦吞吐量达GB300的1.7倍，AI算力竞争再升级。
IT之家 8 月 26 日消息，OpenAI 昨日（8 月 25 日）发布博文，展示其首款自研 Jalapeño 芯片，并表示无论是单用户 token 处理量，还是每千瓦吞吐量，都超过了目前市面上的顶尖推理处理器。 在官方博文中，OpenAI 使用半导体研究公司 SemiAnalysis 开发的公共…
4
DeepSeek-V4-PRO AI 模型测试：英伟达 Vera Rubin 每兆瓦吞吐量达 GB300 的 30 倍
英伟达Vera Rubin跑DeepSeek-V4-PRO，每兆瓦吞吐量达GB300的30倍，AI算力效率新标杆
IT之家 8 月 24 日消息，英伟达昨日使用 SemiAnalysis AgentX 工作负载，以 DeepSeek-v4-PRO 1.6T 模型评估测试， 显示 Vera Rubin 每兆瓦吞吐量达到 Blackwell 的 30 倍。 每兆瓦吞吐量（Tokens per Megawatt，简称…
5
Prefill vs. Decode in LLM Inference
洞悉LLM推理中预填充与解码的差异，精准优化首字延迟与流式吞吐。
Article URL: https://www.parasail.io/blog/prefill-vs-decode-llm-inference Comments URL: https://news.ycombinator.com/item?id=49299992 Points: 2 # Comm…
6
VKAE: VIDRAFT's Inference Engine Hits 23 GPU Speedup and ~10K Tokens/sec on a Single Nvidia B200
推理引擎VKAE实现23倍GPU加速，单卡B200跑出万级token吞吐，AI部署效率再突破。
VKAE: VIDRAFT's Inference Engine Hits 23× GPU Speedup and ~10K Tokens/sec on a Single Nvidia B200 TL;DR: VIDRAFT, a Korean Pre-AGI AI startup, has dev…
7
创新高，上海港单日集装箱吞吐量超 20 万标准箱
IT之家 8 月 2 日消息，据央视新闻报道，记者从上港集团获悉，昨天（8 月 1 日）上海港单昼夜（24 小时）集装箱吞吐量达到 203881 标准箱 ，创历史新高。 2026 年 1—6 月，上海港集装箱吞吐量完成超 2800 万标准箱，同比增长 6.2%。其中洋山港区集装箱量累计完成超 150…
8
FastTPS: An Optimized Method for LLM Token Phase for AI accelerators
针对LLM推理中token阶段低并行度瓶颈，FastTPS提出优化方法，提升AI加速器吞吐量。
arXiv:2607.11211v1 Announce Type: new Abstract: The popularity of large language models (LLMs) escalates an ongoing demand for effective inference. Ho…
9
JEDEC 正式发布 SPHBM4 规范：适配标准有机基板，吞吐量持平 HBM4
SPHBM4规范发布：HBM4内存适配低成本有机基板，性能不变成本更低，硬件开发者必看
IT之家 7 月 14 日消息，JEDEC 固态技术协会美国弗吉尼亚州当地时间 13 日正式发布了今年 6 月完成的 SPHBM4 规范。这一规范可大致认为是原版 HBM 适配标准有机基板的实现方式。 SPHBM4 采用与 HBM4 相同的 DRAM 裸片但配备全新的接口基础裸片 (Base Die…
10
BlockServe: Block-Grained Continuous Batching for High-Throughput Diffusion LLM Serving
扩散LLM推理新方法：块级连续批处理突破吞吐瓶颈，论文提出BlockServe方案优化服务效率。
arXiv:2607.08930v1 Announce Type: new Abstract: Efficient serving of diffusion large language models (dLLMs) is hindered by convergence heterogeneity:…
11
AI Model Co-Design: Hardware-Friendly LLM Design
NVIDIA官方详解硬件感知的大模型设计，平衡吞吐量与延迟的Pareto前沿策略。
Article URL: https://developer.nvidia.com/blog/ai-model-co-design-hardware-friendly-llm-design/ Comments URL: https://news.ycombinator.com/item?id=488…
12
2025年我国港口货物、集装箱吞吐量稳居世界第一
2025年，我国港口货物吞吐量183亿吨，集装箱吞吐量3.54亿标箱，稳居世界第一。（新华社）
13
PEEK: Predictive Queue-Informed KV Cache Management for LLM Serving
预测性队列感知KV缓存管理方案，让LLM服务缓存命中率与吞吐量提升数倍，超越SGLang/vLLM基线。
arXiv:2607.02525v1 Announce Type: cross Abstract: We present PEEK, a lightweight scheduling and eviction framework for both online (streaming) and off…
14
上港集团：预计6月完成母港集装箱吞吐量同比增长6.1%
36氪获悉，上港集团公告，6月份，公司预计完成母港集装箱吞吐量498.7万标准箱，同比增长6.1%；预计完成母港货物吞吐量5357.4万吨，同比增长3.3%。2026年上半年，公司预计累计完成母港集装箱吞吐量2873.7万标准箱，同比增长6.2%；预计累计完成母港货物吞吐量30478.0万吨，同比增…
15
英伟达刷新 DeepSeek V4 推理纪录：单 Token 成本降至 1/5，AI 吞吐量最高提升 20 倍
英伟达Blackwell平台将DeepSeek V4推理单Token成本砍至1/5，吞吐量暴增20倍，AI推理效率再破纪录。
IT之家 7 月 1 日消息，英伟达昨日（6 月 30 日）发布博文，宣布在英伟达 Blackwell 平台上，通过优化全栈推理，相比较 DeepSeek V4 模型 1 个月前上线初期， 单 Token 成本最多降至五分之一。 IT之家注：单 Token 成本（Cost Per Token）指模型…
16
HERALD: High-Throughput Block Diffusion LLM Serving via CPU-GPU Cooperative KV Cache Retrieval
CPU-GPU协同KV缓存检索，让块扩散LLM服务吞吐突破瓶颈，值得系统研究者细读。
arXiv:2606.21633v1 Announce Type: new Abstract: Diffusion LLMs (dLLMs) improve GPU utilization over autoregressive decoding by generating multiple tok…
17
Human-Less LLM Serving: Quantifying the Human Tax on Throughput
量化人类参与对LLM服务吞吐量的隐性成本，揭示人工干预如何拖累系统效率。
arXiv:2606.20577v1 Announce Type: cross Abstract: Every major LLM serving system is designed to meet TTFT and TPOT SLOs. These metrics capture latency…
18
Show HN: Iamspeed.dev – Fast.com Style but for LLMs
像测网速一样测大模型，秒级了解各家LLM真实吞吐量
Article URL: https://iamspeed.dev/ Comments URL: https://news.ycombinator.com/item?id=48594310 Points: 2 # Comments: 0
19
上海机场：5月浦东机场旅客吞吐量700.48万人次
上海机场公告，2026年5月浦东国际机场飞机起降量总计45297架次，同比减少2.25%；旅客吞吐量700.48万人次，同比减少0.98%；货邮吞吐量39.58万吨，同比增长18.00%。其中，境内航线旅客吞吐量383.1万人次，同比减少3.24%；境外航线旅客吞吐量317.38万人次，同比增长1.…
20