牛哥精选 · 本月

📋 全部 🤖 AI·大模型 ⚡ 效率工具 📝 深度技术 🚀 产品观察 💰 商业科技 🔓 开源项目 🎨 设计创意 📖 阅读推荐 🏷 资源合集 🌱 成长效率

🤖 AI·大模型 Hacker News LLM 2026-05-22

Throughput vs. Goodput: The Performance Metricin LLM Testing

用卖Dosa的摊位类比，讲清LLM测试中常被忽略的吞吐量与有效吞吐量区别

Article URL: https://qainsights.com/throughput-vs-goodput-the-performance-metric-you-are-probably-ignoring-in-llm-testing/ Comments URL: https://news.…

llm测试性能指标吞吐量有效吞吐量 slo

📝 深度技术 arXiv 机器学习 2026-05-20

Throughput-Optimal Scheduling Algorithms for LLM Inference and AI Agents

从排队论视角揭秘LLM推理的吞吐最优调度算法，为系统优化提供数学根基

arXiv:2504.07347v3 Announce Type: replace-cross Abstract: As demand for Large Language Models (LLMs) and AI agents grows rapidly, optimizing systems f…

llm推理调度算法吞吐量优化排队论 ai智能体

📅 日期

2026-05-20 2026-05-19

🐂 牛哥精选

Throughput vs. Goodput: The Performance Metricin LLM Testing

Throughput-Optimal Scheduling Algorithms for LLM Inference and AI Agents

📅 日期