牛哥精选 · 所有

📋 全部 🤖 AI·大模型 ⚡ 效率工具 📝 深度技术 🚀 产品观察 💰 商业科技 🔓 开源项目 🎨 设计创意 📖 阅读推荐 🏷 资源合集 🌱 成长效率

📝 深度技术 arXiv AI 2026-05-26

Soft-to-Hard Routing in Sparse Mixture-of-Experts Models

提出一种从软路由过渡到硬路由的机制，在稀疏MoE中同时优化模型性能与计算效率。

arXiv:2605.02124v2 Announce Type: replace-cross Abstract: Softmax routing approaches hard top-1 routing as the temperature tends to zero, but the limi…

moe 路由策略稀疏模型深度学习模型效率

💰 商业科技 Dev.to 2026-05-19

I Cut My LLM API Bill by 73% — Here's the Exact Optimization Playbook

73%的LLM API成本削减实战策略，从路由层到缓存策略，无需降低质量即可实现。

I Cut My LLM API Bill by 73% — Here's the Exact Optimization Playbook Running LLMs in production burns cash. Fast. When your app goes from "prototype"…

llm api 成本优化路由策略模型选择缓存

📅 日期

2026-05-20 2026-05-19

🐂 牛哥精选

Soft-to-Hard Routing in Sparse Mixture-of-Experts Models

I Cut My LLM API Bill by 73% — Here's the Exact Optimization Playbook

📅 日期