牛哥精选 · 所有

📋 全部 🤖 AI·大模型 ⚡ 效率工具 📝 深度技术 🚀 产品观察 💰 商业科技 🔓 开源项目 🎨 设计创意 📖 阅读推荐 🏷 资源合集 🌱 成长效率

🔓 开源项目 Dev.to 2026-06-13

Prompt cache, finally typed: shipping llm-ports 0.1.0-alpha.19

这个最新版本为提示缓存提供了跨Anthropic、OpenAI、Gemini的类型安全、中性接口，简化多平台AI开发。

TL;DR. @llm-ports 0.1.0-alpha.19 ships a typed, provider-neutral surface for prompt caching across Anthropic, OpenAI, and Gemini. One optional cacheCo…

prompt cac llm-ports 类型安全多平台 ai开发工具

📝 深度技术 Dev.to 2026-05-28

We Measured LLM Prompt Caching in Production — Same Prompt, 0% to 91% Hit Rates

实测LLM提示缓存：相同提示从0%到91%命中率，揭示不同提供商缓存策略的巨大差异。

We run an AI companion bot. Every chat turn, the model sees the same ~5K-token prefix — character persona, content-tier rules, formatting guardrails, …

llm prompt cac 缓存优化生产环境命中率

📅 日期

2026-05-20 2026-05-19

🐂 牛哥精选

Prompt cache, finally typed: shipping llm-ports 0.1.0-alpha.19

We Measured LLM Prompt Caching in Production — Same Prompt, 0% to 91% Hit Rates

📅 日期