牛哥精选 · 半年

📋 全部 🤖 AI·大模型 ⚡ 效率工具 📝 深度技术 🚀 产品观察 💰 商业科技 🔓 开源项目 🎨 设计创意 📖 阅读推荐 🏷 资源合集 🌱 成长效率

🤖 AI·大模型 Hacker News LLM 2026-06-08

Deep Dive into LLM Token Cost: How Prompt Caching Works

揭秘大模型Token成本中缓存机制的原理，帮你理解省钱的实战案例。

Article URL: https://weidongzhou.wordpress.com/2026/06/06/deep-dive-into-llm-token-cost-blog-series-part-2-how-prompt-caching-actually-works/ Comments…

llm token成本 prompt缓存缓存机制成本优化

📝 深度技术 arXiv 机器学习 2026-06-01

CacheProbe: Auditing Prompt Cache Isolation in Gateway APIs

揭示LLM推理API中prompt缓存的隔离漏洞，提出审计框架CacheProbe，保障Gateway安全

arXiv:2605.30613v1 Announce Type: cross Abstract: Over the past year, prompt caching in Large Language Models (LLMs) has become increasingly more popu…

prompt缓存 llm安全缓存隔离审计 gateway ap

📅 日期

2026-05-20 2026-05-19

🐂 牛哥精选

Deep Dive into LLM Token Cost: How Prompt Caching Works

CacheProbe: Auditing Prompt Cache Isolation in Gateway APIs

📅 日期