提出极简优化器设计，大幅降低大模型预训练内存占用，已被ICML 2026接收。
arXiv:2506.16659v3 Announce Type: replace-cross Abstract: Training large language models (LLMs) relies on adaptive optimizers such as Adam, which intr…
投机解码将小模型驻留DRAM，突破手机LLM推理的内存瓶颈，实现高效闪存大模型推理
arXiv:2605.16786v1 Announce Type: new Abstract: Large language models (LLMs) are increasingly needed for interactive mobile applications, but high-qua…
一篇关于通过KV缓存共享加速大型推理模型服务的系统优化论文，解决推理内存瓶颈问题。
arXiv:2507.21433v3 Announce Type: replace-cross Abstract: Large Reasoning Models (LRMs) are becoming integral to many AI inference systems, enhancing …
探讨Gemma 4、DeepSeek V4等新模型如何通过KV共享、压缩注意力等技术降低长上下文推理成本，架构优化思路干货满满。
Article URL: https://magazine.sebastianraschka.com/p/recent-developments-in-llm-architectures Comments URL: https://news.ycombinator.com/item?id=48160…
Vue 3.5正式发布，响应式系统重写带来内存暴降56%和性能飞跃，无破坏性变更
Today we are excited to announce the release of Vue 3.5 "Tengen Toppa Gurren Lagann"! This minor release contains no breaking changes and in…
研究发现大型语言模型中token重要性可预测，为KV缓存优化提供新思路，显著降低内存与计算瓶颈
arXiv:2503.07518v2 Announce Type: replace-cross Abstract: Large Language Models (LLMs) rely on the Key-Value (KV) Cache to store token history, enabli…
揭秘R星如何用32MB内存和慢速光驱实现GTA3庞大开放世界，网格化加载技术堪称神优化，游戏开发者的经典案例。
IT之家 5 月 17 日消息，YouTube 博主 Game Maker's Toolkit 本周（5 月 11 日）发布视频，深入分析 R 星当年如何将《GTA3》装进仅有 32MB 内存的 PS2 游戏机。 作为参考，《GTA3》发售于 2001 年，是《GTA》系列 3D 世界观的开山之作，…