1
用苹果 M5 Max 跑大模型真的省钱吗?有人算了一笔账
实测告诉你:苹果 M5 Max 本地跑大模型,速度慢、成本反超云端 API,算账对比很清晰
先上结论: 使用 14寸 MacBook Pro M5 Max 高配,64GB 内存的情况下,速度比云端大模型慢、实际成本也比云端大模型贵… 推荐:直接向大模型厂商付费充值使用。 一些数据 这是来自 williamangel 的一组数据,文章主要在计算「本地跑 LLM 到底贵不贵」,使用
实测告诉你:苹果 M5 Max 本地跑大模型,速度慢、成本反超云端 API,算账对比很清晰
先上结论: 使用 14寸 MacBook Pro M5 Max 高配,64GB 内存的情况下,速度比云端大模型慢、实际成本也比云端大模型贵… 推荐:直接向大模型厂商付费充值使用。 一些数据 这是来自 williamangel 的一组数据,文章主要在计算「本地跑 LLM 到底贵不贵」,使用
实测对比:本地M5 MacBook Pro运行LLM每百万token成本约$1.5,而OpenRouter同类模型价格仅1/3且速度翻倍,揭示本地推理的真实经济账。
Article URL: https://www.williamangel.net/blog/2026/05/17/offline-llm-energy-use.html Comments URL: https://news.ycombinator.com/item?id=48168198 Poin…
纯 Rust 打造的本地 AI 助手,一个二进制文件集成聊天、索引与搜索。Metal 加速、GGUF 模型、ONNX 嵌入,Apple Silicon 用户的最佳本地 AI 编程搭档。
Article URL: https://github.com/Sok205/local_vibe Comments URL: https://news.ycombinator.com/item?id=48162858 Points: 2 # Comments: 0