消息称英伟达计划以 24GB 显存 GeForce RTX 5080 显卡取代现有 16GB 版本
IT之家 10 月 10 日消息,综合台媒 BenchLife.info 报道、消息人士 @hongxing2020 分享的内容,NVIDIA(英伟达)在 停产 GeForce RTX 5090 / 5090 D v2 的同时,也将调整 GeForce RTX 5080 显卡。 NVIDIA 计划停…
IT之家 10 月 10 日消息,综合台媒 BenchLife.info 报道、消息人士 @hongxing2020 分享的内容,NVIDIA(英伟达)在 停产 GeForce RTX 5090 / 5090 D v2 的同时,也将调整 GeForce RTX 5080 显卡。 NVIDIA 计划停…
青小蛙帮你们试过了,可行! RTX 5070、RTX 3060、RTX 4060 Ti、RX 9070 XT、RX 9060 XT、RX 7800 XT、RTX 3090,甚至多年前的 Quadro RTX 4000 和 TITAN RTX… 以上这些常见的显卡,只要有 8GB 显存、1
IT之家 10 月 6 日消息,科技媒体 gigazine 今天(10 月 6 日)报道,报道称开发者 Niko1221 开源推出 Strata 引擎, 可以在 12GB 及以上显存的消费级显卡上,运行量化的 Qwen3.8-Flash-Next 模型(1250 亿参数)。 IT之家注: Qwen3…
IT之家 10 月 4 日消息,据 Wccftech,Reddit 用户 u/Sad-Victory-8319 使用第三方工具 mVolt+ Extreme,将一块技嘉 GeForce RTX 5070 Ti 的 GDDR7 显存频率偏移量设为 +5500MHz,使显存等速率从默认的 28 Gbps…
GitHub现在最火热的大模型开源小蜂鸟Colibrì是个啥?
IT之家 9 月 23 日消息,参考外媒 Phoronix 报道,AMD 本月 21 日向 Linux 内核显卡驱动 drm/amdgpu 提交补丁, 为 GDDR7 内存进行显存名称注册 。 AMD 最新的 "RDNA 4" 游戏独立显卡配备 GDDR6 显存,不过 GDDR6 的供应已逐步减少。…
IT之家 9 月 21 日消息,消息人士 @金猪升级包 昨日爆料称,GDDR7 显存在 2027~2028 年将在现有的单颗粒封装 16Gb (2GB) / 24Gb (3GB) 外 新增 32Gb (4GB) / 48Gb (6GB) 大容量版本 。 更大的单颗粒封装意味着 相同位宽下能集成更多显…
IT之家 9 月 14 日消息,NVIDIA(英伟达)近日在官网列出了专业显卡新品 RTX PRO 5500 Blackwell 工作站版本。 该显卡 拥有 21760 个 CUDA 核心 (与 GeForce RTX 5090 / 5090 D / 5090 D v2 同规模), 配备 84GB …
IT之家 9 月 8 日消息,英伟达 GeForce RTX 50 系列(代号 Blackwell)显卡目前仍是市场上性能最强的显卡之一。正因如此,这些备受追捧的 Blackwell 显卡也成为诈骗分子眼中的“肥肉”,不法分子试图利用消费者购买显卡的需求实施诈骗。虽然“空壳显卡”骗局并不是什么新鲜事…
IT之家 9 月 2 日消息,Valve 发布了 2026 年 8 月 Steam 平台软硬件调查数据,显示出玩家硬件配置持续向更高规格升级,Windows 11 系统占比进一步提升,同时高容量内存和显存的占比也有明显增长,多核心处理器渗透率逐步提高。 Windows 11 64 位占比达到 70.…
IT之家 9 月 1 日消息,中科曙光 (Sugon) 今日宣布将推出 全球首款 64 线程移动工作站 (MWS)。 IT之家获悉,这款设备 机身厚度仅 16.9mm ,配备 16GB 显存,本地运行 35B MoE 模型可实现 50 Tokens/s 的输出速率,AI 推理速度最高可达业界主流产品…
针对长语音大模型KV缓存膨胀问题,提出WnW动态增减机制,让长语音推理更省显存、更流畅。
arXiv:2608.22704v1 Announce Type: new Abstract: Long-form audio inputs make the KV cache the dominant memory cost of speech LLMs. Prefill-only KV comp…
IT之家 8 月 20 日消息,《使命召唤:现代战争 4》Beta 测试官宣即将开放,玩家除了可以体验系列传统的多人模式,还能提前试玩部分单人战役。 第一阶段从 8 月 21 日持续至 8 月 25 日 ,仅向已经在 PC、PS5 或 Xbox Series X|S 预购游戏的玩家开放抢先体验。 第…
Intel Arc Pro B65 专业显卡上架,32G 显存配 AI 生成实测数据,性能直观可见。
IT之家 8 月 17 日消息,蓝戟 (GUNNIR) 今日宣布,其此前公布的 Intel Arc Pro B65 TF 32G 专业显卡现已上架电商平台, 官方零售价 8999 元 。 Arc Pro B65 TF 32G 三维 268 × 111.1 × 40.1 (mm),属于 全高全长双槽 …
一键按显存容量精准量化 LLM,告别加载失败,适配你的 Mac。
I made this after seeing someone posit the idea online yesterday over lunch then spent some time refining it. So far it's pretty impressive IMO! Right…
IT之家 8 月 11 日消息,改装版英伟达 GeForce RTX 40 系列显卡市场再迎新品。 多个 RTX 4080 涡轮显卡(显存从 16GB 升级到 32GB GDDR6X) 出现在闲鱼平台,售价普遍超过 1 万元。 RTX 4080 原本配备 16GB GDDR6X 显存,位宽为 256…
IT之家 8 月 10 日消息,Meta 今日发布 AI 模型 Muse Glimmer,并在 Apache 2.0 许可协议下开源该模型权重。Muse Glimmer 是一款拥有 300 亿参数(30B) 的模型,专为全天候常驻运行的本地智能体(Agent)工作流深度优化。 官方表示,Muse G…
单张4GB显卡就能跑70B大模型推理,AirLLM把内存优化玩到了极致,开源即用
Article URL: https://github.com/lyogavin/airllm Comments URL: https://news.ycombinator.com/item?id=49154228 Points: 204 # Comments: 76
70B大模型跑进4GB显存,不靠量化保住全精度,原理比结果更惊艳
AirLLM's README opens with a line that sounds like it can't be true: AirLLM dramatically reduces inference memory usage, letting 70B large language mo…