1
消息称谷歌正研发全新 Frozen v2 芯片,可大幅提升 Gemini 模型运行效率
谷歌专为Gemini模型量身定制Frozen v2芯片,将模型架构固化到硬件,AI推理效率飙升6-10倍。
IT之家 7 月 20 日消息,据 The Information 报道,知情人士透露,谷歌正在研发一款代号为“Frozen v2”的全新服务器芯片,该芯片的核心突破在于将 Gemini 大模型的底层运算架构直接固化进硬件层面,从而大幅降低 AI 推理过程中的能耗与延迟,单位功耗可处理的词元数量预计…