1
HBM 之父金正浩:AI 的本质是内存,GPU 真正工作的时间只有 10%-30%
HBM之父一语道破:AI计算的真正瓶颈不在GPU,而在内存,多数时间GPU都在“等待”。
IT之家 7 月 6 日消息,被誉为“HBM 之父”的韩国科学技术院(KAIST)电气系教授金正浩近日接受《东亚日报》采访时表示,AI 的核心竞争力正在从 GPU 转向内存。 金正浩认为 AI 的本质是内存,GPU 在 AI 推理中的利用率远低于理论水平。AI 每次输出结果,都必须先从 HBM 读取…