IT之家 4 月 4 日消息,Videocardz 发现,华硕悄悄为旗舰级的 ROG ASTRAL RTX 5080 夜神显卡发布了一个 BIOS 固件更新,将其 TGP 上限提高到了 450W。IT之家注:显卡总功耗(TGP)是一个由 NVIDIA 提出的概念,代表 GPU 在计算典型工作负载时的
大型语言模型(LLM)应用很依赖显存容量,因此许多AI爱好者通过搭配多显卡来实现更大容量显存以提升AI应用的执行效率。然而,当前主流的大语言模型普遍规模庞大,即便采用这种解决方案也存在瓶颈,因为当GPU需要调用CPU处理数据时,系统性能便与CPU缓存及内存性能深度绑定了,这就意味着AI应用的运行效能