ChatGPT需要1万张NVIDIA A100显卡 成本超10亿 国内6家公司负

Estimated read time 1 min read

近日,商汤科技公布的一份纪要显示,只有六家国内公司具备训练像ChatGPT这样的生成式AI所需的算力,需要至少1万张NVIDIA A100加速卡的支持。

百度、腾讯、字节、阿里等互联网巨头,都可以承受这样的硬件投入,同时他们也已经开始发布自己的AI产品,如百度的文心一言。然而,高性能加速显卡现在是稀缺资源,国内购买NVIDIA高端显卡更是不容易。

NVIDIA A100计算卡是2020年推出的首款安培架构产品,配备542亿个晶体管、8196个流处理器和40GB HBM2显存等强大配置,能够提供高达19.5TFlops的单精度浮点性能,但功耗也高达250W。因此,能够承受这样高昂硬件投入的企业,目前还较为有限。

(8152743)

You May Also Like

More From Author