英伟达全新高性能GPU H100性能提升30倍,成为全球领先的AI加速器。这款显卡专为大规模机器学习和深度强化学习设计,具有强大的计算能力,能显著提升AI应用的性能和效率。这一突破性技术有望推动AI领域的快速发展,并开启一个全新的时代。
H100是由两颗B200Blackwell GPU以及一颗基于Arm的Grace CPU组成的,这种高性能的AI加速卡对于大型语言模型来说,其推理性能可比H100提升了30倍,这意味着在同样的硬件条件下,它们的表现将会超过人类的认知水平。
H100也具有降低大约一半的成本和能耗的优点,NVIDIA表示,使用2000个Blackwell GPU,可以将原本需要8000个Hopper GPU和15,000瓦电力的训练任务顺利完成,同时提供了GB200NVL72服务器,这是一款专为大规模训练场景设计的服务器,其内置强大的CPU(72个Blackwell GPU)和GPU可以支撑一定程度上的720petaflop(每秒1亿万亿次浮点运算)AI训练性能或1.4exaflops(每秒1.4亿亿次浮点运算)推理性能。
这款新的AI加速卡不仅能提升AI训练效率,而且还能降低计算成本,随着NVIDIA继续推动AI技术的发展,我们相信会有更多的先进产品出现,以满足未来的市场需求。
版权声明:除非特别标注,否则均为本站原创文章,转载时请以链接形式注明文章出处。