【资料图】

NVIDIA 刚刚公布了其Hopper H100和L4 Ada GPU在 MLPerf AI 基准测试中的一些破纪录性能。

NVIDIA 的 AI 实力在最新的 MLPerf AI 基准测试中得到证明：Hopper H100 和 L4 Ada GPU 创造了新的性能记录

今天，NVIDIA 展示了其在 MLPerf Interface 3.0 中取得的最新数据。三大亮点是最新的Hopper H100记录，展示了旗舰AI GPU在过去6个月里的进步，以及多项软件优化，我们还可以看到基于Ada图形架构的L4 GPU公布的第一批​​成果在 GTC 2023 和最后，我们更新了 Jetson AGX Orin 的结果，由于类似的软件和平台功率级优化，它变得更快。总结一下，以下是我们今天要看的亮点：

NVIDIA Hopper H100 和 L4 Ada GPU 在 MLPerf AI 基准测试中取得破纪录的性能

H100 创造了新的推理记录：与之前的提交相比，性能提高了 54%

L4 Superchargers 主流推理：比 T4 快 3 倍以上

Jetson AGX Orin 的又一次飞跃：与之前提交的文件相比，效率提高了 57%

对于今天的基准测试套件，NVIDIA 将考察 MLPerf Inference v3.0，它保留了 6 个月前在之前提交中使用的相同工作负载，但添加了网络环境，它可以准确衡量数据如何发送到推理平台以完成工作。NVIDIA 还透露，在产品的整个生命周期内，该公司可以通过软件优化将性能提高近 2 倍，这在过去的 GPU(例如 Ampere A100)上已经出现过。

得益于软件优化，NVIDIA H100 自推出以来性能有了巨大提升，比上一代提高了 4.5 倍

从 Hopper H100 性能测试开始，我们看到了离线和服务器类别的 MLPerf 推理测试。离线基准测试显示，与 Ampere A100 相比，性能提高了 4.5 倍(BERT 99.9%)，而在服务器场景中，H100 的性能比其前身高出 4.0 倍，令人印象深刻。