20 个 GPU 可承载相当于全球互联网流量、Grace CPU 超级芯片现世,英伟达这届 GTC 发布了什么?( 二 )


“人工智能从根本上改变了软件的功能和生产方式 。 用人工智能彻底改变他们的行业的公司意识到他们的人工智能基础设施的重要性 , ”黄仁勋如是说道 , “我们新的 DGX H100 系统将为企业 AI 工厂提供动力 , 将数据提炼成我们最有价值的资源——智能 。 ”
基于 Hopper 架构的 H100 , 英伟达推出了 第四代 DGX? 系统 DGX H100 。
DGX H100拥有 8 颗 H100 GPU , 可以在新的 FP8 精度下提供 32 petaflops的 AI 性能 , 提供的规模可以满足大型语言模型、推荐系统、医疗保健研究和气候科学的大规模计算需求 。
DGX H100 系统中的每个 GPU 都由第四代 NVLink 连接 , 提供 900GB/s 的连接速度 , 比上一代多 1.5 倍 。 NVSwitch? 使 H100 的所有八个 GPU 都能通过 NVLink 连接 。
英伟达表示 , 它还可以使用其 NVLink 技术连接多达 32 个 DGX(总共包含 256 个 H100 GPU) , 从而创建一个“DGX Pod” 。
「DGX POD 的带宽是每秒 768 terbyte , 作为对比 , 目前整个互联网的带宽是每秒 100 terbyte , 」黄仁勋解释道 。
而多个 DGX Pod 连接在一起可以创建 DGS Superpods , 黄仁勋将其称之为“现代 AI 工厂” 。
在这一方面 , 英伟达还开发了一款名为 Eos 的全新超级计算机 , 它将配备 18 个 DGX Pod 。 在 AI 处理能力上 , 它将是当前世界上最强大的超级计算机 Fugaku 的四倍 。
预计 Eos 将在未来几个月内上线 , 并将成为世界上最快的 AI 计算机 。
两个 CPU 组成的超级芯片——Grace CPU Superchip
在 CPU 领域 , 黄仁勋在主题演讲上正式分享了英伟达第一款为数据中心设计的 Arm CPU 芯片——Grace CPU Superchip 。
20 个 GPU 可承载相当于全球互联网流量、Grace CPU 超级芯片现世,英伟达这届 GTC 发布了什么?
文章图片

之所以将其称之为超级芯片 , 黄仁勋表示 , 该芯片将使英伟达芯片的性能和能效提高一倍 。
不过 , 本质上来看 , 这款超级芯片是两个 CPU 的合体 , 其内部有两个 CPU 芯片组成 , 通过 NVLink-C2C(这是一种新的高速、低延迟、芯片到芯片互连)互连技术融合在一起 。
英伟达表示 , Grace CPU 超级芯片旨在提供最佳的效能表现 , 其单一 CPU 搭载 144 个 Arm Neoverse 核心 , 并在 SPECrate2017_int_base 基准测试中获得 740 分预估效能 。
这与目前随 DGX A100 出货的双 CPU 相比 , 效能表现要高出 1.5 倍以上 , 这是英伟达实验室中用同一类编译器预估的结果 。
Grace CPU 超级芯片的 LPDDR5x 内存子系统提供的带宽是传统 DDR5 设计的两倍 , 达到每秒 1 兆字节 , 同时功耗大大降低 , 整个 CPU 包括内存的功耗只有 500 瓦 。
英伟达表示 , Grace CPU 超级芯片将在要求最严格的 HPC、AI、数据分析、科学计算和超大规模计算应用中表现出色 , 具有最高的性能、内存带宽、能源效率和可配置性 , 且将在 2023 年初发货 。
首款 Omniverse 计算系统 OVX
作为元宇宙领域的大玩家 , 英伟达在今年 GTC 开发者大会上推出了一种新的工业数字孪生计算系统——OVX 。
OVX 创建目的是在 Omniverse 中运行数字孪生模拟 , Omniverse 是英伟达发布的“一个实时物理精确的世界模拟和 3D 设计协作平台” 。
“正如我们为 AI 提供 DGX , 我们现在为 Omniverse 提供 OVX” , 黄仁勋如是说道 。
OVX 是第一款 Omniverse 计算系统 , 由八个 Nvidia A40 GPU、三个 Nvidia ConnectX-6 Dx 200-Gbps NIC、双 Intel Ice Lake 8362 CPU、1TB 系统内存和 16TB NVMe 存储组成 。
当与 Spectrum-3 交换结构连接时 , OVX 计算系统可以从 8 个 OVX 服务器的单个 pod 扩展到 32 个 OVX 服务器的 SuperPOD。 还可以部署多个 SuperPODS 以满足更大的模拟需求 。

特别声明:本站内容均来自网友提供或互联网,仅供参考,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。