去年在其GPU技术会议(GTC)上Nvidia宣布它将基于ARM Neoverse V9服务器体系结构提供自己的服务器芯片,称为GRACE。当时,细节很少,但是本周NVIDIA透露了这些细节,它们非常出色。
顾客有两种选择,都有两种选择,都将Nvidia称为Superchips。首先是去年正式引入的Grace Hopper Superchip,但仅广泛描述。它由72核CPU和一个组成料斗H100 GPU由NVIDIA的新高速NVLink-C2C芯片到芯片互连紧密连接,具有900GB/s的传输速度。
第二周宣布的是Grace CPU Superchip,它没有GPU。取而代之的是,它具有两个通过NVLINK捆绑在一起的72核Cpuchips。即使没有H100 GPU,Grace CPU SuperChip也具有一些不错的基准测试。NVIDIA声称Specrate2017_INT_BASE性能高于DualHigh-End AMD EPYC“ Rome”生成处理器的性能高于1.5倍以上。
NVIDIA产品管理和营销高级总监Paresh Kharya表示,这两个Superchips将为两个不同的市场服务。他说,Grace Hopper Superchip旨在解决AI和HPC的巨大规模,重点是CPU系统记忆的瓶颈。
“带宽是有限的,当您连接传统服务器中的CPU和GPU时。他说:“因此,通过将两个芯片放在一起并与我们的NVLINK互连将它们互连的数据,我们可以解开该内存。”