NvidiaGTC会议比Blackwell公告多,包括启动两个高速网络平台
NvidiaGDC会议在我们后视镜中,除大报外,还有很多新闻Blackwell架构和大规模新DGX系统驱动.下图显示你可能遗漏的一些公告
高速联网平台
维迪亚市网络化公司和GPU公司都一样多,尽管它没有像网络化方面那样多地关注网络化方面。Nvidia公司带球Mellanox并运行它公司宣布2个高速网络平台,传输速度达800GB/s,面向AI系统
第一个平台为Quantum-X800Infiniband,由二大构件组成:Quantum3400开关和ConnectX8超级NIC提供五倍带宽容量和九倍网络内计算 与前一代相比,前一代产生14.4兆方
第二平台Spectrum-X800Ethernet使用spectrumsSN5600800Gbps交换机和Nvidia蓝战3超NIC设计面向多租方AI云和大型企业
云服务提供商正在排队支持Quantum Infiniband和Spectrum-XEthernet,包括微软Azure、Oracle云基础架构和Coreweave
推理微服务
微服务传统上不与AI关联,因为它们小轻程序设计成单函数或小函数计算小题 AI对立Nvidia引入微服务推理大语言模型
DubbedNvidia推理微服务软件是Nvidia企业AI软件包的一部分由优化推理引擎包件、行业标准APIs支持NIM提供预建模型并允许组织添加自有数据和模型
关于NM技术,你可以说一点NVDIA不是在真空中工作公司与多大软件商合作,包括SAP、Adobe、Cadence、CrowdStrike和ServiceNow, 数据平台商,包括Box、Cohsity、Cloudera、Databricks和NetApp
提供从Google、Meta、Hugingface、微软、MistralAI和NationalAI等多广受欢迎的AI模型推理NNI微服务从亚马逊Webservice、GoogleKubernetes引擎和微软AzureAI提供
进入存储验证
存储是AI处理中关键成份,因为AI非大量数据非非非非数据非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非多数据量数据量多非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非非Nvidia启动存储伙伴验证程序, 帮助企业寻找正确的存储解决方案,程序称NvidiaOVX,与DGX计算服务器相似命名方法第一批申请OVX存储验证的公司有DDN、DellPowerClue、NetApp、Pure存储和WEKA
NVIDIAOVX服务器合并高性能计算GPU加速计算高速存储存取和低延时联网处理各种复杂AI和图形密集工作程序为合作伙伴验证存储器提供标准流程
服务器制造者跳上Blackwell
大型OEMs宣布新Blackwell提供
- 戴尔技术宣布PowerEdge XE9680服务器-其龙头八向GPU加速服务器-将更新到新一代Blackwell
- 列诺沃8-GPUAI服务器- ThinkSystem SR680aV3、SR685aV3和SR780aV3GPU系统-使用Blackwell支持AI、高性能计算(HPC)和图形模拟工作跨行业
- 惠普企业宣布它去年11月在SC23上宣布的超计算产品现可用命令组织为开发培训大型AI模型寻找预配置和预测试全套解决方案服务器是特制全包解决方案,帮助客户加速GenAI和深学习项目,并可支持多达168GH200GraceHopper超级奇普除硬件外,HPE服务向企业提供帮助帮助设计、部署和管理解决方案
- 超微型GTC 2024公开一系列服务器,新系统由GB200GraceBlackwell超级芯片组成,加B200和B100GPUs并说NvidiaHGXH100和H200系统正在为新建GPUs“投放准备”,这意味着客户可用Hopper硬件交换Blackwell超级微调称它将成为今年晚些时候首家服务器公司启动HGXB2008GPU和HGXB1008GPU系统
Nvidia/AWS超级计算机升级
Nvidia和Amazon去年联手建设世界最高速超级计算机Ceiba项目.Blackwell处理器宣布后,Ceiba项目将升级到比原计划快六倍
Ceiba项目初始描述为绝对野兽,拥有超过16 000H100HpperAI处理器并提供65大片AI处理权透视当前最快超级计算机是美国能源局边界,可达1.1ExapleOPS
Nvidia和亚马逊项目Ceiba升级10 386BlackwellB200超级芯片B200由GraceCPU和2Blackwell芯片合在一起表示共20 736GPUsNvidia称这台机器可击414exapleOPS
