Facebook的母公司元表示,它正在建设世界上最大的人工智能计算机构建其metaverse权力机器学习和自然语言处理的项目。
这台新机器,叫做研究超级计算机(RSC),将包含16000 Nvidia A100 gpu和4000 AMD Epyc罗马7742处理器。它有2000个Nvidia DGX-A100节点,每个节点八两Epyc GPU芯片和微处理器。元预计今年完成建设。
RSC已经部分建造,760年DGX-A100系统的部署。元研究人员已经开始使用RSC训练大型模型在自然语言处理(NLP)和计算机视觉研究,最终目标是培训与数以万亿计的参数模型,根据元。
“元开发了我们相信是世界上最快的超级计算机。我们称之为RSC AI研究超星系团,它将在今年晚些时候完成。metaverse的经历我们建设需要巨大的计算能力(这样操作/秒)和RSC将启用新的人工智能模型,从数万亿的例子,可以学习了解数以百计的语言,和更多,”首席执行官马克·扎克伯格在一份电邮声明中说。
RSC有望创下的峰值性能5 exaflop混合精密加工、FP16和FP32,火箭的顶部则超级计算机列表的最高执行超级计算机可以达到442 Pflop / s。它正在建造与企鹅计算、HPC的专家系统。
元不披露系统所在地。
“RSC将帮助元的人工智能研究人员建立新的和更好的人工智能模型从数万亿的例子,可以学习;工作在数百种不同的语言;无缝地分析文本、图像和视频在一起;开发新的增强现实技术工具;和更多,”凯文·李,一个技术项目经理,Shubho森古普塔,一个软件工程师,在元,写道在一篇博客文章中。
“我们希望RSC将帮助我们构建全新的AI系统,例如,电力实时语音翻译大群体,每个说不同的语言,这样他们就可以无缝合作研究项目或一个基于“增大化现实”技术的游戏在一起,”他们写道。
除了所有的处理能力,RSC还在纯存储FlashArray 175 pb, 46个pb在缓存中存储,和10个纯pb的对象存储设备。
RSC估计9倍元的先前的研究集群,由22000年的Nvidia的老一辈V100 gpu,和20倍的速度比目前的人工智能系统。元不打算退休老系统。
,公司的重点在于建立自动执行的任务集中在学习模型的内容。希望这个基础设施以火车模型与一万亿多个参数对数据集1 eb一样大,为的是让其拥抱所有的内容在其平台上生成的。
“通过这样做,我们可以帮助促进下游研究执行任务,比如识别有害内容在我们的平台上体现人工智能研究和多通道人工智能来帮助提高我们的家庭的应用程序的用户体验。我们相信这是第一次性能、可靠性、安全性、和隐私一直在解决这样一个规模,”李和森古普塔写道。