启动使其控制GPU池以最大化其使用

run.ai正在启动软件,编制组织的共享使用组织的GPU资源,而不是将整个处理器专用于特定的AI工作负载。

AI人工智能人格图形界面数据
Art24H / Getty Images

在最伟大的组件短缺之中,所有人都是NVIDIA和AMD的GPU。GPU用于比特币养殖,在世界各地的大型农场吞噬了每个GPU卡,获得了一个不可能或不符合费用。

因此,客户需要挤出他们在服务中的GPU中的每一个最后周期。一个以色列公司呼吁跑:AI.声称它有一个有一对池GPU资源的技术,并最大限度地使用它们。

该技术称为薄的GPU供应和作业交换。不是最具创造性的名称,但他们描述了两者在串联中做了什么,以自动化GPU的分配和利用。

数据科学家和其他AI研究人员经常会收到GPU的分配,GPU保留为个人运行流程,没有其他人。这是高性能计算(HPC)和超级计算机操作,以及获得处理器的处理器恰到好处是管理员的黑名艺术。

具有薄的GPU配置和作业交换,无论何时运行工作负载不使用其分配的GPU,池都会汇总这些资源,可以自动配置以供不同的工作负载使用。它类似于由VMware介绍的存储区域网络首次引入的精简配置,其中可用的存储磁盘空间被分配但未在必要时配置,根据Run:AI语句。

薄的GPU配置创建过度配置的GPU,而作业交换使用预设优先级以重新分配未使用的GPU容量。一起运行:AI表示,这两种技术最大化了GPU利用率。

数据科学家,其特色不是总体技术,不必处理调度和配置。与此同时,IT部门对其网络中的GPU利用率控制着。

“研究人员不再能够”拥抱“GPU - 使他们无法使用其他人,”Ronen Dar,CTO和Run:AI的联合创始人博士说。“他们只是运行他们的工作并运行:AI的配额管理,细长的GPU配置和作业交换功能无缝地分配资源,没有任何用户干预。”

薄的GPU供应和作业交换目前正在运行中进行测试:AI客户实验室。它们通常在Q4 2021中提供。

跑:AI成立于2018年,拥有4300万美元的资金。

加入网络世界社区足球竞猜app软件Facebooklinkedin评论最重要的主题。
有关的:

版权所有©2021 IDG Com足球竞彩网下载munications,Inc。

SD-WAN买家指南:要询问供应商(和您自己)的关键问题