随着人工智能在企业环境中的兴起，数据中心的电力使用也将随之兴起。2020欧洲杯预赛人工智能有很多方面，但能效不在其中。
对于运行2020欧洲杯预赛典型企业应用程序的数据中心，机架的平均功耗约为7 kW。然而，根据数据中心组织的数据，人工智能应用在每个机架上使用超过30千瓦是很常见的2020欧洲杯预赛AFCOM。这是因为人工智能需要更高的处理器利用率，而处理器——尤其是gpu——又非常耗电。例如，Nvidia gpu的运行速度可能比CPU快几个数量级，但每个芯片的功耗也是CPU的两倍。令问题更加复杂的是，许多数据中心的能力已经受到了限制。2020欧洲杯预赛
散热也是一个问题：AI-面向服务器需要更高的处理器密度，这意味着更多的筹码塞进箱子，它们都运行得非常热。更大的密度，更高的利用率一起，增加了冷却相比，一个典型的后台服务器的需求。较高的冷却进而提高电力需求的要求。
那么，如果你出于竞争的原因想要接受人工智能，但你现有设施的电力容量达不到人工智能高密度基础设施的要求，你能做些什么呢?以下是一些选择。
考虑液体冷却
风扇冷却通常失去生存能力一旦机架超过15千瓦。然而，水的热容是空气的3000倍CoolIT系统该公司是一家生产液体冷却产品的企业。因此，服务器机柜制造商一直在往机柜中添加液体管道，并将水管连接到散热器上，而不是风扇。
“液体冷却绝对是高密度负载一个非常好的选择，”约翰·震荡波，在为数据中心运营高级副总裁2020欧洲杯预赛Sabey，数据中心的开发商和运营商。2020欧洲杯预赛“这消除了杂乱的气流问题。水去掉了很多更多的热量比空气做，你可以通过管道直接吧。很多HPC [高性能计算]的与液体冷却来完成。”
大多数数据2020欧洲杯预赛中心都是为空气冷却而建的，因此液体冷却需要资本投资，“但对于这些努力来说，这可能是一个更明智的解决方案，尤其是如果一家公司决定朝(人工智能的)方向发展，”Sasser说。
以较低的分辨率运行AI工作负载
现有的数据中心可能2020欧洲杯预赛能够处理人工智能计算工作负载，但以一种简化的方式，史蒂夫康威说，高级研究副总裁亥伯龙神的研究。许多人，即使不是大多数，可以将工作负载在一半或四分之一精度而非运行64位双精度。
“对于某些问题，半精度是可以的，”Conway说。“用更低的分辨率、更少的数据运行它。或者更少的科学成分。”
双精度浮点计算是科学研究的主要需求，通常是在分子水平上进行的。双精度通常不用于人工智能训练或深度学习模型的推理，因为它是不需要的。甚至英伟达提倡用于深度神经网络中单精度和半精度的计算。
建立一个人工智能遏制部分
人工智能将是你业务的一部分，但不是全部，这应该反映在你的数据中心。2020欧洲杯预赛“正在建设的新设施正在考虑将部分设施分配给更高的用电量，”道格•霍利奇(Doug Hollidge)表示五9年代数字该公司负责建设和运营数据中心。2020欧洲杯预赛“你不会把所有的设备都放在高密度的地方，因为还有其他一些应用程序的吸引力更低。”
首先要做的是评估建筑物的能源供应，Hollidge说。“如果你要增加建筑物的能源消耗，你必须确保电力供应商能够增加电力供应。”
请一位工程师来评估数据中心的哪一部分最适合更高密度的功能。2020欧洲杯预赛工作负载要求将决定最佳解决方案，无论是热通道安全壳或液体冷却或其他一些技术。Hollidge说:“由于所有的数据中心都是不同的，所以很难给出一个通用的解决方案。”2020欧洲杯预赛
展开你的人工智能系统
另一种方法——而不是把你所有的AI系统挤在一个比死亡谷更热的地方——是把它们分散在架子上。
“大多数应用都不是高密度的。它们的运行功率为8到10千瓦，最高可达15千瓦。公司的首席创新官戴维•麦考尔(David McCall)表示规定性数据中心的建造者。2020欧洲杯预赛
在一个优化的异构环境中，一个配置提供程序可能在一个机柜中有一两个机架来托管HPC或AI环境，而机柜中的其余机架用于托管耗电较少的应用程序，如数据库和后台应用程序。麦考尔说，这不会产生一个5千瓦的机架，但它会得到一个接近12千瓦或15千瓦的机架，这是一个空气冷却可以处理的环境。
控制数据中心的热风流量2020欧洲杯预赛
标准的数据中心布局2020欧洲杯预赛是热通道/冷通道，其中的机柜是交替排列的，这样冷风进气口在一个正面的通道上面对着对方，热空气排气口在背向交替的通道上面对着对方。这种方法工作得很好，但是如果IT人员需要躲在柜子后面才能在服务器上工作，那么访问可能会比较麻烦。
另一个问题是，正如Sasser所说，空气是“混乱的”。电力通常更容易建模，因为它流经导体，你可以控制(从而计划和建模)电力的流向。空气去它想去的地方，很难控制。
希望高密度环境Sabey客户使用热通道气流遏制系统吊舱，以控制空气流动。公司推出门在热通道和塑料板在顶部的端部，所以热量被引导到天花板进气管和障碍保持热空气和冷空气混合从。
“在一个空气冷却的服务器世界中，我给出的建议是使用热通道遏制环境，”Sasser说。“我给出的另一个建议是，确保数据中心是针对气流进行测试的，而不只是针对气流建模。2020欧洲杯预赛建模依赖于很多变量，它们很容易改变。”
考虑一个烟囱柜
另一种帮助管理数据中心温度的方法是使用烟囱柜。2020欧洲杯预赛烟囱柜不是将热空气从后面排出去，而是利用古老的物理对流原理将热空气送进烟囱，然后再将其与空调通风口相连。就是系统最出名的就是这种风格的橱柜。
“通过这种方式，空气通道更受限制，”Sasser说。“由于空气通道更受限制，你可以得到更大的密度进入内阁比热通道豆荚。”
它驻留过程数据
移动数据的能耗非常高:移动数据的能耗是处理数据的能耗的100倍，Conway说。任何形式的数据移动都需要电力，而电力消耗会随着数据量的增加而增加——对于数据密集型人工智能应用程序来说，这是一个重要的问题。“你希望尽可能少地移动数据，并保持尽可能小的距离，”Conway说。
“该解决方案不具有任何更多的或进一步移动所述数据比是绝对必要的。因此，人们正在努力把数据更接近的地方进行处理。有一件事云服务提供商和谁使用云服务的人同意是没有意义的数据的海量移动到第三方云，”他说。
考虑租用数据中心空间2020欧洲杯预赛
霍利奇说，大多数希望实现人工智能的公司是从数据中心运营商那里租用数据中心空间的公司。2020欧洲杯预赛有一些数据中心操作员不能处理高2020欧洲杯预赛密度人工智能计算，但有些已经过渡到为人工智能提供部分高密度环境。
Hollidge说:“在找到它之前，你可能需要通过一些提供商，但是在数据中心操作方面有更多的关注。”2020欧洲杯预赛第三方数据中心提供商为您提供更多的增2020欧洲杯预赛长选择。“大多数时候，你最好签订一份灵活的租约，允许你扩展和发展自己的人工智能业务，而不是原地打基础。”
等待下一代服务器
到目前为止，超级计算机对数据还不是很友好，Conway说。随着超级计算机变得越来越大，设计也越来越不以数据为中心。其结果是更多的数据必须在处理器、内存和存储系统之间来回移动和穿梭。正如上面所讨论的，移动数据比处理数据需要更多的能量。
第一个百亿亿次的系统将会有更多的加速器和更强大的内部连接来移动数据。许多从超级计算开始的创新，包括gpu和存储类内存(SCM)，最终都进入了更主流的服务器。
未来的服务器也将配备了更多的异构芯片布局;而不是所有的x86 CPU，他们将包括图形处理器，FPGA和AI加速器。而对于高速存储，NVMe环比面料和供应链管理将变得更加实惠。服务器被设置在未来几年改变，许多进步将有利于企业的AI应用环境。