企业采用生成的人工智能(AI),能够生成文本,图像,或其他媒体提示,仍处于初期阶段,但预计将增加迅速组织发现新用途的技术。
“生成的人工智能疯狂丝毫没有减弱的迹象,”Gartner分析师弗朗西丝·卡拉说。“组织正在努力确定多少现金涌入生成人工智能解决方案,产品值得投资,何时开始以及如何减轻风险的新兴技术。”
彭博智能生成的预测,市场每年将增长42%在接下来的十年,从400亿年的2022美元到1.3万亿美元。
生成人工智能可以帮助IT团队以多种方式:它可以编写软件代码和网络脚本,提供故障诊断和问题解决,自动化流程,提供培训和新员工培训,创建文档和知识管理系统,帮助项目管理和规划。
它可以改变其他地区的业务,包括呼叫中心、客户服务、虚拟助理,数据分析,内容创建、设计和开发,预测性维护。
但是数据中心基础设2020欧洲杯预赛施能够处理不断增长的工作负载由生成人工智能?
生成AI对计算要求的影响
毫无疑问,生成AI将大多数组织的数据策略的一部分。网络和IT领导需要做什么今天是确保他们的IT基础设施,以及他们的团队,准备即将到来的变化。
构建和部署应用程序时,将生成的人工智能,这将如何影响对计算能力和其他资源的需求吗?
“数据中心的需求将增加我们知道他们今天,并将彻底改变数据中心2020欧洲杯预赛及其相关技术是什么样子在未来,”布赖恩刘易斯说,董事总经理,咨询、咨询公司毕马威(KPMG)。
生成人工智能应用程序创建重要对计算能力的需求两个阶段:训练大型语言模型(llm)形式生成的人工智能系统的核心,然后与这些训练有素的llm操作的应用程序,首席执行官劳尔Martynek说数据中心运营商的数据库。2020欧洲杯预赛
“训练llm需要密集计算神经网络的形式,在数十亿的语言或图像的例子被送入神经网络和系统反复提炼,直到系统“承认”他们作为一个人,“Martynek说。
神经网络需要非常密集的高性能计算(HPC)集群GPU处理器运行持续好几个月,甚至几年,Martynek说。“他们更有效地运行在专用的基础设施,可以靠近专有数据集用于训练,”他说。
第二阶段是“推理过程”或使用这些应用程序实际上询价并返回数据结果。“在这个操作阶段,它需要更多的地理上分散的基础设施规模迅速,可以提供对应用程序的访问延迟较低的用户查询的信息想要快速响应想象用例。”
在很多地方,要求数据中心而不是集中公2020欧洲杯预赛共云模型,目前支持大多数应用程序,Martynek说。在这个阶段,数据中心的计算能力2020欧洲杯预赛需求仍将高企,他说,“但相对于第一阶段需求分散在更多的数据中心。”
生成人工智能驱动器对液体冷却的需求
网络和IT领导需要认识到生殖AI会影响服务器的密度和什么,冷却需求,电力需求、可持续性计划,等等。
“不仅仅是密度,但责任周期的频率和使用多少这些服务器在高峰负荷,”弗朗西斯Sideco说,首席分析师Tirias研究。“我们看到像NVIDIA公司,AMD和英特尔每一代的AI硅试图提高性能,同时保持权力和控制热。”
即使这些努力,功率预算仍在增加,Sideco说。“与工作负载的速度增加,特别是GenAI,在某种程度上我们会撞上一堵墙。”
服务器密度”没有上升像我们看到叶片技术和虚拟主机,”刘易斯补充道。“技术创新而非硅类芯片,图形处理单元(gpu),量子计算,hardware-aware,基于模型的软件开发能够得到更多的现有硬件。”
这个行业已经尝试创新的液体冷却技术比空气更有效率,以及不同位置的可持续性,如微软的项目纳蒂克,海底数据中心,刘易斯说。2020欧洲杯预赛
“传统的空气冷却技术,如使用风扇,导管、喷口和空调系统,并不足以满足冷却要求的高性能计算硬件如gpu,”刘易斯说。“因此,替代液体冷却等冷却技术正在不断发展。”
液体冷却涉及循环冷却剂,例如水或其他液体,由电脑产生的热量通过热交换器吸收组件,刘易斯说。“液体冷却比传统的更节能的空气冷却,随着液体导热系数高于空气,它允许更好、更高效的传热。”
新数据中2020欧洲杯预赛心的设计需要满足更高的冷却要求和电力需求,Martynek说,意味着未来的数据中心将不得不依靠新的冷却方法如后冷冻门,水芯片或浸技术提供正确的混合,冷却和可持续性。
2020欧洲杯预赛数据中心运营商已经推出液体冷却的进步,Martynek说。例如,数据库使用一个新的ColdLogik Dx后门QCooling冷却解决方案在亚特兰大佐治亚理工学院的超级计算机。
"我们预期显著增加水到门口,芯片冷却技术,特别是未来的一代又一代的gpu将消耗更多的电能,“Martynek说。”更多的计算空间和电力的需求源于生殖AI采用无疑将推动寻找更多在电力消耗和冷却效率。”
创AI如何影响电力需求
它可能成为数据中心运营商更普遍建立自己的电力变电站,Martynek说2020欧洲杯预赛。“菌株电网由于过渡到可再生能源需求和创造更多的不确定性电源,和新的数据中心项目时间表是深受公用事业公司的工作量及其功能来处理新设施的电力需求,”他说。2020欧洲杯预赛
拥有一个可靠和可伸缩的能源将越来越多地成为数据中心运营商最重要的思想,既要跟上HPC集群产生的电力需求,为了解决公用事业的时间表和局限性,Martynek说。2020欧洲杯预赛
数据库推出一个新的数据中心设计标准被称为通用数据大厅设计(U2020欧洲杯预赛DHD),哪些特性与周边空气冷却和更大的一块地板橱柜之间的间距是理想的超大型云部署,可以快速部署,Martynek说。
”这种方法还允许我们轻松添加活动地板,内阁间距为传统企业工作负载,“Martynek说。”,我们可以添加下一代像后门热交换器冷却技术,water-chilled门配置或直接芯片冷却基础设施以最小的努力,”他说。
在未来,技术为数据中心设计”需要适应更高的计算要求快速访问内存,健壮的存储2020欧洲杯预赛/存储区域网络,高性能的网络延迟/中断宽容,和大数据的数据库技术,”刘易斯说。
IT团队需要做好准备
网络和数据中心的团队现在2020欧洲杯预赛应该准备。“这些变化发生得太快,人完全准备好了,”Sideco说。“不只是网络/数据中心团队,但实际上整个生态系统,需要2020欧洲杯预赛解决所有的更改是必要的。”
包括硅供应商来处理工作负载和电力需求的增加。“他们提供不同的选项,网络/数据中心团队然后使用(地址)不断变化的要求,“Sideco说。2020欧洲杯预赛“协作在所有这些将会很重要,试图跟上需求。”
其他人则对准备工作更有信心。“我们总是准备好下一个中断,”刘易斯说。“真正的问题是:将业务投资需要改变是什么?节约成本保持在数据中心外包的前沿。2020欧洲杯预赛然而,业务尚未采用现代IT整体拥有成本和价值的实现框架来衡量它的能力在速度响应和适应技术像人工智能驱动业务。”
“准备采用人工智能,数据中心需要确定正确的业务和资本策略,2020欧洲杯预赛这样他们就可以投资必要的基础设施和工具并适当地开发一个熟练的劳动力,“Martynek说。“有合适的人来执行策略是有正确的策略一样重要。”