以色列启动UniFabriX目标是给多核cpu运行计算所需的内存和内存带宽和内存密集型人工智能和机器学习工作负载。
UniFabriX推销其智能记忆节点技术代替socket-connected DRAM,限制cpu的内存容量和带宽。UniFabriX的技术是基于CXL (计算表达链接),是一家互连处理器,内存扩展和加速器。CXL技术维护内存一致性之间的连接设备上的CPU内存空间和内存,它允许高等性能,资源共享软件堆栈的复杂性,减少和降低整个系统的成本。
该公司于2020年由Ronen凯悦和丹尼Volkind。凯悦曾在英特尔数据中心平台架构师。2020欧洲杯预赛他后来于2018年加入华为智能平台首席技术官。英特尔Volkind担任系统架构师,后来受雇于华为首席架构师。双方开始他们的职业生涯在以色列理工学院的技术。
认识到数据中心市场的挑战和潜在的2020欧洲杯预赛机会,两人寻求解决一个重大障碍:内存限制,UnifabriX Micha Risling说的联合创始人和首席商务官。“他们发现,DRAM充当障碍比例计算业务。”
UniFabriX在数据中心2020欧洲杯预赛
当部署在数据中心,UnifabriX智能记忆节2020欧洲杯预赛点2俄文底盘里面包含32 DDR5 DRAM的结核病。”这个概念是连接服务器需要更少的地方DRAM,因为他们可以利用共享内存的智能内存节点更有效,”Risling解释道。”这种方法消除了当地滞留DRAM的问题没有被有效地利用。”UnifabriX estimates that DRAM constitutes approximately 50% of server costs.
Risling说,的典型用例是一个获得服务器的数据中心以最好的价格并有足够的能力来2020欧洲杯预赛运行基本应用程序。当部署在集群的中心,UnifabriX智能记忆节点作为资源池服务器可以从当他们耗尽内存,能力,或带宽。
集群内的资源共享提供了许多优点,包括减少能源消耗,一个较小的物理足迹,提高灵活性。因此,即使配备相同数量的内存,与12个服务器集群部署配备8结核病和三个智能记忆节点32肺结核192 tb的RAM-would 25%更划算的营业费用比一个24服务器集群8 tb的内存,Risling解释道。
UnifabriX的潜在客户,经营通用企业服务器,很少关注内存利用率,约翰·锡克说,技术研究和咨询顾问公司研究小组。“但是利基工作量像HPC, AI, ML,和内存数据库管理系统使用更多的内存,和客户关注的环境。”
锡克认为UnifabriX的技术应该能够提高吞吐量不增加CPU容量和相关软件许可成本。Risling指出,对于云服务提供商(CSP),这项技术将使机架的服务器数量翻倍,从12到24。
CXL记忆的潜在好处
到目前为止,讨论CXL记忆大多集中在产能扩张,内存扩展,和内存池,所有围绕提高产能和降低总体拥有成本。然而,UnifabriX提供了不同的视角,一个重视性能。“随着处理器核心数量增加,每个核心内存通道带宽下降随着时间的推移,“Risling笔记。“这意味着向服务器添加更多的内存达到某一程度时,它不会提高性能,因为内核无法充分利用,导致链计算。”
展示智能记忆节点对性能的影响,UnifabriX使用高性能共轭梯度(HPCG)基准,它强调一台超级计算机的内存子系统和内部互连限制通过运行应用程序完全在计算机的DRAM。Risling表示,该公司的研究人员发现,当智能记忆节点被激活,及其CXL记忆是交叉与服务器的本地内存,HPCG性能与所有核心充分利用“明显改善”。
尽管CXL内存的速度访问256 gb /秒的速度稍慢,相比DDR5 DRAM的300 gb /秒的速度,智能记忆节点有效评价和解决问题与当地DRAM内存带宽,动态配置额外的带宽到套接字。“这种缩放功能使得增强性能,Risling说。智能记忆节点可以独立提供容量和带宽基于实时监控系统和工作负载的性能、优化和最大化系统整体性能通过交叉本地DDR和外部CXL内存之间的比率。
是什么让UnifabriX不同?
Risling认为智能记忆节点的关键区别因素在于它利用CXL”CXL代表了最新的和最重要的发展在各种标准开发启用内存组成,”他说。“这是第一个开放标准普遍采用CPU主要供应商,促进并发事务缓存的内存语义和语义与现有的IO的语义作为PCIe。”
Risling相信CXL架构的一个关键里程碑计算和数据中心基础设施,释放一系列新的破坏性以前难以实现的应用程序。2020欧洲杯预赛在这些应用中,他指出,内存池是最有价值的,提供可观的投资回报率释放充分表现潜能的基础计算,降低功耗和所有权的总成本,消除内存和计算滞留造成的效率低下。
进化CXL生态系统内,不少公司都追求相似的目标,提供一系列的解决方案,由司机,内存控制器和内存扩展卡CXL开关和内存池。“虽然有些解决方案严格遵守CXL的实现标准,其他人将附加层的创新,“Risling说。
UniFabriX设想CXL内存空间中的一个巨大的市场机会,估计总潜在市场(TAM)到200亿年的2030美元。“TAM相关内存池预计将在140亿美元到170亿美元的范围,“Risling说。
展望未来,UniFabriX旨在通过加入新特性来增强其解决方案和扩大其能力,以适应不同的工作负载,Risling说。“公司有战略眼光扩大其影响力和推广采用CXL及其产品在整个行业。”