来源:全球半导体观察 原作者:刘静
人工智能ai浪潮下,以hbm为代表的新型dram存储器迎来了新一轮的发展契机,而与此同时,在服务器需求推动下,存储产业的另一大“新宠”mrdimm/mcrdimm也开始登上“历史舞台”。
当前,ai及大数据的快速发展带动服务器cpu内核数量同步增加,为满足多核cpu中各内核的数据吞吐要求,需要大幅提高内存系统的带宽,在此情况下,服务器高带宽内存模组mrdimm/mcrdimm应运而生。
当地时间7月22日,jedec宣布即将推出ddr5多路复用双列直插式内存模组 (mrdimm) 和下一代lpddr6压缩连接内存模组 (camm)先进内存模组标准,并介绍了这两项内存的关键细节,旨在为下一代高性能计算和人工智能发展提供支持。
jedec表示,这两项新技术规范均由jedec的jc-45 dram模组委员会开发。
作为jedec的jesd318 camm2内存模组标准的后续,jc-45正在开发用于lpddr6的下一代camm模组,目标是最大速度超过14.4gt/s。按照计划,该模组还将提供24bit位宽子通道、48bit位通道并支持“连接器阵列”,以满足未来高性能计算和移动设备的需求。
图片来源:jedec
而ddr5 mrdimm内存支持多路复用列,能够在单个通道上组合和传输多个数据信号,有效提升带宽而无需额外的物理连接。据悉,jedec规划了多代ddr5 mrdimm内存,最终目标是将其带宽提升至12.8gbps,较ddr5 rdimm内存目前的6.4gbps翻倍并提高引脚速度。
在jedec的设想中,ddr5 mrdimm将利用与现有ddr5 dimm相同的引脚、spd、pmic等设计,与rdimm平台兼容,并利用现有的lrdimm生态系统进行设计与测试。
jedec表示,这两项新技术规范的推出,预计将为内存市场带来新一轮的技术革新。
2023年3月,amd在memcom 2023活动上表示,正在和jedec合作,开发新的ddr5 mrdimm标准内存,其目标传输速率高达17600 mt/s。据tomshardware当时的报道,第一代ddr5 mrdimm的目标速率是8800mt/s,之后会逐步提高,第二代将达到12800mt/s,然后第三代会提升至17600mt/s。
mrdimm的全称为“multiplexed rank dimm”,即将两个ddr5 dimm合二为一,从而提供双倍的数据传输率,同时可访问两个rank。
7月22日,存储大厂美光宣布推出全新的mrdimm ddr5,目前已经出样,可为人工智能ai、高性能计算hpc应用提供超大容量、超高带宽、超低延迟,将于2024年下半年开始批量出货。
图片来源:美光
mrdimm可以提供最高带宽、最大容量、最低延迟以及更高的每瓦性能。美光表示,在加速内存密集型虚拟化多租户、高性能计算和ai数据中心工作负载方面,表现优于当前的tsv rdimm。
据官方介绍,与传统的rdimm ddr5相比,mrdimm ddr5可实现有效内存带宽提升高达39%,总线效率提升超过15%,延迟降低高达40%。
mrdimm支持从32gb到256gb的容量选择,涵盖标准和高型两种外形规格(tff),适用于高性能的1u和2u服务器,其中256gb tff mrdimm对比类似容量的tsv rdimm,性能可以领先35%。
该款全新内存产品为美光mrdimm系列的首代,将与英特尔至强处理器兼容。美光表示,后续几代mrdimm产品将继续提供比同代rdimm高45%的单通道内存带宽。
作为全球最大的存储厂商,为提升产品速度,sk海力士在amd与jedec之前便推出了类似mrdimm的mcrdimm。
mcrdimm全称为“multiplexer combined ranks dual in-line memory module”,是将多个dram结合在基板上的模组产品,通过同时操作模组的两个基本信息处理运算单位rank。
2022年底,sk海力士与英特尔和瑞萨合作,开发出了ddr5多路合并阵列双列直插内存模组(mcr dimm),成为当时业界最快的服务器dram产品。根据澜起科技2023年年报,mcrdimm也可以视为mrdimm的第一代产品。
图片来源:sk海力士
传统dram模组每次只能向cpu传输64个字节的数据,而在sk海力士的mcrdimm模组中,两个内存列同时运行可向cpu传输128个字节的数据。每次传输到cpu的数据量的增加使得数据传输速度提高到8gbps以上,是单个dram的两倍。
sk海力士彼时预计,在高性能计算对于内存带宽提升需求的驱动下,mcr dimm的市场将会逐步打开。据sk海力士在其2024财年第二季度财务报告最新透露,公司将在下半年推出适用于服务器的32gb ddr5 dram和用于高性能计算的mcrdimm产品。
mcrdimm/mrdimm采用ddr5 lrdimm“1 10”的基础架构,需要搭配1颗mrcd芯片及10颗mdb芯片。从概念来看,mcrdimm/mrdimm允许并行访问同一个dimm中的两个阵列,从而大幅提升dimm模组的容量和带宽。
与rdimm相比,mcrdimm/mrdimm可以提供更高的带宽,同时与现有rdimm成熟的生态系统有较好的兼容性。此外,使用mcrdimm/mrdimm有望显著提升服务器整体性能,减少企业的总拥有成本(tco)。
mrdimm和mcrdimm同属于dram内存模组范畴,而内存模组与hbm的应用场景不同,各自的市场空间较为独立。作为行业标准的封装内存,hbm以较小的尺寸,在给定容量下可以实现更高的带宽和能效,但其价格贵、容量较小、不可扩展等特点限制它只能在少数领域使用。因此从产业角度来说,内存模组是大容量、高性价比、可扩展内存的主流yb体育app官方下载的解决方案。
澜起科技认为,基于高带宽、大容量的优势,mrdimm有望成为未来ai和高性能计算主内存的优选方案。而根据jedec的规划,未来用于服务器的新型高带宽内存模组mrdimm,将支持更高的内存带宽,进一步满足hpc及ai应用场景对内存带宽的需求。
封面图片来源:拍信网