来源:科技新报
研调机构trendforce集邦咨询17日举办ai服务器论坛,美光透露目前ddr5酝酿许久,而hbm产能在2025年前已满载,美光在各种存储器产品有多种布局,也为ai数据中心提供强大支持。
美光在全球布局超过54,000项专利,存储器和存储技术领先业界,目前已经酝酿很久ddr5,下一代会做到1γ制程,采用euv制程技术,计划2025年率先在中国台湾量产。
美光表示,公司拥有广泛的产品群组、长周期生命产品,以及完整的系统规划。随着ai改变数据中心生态,读取方式已经不同,必须跟着ai神经网路模式运作,因此深度学习的读写比率已经到5000:1,意味着读取速度远超过写入速度,因此选择合适的储存设备相当重要。
对此,美光也进行服务器架构优化,当gpu服务器和ssd以1:1方式进行训练,效能会做到最好。另外,随着ai时代来临,在ai效能和成本间的平衡也越发重要,美光推出能最佳化现有系统并延长设备寿命的ddr4,速度高达3,200mt/s。在多核心cpu架构下,美光ddr5以6,400mt/s速度,使频宽增至ddr4的2倍、深度学习效能为ddr4的5倍、ai性能提升7倍,支持ai、hpc和企业负载。
nand部分,美光目前推出232层nand,以稳定在产品上应用为主,并同步发展hbm3e甚至hbm4。美光表示,cxl也是未来相当重要的发展方向,目前推出的cz120为存储器扩充模组,可提供更多容量、频宽和灵活配置,是较为前端的应用,目前样品已经分享给yb体育app官方下载的合作伙伴。
晶心科技资深技术经理胡鸿光指出,risc-v具有模组化优势;开源架构、没有法律问题;可最少指令集进行设计,因此能做到非常精简、有效率的状态;具有客制化优点,每个客户能自己增加指令和自己的功能。risc-v架构可以用于数据中心、车用、移动设备等任何ai需求产品。
晶心科成立已经有19年,在今年1月的shd报告中,该公司在risc-vip供应商中市占率高达30%,联发科、联咏、瑞萨、群联等都有长期合作,另外一个主要大客户是meta。
胡鸿光认为meta之所以选择risc-v,优势在于容易客制化、有极大弹性,而risc-v新出的矢量指令集在做ai运算极具影响力,另外晶心科提供客制化指令集工具andes custom extension(ace),提供meta增加私有客制指令介面与暂存器,可达成其需求。
最后针对ai服务器市况,trendforce资深分析师龚明德指出,有几大重点领域,主要拉货领域包括北美csp(云端服务供应商),包括公有云、搜寻引擎、广告推荐系统等。
今年服务器仅成长近2%,因为受到ai预算排挤,而ai服务器需求畅旺,出货量可望达166万台,年增近41%。龚明德预期,今年第二季成长较明显,因为nvidia h100前导时间(leading time)缩短,逐季看好。
龚明德预期,nvidia今年高端gpu出货量将年增超过110%,到下半年产品品将过渡到h200,而b100将进入早期量产阶段。至于amd高端aiyb体育app官方下载的解决方案会主要面向csp,搭载m1300 xal芯片的al服务器预计下半年将成主流,而第二供应商的身份有望带来amd成长。
同时,csp内部开发的asic也将发挥关键作用。到了2024年,aws将在下一代asic投入大量资源,meta和中国大陆csp亦是如此。csp今年仍将是ai服务器主要成长动能,尤其北美四大csp已经占六成采购量,中国大陆自主芯片需求也会强劲。
最后针对nvidia blackwell平台,龚明德认为这款产品主要面向csp,并推动cowos和hbm出货量在2025年实现双高个位数成长。
封面图片来源:拍信网