cloud ai server需求强劲，促nvidia fy2q24数据中心业务占比首次突破76%｜trendforce集邦咨询-yb体育app官网

trendforce集邦咨询：cloud ai server需求强劲，促nvidia fy2q24数据中心业务占比首次突破76%

据nvidia最新财报数据（fy2q24）显示，其数据中心业务达103.2亿美元，季成长率141%，年成长率更高达171%，且nvidia看好后续成长力道。trendforce集邦咨询认为，主要nvidia高营收成长动力来自于其数据中心ai服务器相关yb体育app官方下载的解决方案业务，主力产品包含ai加速芯片gpu、ai服务器参考架构hgx等，作为大型数据中心的ai 基础设施。

同时，trendforce集邦咨询预期，nvidia将进一步整合其软硬件资源，并更细致地将其高端及中低端gpu ai加速芯片，与各odm或oem绑定合作软硬件系统认证模式。除了加速在csp云端ai服务器基础设施布建之外，也和vmware等合作private ai foundation等方案，将其触角延伸至边缘enterprises ai服务器市场，以支撑其今、明两年数据中心业务稳定成长。

cloud ai强劲需求驱动，nvidia数据中心业务占比超越76%

nvidia近年积极布局数据中心业务，fy4q22当时数据中心业务营收约占42.7%，尚落后于gaming业务营收约2个百分点，于fy1q23后正式超越gaming业务营收，占比逾45%。自2023年起，各大csp大举投入chatbot及公有云各种ai服务基础设施后，nvidia更直接受惠，fy2q24数据中心业务营收占比一举突破76%。

nvidia将分攻cloud及edge data center ai应用市场

trendforce集邦咨询观察，预估nvidia在高端gpu产品销售策略上，将于2023下半年后有所转变，原高端ai服务器以搭载a100及h100为主，在市场需求大好的预期下，将改主攻售价更高的h100，才能有效刺激数据中心相关业务营收向上。

中端gpu方面，以近期主推的l40s为主打方案，其中有几个主要策略意义。首先，高端h100系列受限于目前cowos、hbm等产能瓶颈，而l40s则主要搭配gddr存储器，因不须cowos封装，可加速导入中端ai服务器市场，补足原a100 pcie接口对enterprises客户需求缺口。

其次，l40s也同时主攻如enterprises客户，不需使用如chatgpt数量庞大的参数模型，而是主攻较小型化（约数十billion~百billion参数量以下）各专业领域的ai training应用，亦或针对边缘ai inference或影像分析等使用。最后，低阶gpu系列，则以l4或t4系列为主打，主打边缘ai服务器实时ai推论或影像分析使用，并更强调较低价，其高c/p值的产品特性。

hgx及mgx等ai服务器参考架构将是nvidia下半年后主攻ai方案的利器

trendforce集邦咨询观察，近期nvidia除针对其核心ai芯片gpu进行更细致化的产品定位外，也积极主推其hgx及mgx等方案，而这并不是服务器产业链首见做法，但nvidia有机会在此策略上稳固领先利基。主要是nvidia藉由高度整合其gpu加上cuda建立完整ai生态系下处绝对领先位置，故对既有的服务器供应链有较强议价能力，藉此要求odm如inventec、quanta、fii、wistron、wiwynn等，或品牌业者如dell、supermicro、gigabyte等，依据nvidia的hgx或mgx参考设计，且需经过nvidia于该ai 服务器参考架构的软硬件认证过程。nvidia藉此可整合兜售其arm cpu grace及npu或ai cloud foundation等软硬件yb体育app官方下载的解决方案。

值得注意的是，对odm或oem而言，由于预期nvidia于2023~2024年在云端服务业者的ai服务器主力市场将大有斩获，有利于拉抬整体ai服务器出货量及营收成长，但随着nvidia策略性导入hgx或mgx等标准化ai服务器架构，也使未来odm等业者将因ai server核心产品架构较趋于同质化而使彼此争取csps等订单之竞争态势更趋于白热化。此外，观察大型csps如google、aws未来有扩大导入自研asic ai加速芯片趋势，亦可能侵蚀部分nvidia gpu市场，估此亦为nvidia持续推展不同定位gpu产品及整体方案，欲进一步将ai业务积极拓展至tier-2数据中心如coreweave等及边缘enterprises客户的主因之一。