辉达执行长黄仁勋今日在拉斯维加斯举行全球记者会，被问及AI基础建设和AI工厂，需求很多记忆体，辉达是否考虑自己盖记忆体工厂，黄仁勋强调辉达已是全球最大记忆体买家，且是家晶片设计公司，未来会持续采购最先进的记忆体，不会去碰制造。他并强调，最近记忆体严重缺货， 需求旺盛，是因AI快速发展带来产业结构大调整，是最主要关键。
随著生成式 AI 与大型模型需求激增，黄仁勋今日特别解析AI基础建设快速扩张，正显著影响全球记忆体供应链。他说，辉达作为全球最大记忆体买家之一，直接与主要供应商合作，不仅加速高阶记忆体（如 HBM4）的开发，也间接推动半导体产业扩产与技术升级。
他解释，AI 模型规模每年以约 10 倍速度增长，而生成的 token 数量也每年增加约 5 倍，这意味著运算需求与资料吞吐量呈指数式上升。为应对如此庞大的计算量，NVIDIA 投入大量资源建构「AI 工厂」，包括最新 GPU、CPU、网路与储存系统。AI 基础设施不再只是单纯的资料中心，而是一种全新的运算与储存平台，对记忆体产业提出前所未有的需求挑战。
黄仁勋指出，HBM4 作为高频宽记忆体，短期内几乎只有辉达使用，目的是使新型资料中心部署中享有「主要、甚至唯一」的使用者优势。他提到，除了HBM4外，供应商（指SK海力士、三星及美光）已开始扩产以满足需求，包括 GDDR、LPDDR5 以及用于上下文记忆的专用工作记忆体。这种长期直接采购模式，不仅确保辉达的运算堆叠稳定，也让整个记忆体产业有明确扩张方向与技术标准。
黄仁勋强调，这场结构性变革对产业影响深远。AI 工厂需要庞大记忆体容量与高带宽存取能力，以支援模型训练、推理及长期上下文管理。随著资料中心规模从百万颗 GPU 扩展至数百万颗，单位运算所需记忆体与频宽需求激增，供应商必须提前布局产能，避免出现瓶颈。
此外，黄仁勋指出，AI 基础建设改变了传统资料中心对储存架构的要求。BlueField 4 介面与 Vera Rubin 系统设计，使资料中心能将长期记忆与工作记忆更紧密整合，提升吞吐量与能源效率。他认为，AI工厂将带动储存、记忆体及网路晶片协同升级，整体产业链将进入高速扩张期。
他还提到，由于AI 基础建设的特殊需求，传统半导体制程与记忆体技术面临前所未有挑战。辉达与供应商必须协同规划，确保每一代晶片、记忆体与网路设备的兼容性与效率。这种高水准合作模式，也让辉达能快速推出下一代 Vera Rubin 系统，支撑大型模型与生成式 AI 应用的持续增长。
黄仁勋认为，AI基础建设的快速扩张正重新定义记忆体产业角色：高阶记忆体需求大幅增加，供应链快速扩产与技术升级，整个半导体产业正被推向新的成长周期。随著生成式AI 与大型模型持续普及，记忆体产业将成为支撑新一代计算平台的核心基础，全球供应链正面临前所未有的机会与挑战。 $(document).ready(function () {nstockStoryStockInfo();});