2024 年 5 月 9 日,中国上海 – Micron Technology Inc.(美光科技股份有限公司,纳斯达克股票代码:MU)近日宣布在业界率先验证并出货基于大容量 32Gb 单块 DRAM 芯片的128GB DDR5 RDIMM 内存,其速率在所有主流服务器平台上均高达 5,600 MT/s。该款 128GB DDR5 RDIMM 内存采用美光行业领先的 1β(1-beta) 制程技术,相较于采用 3DS 硅通孔(TSV)技术的竞品,容量密度提升 45% 以上,[1]能效提升高达 22%,[2]延迟降低高达 16%1。
美光与行业领先的厂商及客户合作,推动了这些高性能、大容量新模组在高吞吐量服务器 CPU 上的广泛应用。该款高速率内存模组特别针对数据中心常见的任务关键型应用,包括人工智能(AI)和机器学习(ML)、高性能计算(HPC)、内存数据库(IMDB)以及需要对多线程、多核通用计算工作负载进行高效处理的场景,满足它们的性能需求。美光 128GB DDR5 RDIMM 内存模组获得了强大的生态支持,包括 AMD、HPE、英特尔、Supermicro 等众多公司。
美光副总裁暨计算产品事业群总经理 Praveen Vaidyanathan 表示:“随着该款产品批量出货里程碑的达成,美光继续引领市场,为客户提供通过各主流 CPU 平台认证的大容量 RDIMM。目前,AI 服务器可搭载美光的 24GB 8 层堆叠 HBM3E 作为 GPU 附加内存,以及美光的 128GB RDIMM 作为 CPU 附加内存,从而提供内存密集型工作负载所需的大容量、高带宽及低功耗的基础设施。”
行业应用
AMD 高级副总裁暨服务器事业部总经理 Dan McNamara 表示:“我们与美光合作的宗旨在于,通过高性能内存来提升数据中心基础设施的能力,以应对计算密集型工作负载的需求。通过此次合作,我们共同的客户可以在搭载 AMD EPYC(霄龙)CPU 的服务器上立即体验到美光大容量 DDR5 内存带来的显著优势,从而实现现代数据中心所需的性能和效率。”
HPE 高级副总裁兼主流计算总经理 Krista Satterthwaite 表示:“在 AI 的训练、调优及推理阶段,采用先进的内存技术,并同时确保高性能和高效率,对于支持不断增长的 AI 工作负载至关重要。我们致力于提供最高性能、低功耗的解决方案,并计划通过与美光的合作,在我们的 AI 产品组合中全面采用单块高密度 DRAM,帮助企业客户获得最佳性能,应对各种工作负载。”
英特尔内存与 IO 技术副总裁 Dimitrios Ziakas 博士表示:“美光 128GB DDR5 RDIMM 内存是首款基于 32Gb 单块 DRAM 芯片的大容量 DIMM 产品,已完成第四代和第五代英特尔® 至强® 处理器平台上的内存兼容性认证。该款基于 32Gb 单块 DRAM 芯片的 DDR5 内存模组可加速关键服务器和 AI 系统配置,为基于英特尔® 至强® 处理器的系统带来关键的性能、容量和最至关重要的能效优势。我们很高兴继续与美光合作,推动创新产品在市场上的广泛应用,解决 AI 和服务器客户面临的内存容量和能耗瓶颈问题。”
Supermicro 联合创始人兼业务发展高级副总裁 Wally Liaw表示:“Supermicro 基于英伟达、AMD 和英特尔打造业界最广泛的加速服务器和解决方案组合,引领行业前行。有远见的客户正致力于在 AI 基础设施中实现大内存空间、高性能和高效率的改进。我们很高兴与美光合作,共同实现这一突破。通过搭载全新基于 32Gb 单块DRAM芯片的 128GB 内存模组,Supermicro 先进的 GPU SuperServers 将为客户提供显著的优势。”
美光 128GB DDR5 RDIMM 内存模组已开售,现可直接从美光购买,并将于 2024 年 6 月起通过全球部分渠道分销商和经销商对外供应。美光为数据中心提供全面的内存产品组合,提供涵盖 DDR5 RDIMM、MCRDIMM、MRDIMM、CXL 和 LPDDR5x 等外形规格的一系列内存产品,助力客户轻松集成这些优化的解决方案,满足 AI 和高性能计算(HPC)应用对于高带宽、大容量和低功耗的需求。
[1] 基于竞品的数据表和 JEDEC 规范。
[2] 与 SK 海力士的 5,600 MT/s 3DS TSV 产品相比,美光 5,600 MT/s 128GB DDR5 RDIMM 内存的能效提升 22.2%。
好文章,需要你的鼓励
Meta与特拉维夫大学联合研发的VideoJAM技术,通过让AI同时学习外观和运动信息,显著解决了当前视频生成模型中动作不连贯、违反物理定律的核心问题。该技术仅需添加两个线性层就能大幅提升运动质量,在多项测试中超越包括Sora在内的商业模型,为AI视频生成的实用化应用奠定了重要基础。
数据分析平台公司Databricks完成10亿美元K轮融资,公司估值超过1000亿美元,累计融资总额超过200亿美元。公司第二季度收入运营率达到40亿美元,同比增长50%,AI产品收入运营率超过10亿美元。超过650家客户年消费超过100万美元,净收入留存率超过140%。资金将用于扩展Agent Bricks和Lakebase业务及全球扩张。
上海AI实验室发布OmniAlign-V研究,首次系统性解决多模态大语言模型人性化对话问题。该研究创建了包含20万高质量样本的训练数据集和MM-AlignBench评测基准,通过创新的数据生成和质量管控方法,让AI在保持技术能力的同时显著提升人性化交互水平,为AI价值观对齐提供了可行技术路径。