2024 年 5 月 9 日,中国上海 – Micron Technology Inc.(美光科技股份有限公司,纳斯达克股票代码:MU)近日宣布在业界率先验证并出货基于大容量 32Gb 单块 DRAM 芯片的128GB DDR5 RDIMM 内存,其速率在所有主流服务器平台上均高达 5,600 MT/s。该款 128GB DDR5 RDIMM 内存采用美光行业领先的 1β(1-beta) 制程技术,相较于采用 3DS 硅通孔(TSV)技术的竞品,容量密度提升 45% 以上,[1]能效提升高达 22%,[2]延迟降低高达 16%1。
美光与行业领先的厂商及客户合作,推动了这些高性能、大容量新模组在高吞吐量服务器 CPU 上的广泛应用。该款高速率内存模组特别针对数据中心常见的任务关键型应用,包括人工智能(AI)和机器学习(ML)、高性能计算(HPC)、内存数据库(IMDB)以及需要对多线程、多核通用计算工作负载进行高效处理的场景,满足它们的性能需求。美光 128GB DDR5 RDIMM 内存模组获得了强大的生态支持,包括 AMD、HPE、英特尔、Supermicro 等众多公司。
美光副总裁暨计算产品事业群总经理 Praveen Vaidyanathan 表示:“随着该款产品批量出货里程碑的达成,美光继续引领市场,为客户提供通过各主流 CPU 平台认证的大容量 RDIMM。目前,AI 服务器可搭载美光的 24GB 8 层堆叠 HBM3E 作为 GPU 附加内存,以及美光的 128GB RDIMM 作为 CPU 附加内存,从而提供内存密集型工作负载所需的大容量、高带宽及低功耗的基础设施。”
行业应用
AMD 高级副总裁暨服务器事业部总经理 Dan McNamara 表示:“我们与美光合作的宗旨在于,通过高性能内存来提升数据中心基础设施的能力,以应对计算密集型工作负载的需求。通过此次合作,我们共同的客户可以在搭载 AMD EPYC(霄龙)CPU 的服务器上立即体验到美光大容量 DDR5 内存带来的显著优势,从而实现现代数据中心所需的性能和效率。”
HPE 高级副总裁兼主流计算总经理 Krista Satterthwaite 表示:“在 AI 的训练、调优及推理阶段,采用先进的内存技术,并同时确保高性能和高效率,对于支持不断增长的 AI 工作负载至关重要。我们致力于提供最高性能、低功耗的解决方案,并计划通过与美光的合作,在我们的 AI 产品组合中全面采用单块高密度 DRAM,帮助企业客户获得最佳性能,应对各种工作负载。”
英特尔内存与 IO 技术副总裁 Dimitrios Ziakas 博士表示:“美光 128GB DDR5 RDIMM 内存是首款基于 32Gb 单块 DRAM 芯片的大容量 DIMM 产品,已完成第四代和第五代英特尔® 至强® 处理器平台上的内存兼容性认证。该款基于 32Gb 单块 DRAM 芯片的 DDR5 内存模组可加速关键服务器和 AI 系统配置,为基于英特尔® 至强® 处理器的系统带来关键的性能、容量和最至关重要的能效优势。我们很高兴继续与美光合作,推动创新产品在市场上的广泛应用,解决 AI 和服务器客户面临的内存容量和能耗瓶颈问题。”
Supermicro 联合创始人兼业务发展高级副总裁 Wally Liaw表示:“Supermicro 基于英伟达、AMD 和英特尔打造业界最广泛的加速服务器和解决方案组合,引领行业前行。有远见的客户正致力于在 AI 基础设施中实现大内存空间、高性能和高效率的改进。我们很高兴与美光合作,共同实现这一突破。通过搭载全新基于 32Gb 单块DRAM芯片的 128GB 内存模组,Supermicro 先进的 GPU SuperServers 将为客户提供显著的优势。”
美光 128GB DDR5 RDIMM 内存模组已开售,现可直接从美光购买,并将于 2024 年 6 月起通过全球部分渠道分销商和经销商对外供应。美光为数据中心提供全面的内存产品组合,提供涵盖 DDR5 RDIMM、MCRDIMM、MRDIMM、CXL 和 LPDDR5x 等外形规格的一系列内存产品,助力客户轻松集成这些优化的解决方案,满足 AI 和高性能计算(HPC)应用对于高带宽、大容量和低功耗的需求。
[1] 基于竞品的数据表和 JEDEC 规范。
[2] 与 SK 海力士的 5,600 MT/s 3DS TSV 产品相比,美光 5,600 MT/s 128GB DDR5 RDIMM 内存的能效提升 22.2%。
好文章,需要你的鼓励
本文探讨如何使用生成式AI和大语言模型作为倾听者,帮助用户表达内心想法。许多主流AI如ChatGPT、Claude等被设计成用户的"最佳伙伴",或试图提供心理健康建议,但有时用户只想要一个尊重的倾听者。文章提供了有效的提示词技巧,指导AI保持中性、尊重的态度,专注于倾听和理解,而非给出建议或判断。同时提醒用户注意隐私保护和AI的局限性。
北京大学团队开发出WoW世界模型,这是首个真正理解物理规律的AI系统。通过200万机器人互动数据训练,WoW不仅能生成逼真视频,更能理解重力、碰撞等物理定律。其创新的SOPHIA框架让AI具备自我纠错能力,在物理理解测试中达到80.16%准确率。该技术将推动智能机器人、视频制作等领域发展,为通用人工智能奠定重要基础。
人工通用智能和超级人工智能的出现,可能会创造出一种全新的外星智能形态。传统AI基于人类智能模式构建,但AGI和ASI一旦存在,可能会选择创造完全不同于人类认知方式的新型智能。这种外星人工智能既可能带来突破性进展,如找到癌症治愈方法,也可能存在未知风险。目前尚不确定这种新智能形态是否会超越人类智能,以及我们是否应该追求这一可能改变人类命运的技术突破。
香港大学和蚂蚁集团联合推出PromptCoT 2.0,这是一种让AI自动生成高质量训练题目的创新方法。通过"概念-思路-题目"的三步策略,AI能像老师备课一样先构思解题思路再出题,大幅提升了题目质量和训练效果。实验显示该方法在数学竞赛和编程任务上都取得了显著提升,为解决AI训练数据稀缺问题提供了新思路。