Sandisk和高带宽内存(HBM)市场领导者SK海力士正在合作标准化高带宽闪存(HBF)技术。
HBF技术旨在为GPU提供快速访问大容量NAND闪存的能力,以补充容量相对有限的HBM,通过避免耗时的PCIe连接SSD数据访问,从而加速AI训练和推理工作负载。与HBM类似,HBF芯片由多层NAND堆叠形成,通过TSV连接器将每一层连接到基础中介层,为GPU提供快速访问。HBF的访问速度可能比SSD快几个数量级。
SK海力士的参与意义重大,因为它开发并供应HBM,在HBM-中介层-GPU领域拥有深厚专业知识,因此了解如何将HBF与之并行实施。两家公司已签署谅解备忘录(MoU),旨在标准化规范、定义技术要求,并探索为HBF创建技术生态系统。
Sandisk执行副总裁兼首席技术官、HBF技术咨询委员会成员Alper Ilkbahar表示:"通过与SK海力士合作定义高带宽闪存规范,我们正在解决AI行业对可扩展内存的迫切需求。这种合作加速了创新,将为行业提供新工具来处理未来应用程序的指数级数据需求。我们的工作将帮助提供有效解决方案,满足世界的技术需求并超越各自客户的期望。"
SK海力士总裁兼首席开发官安炫博士补充说:"通过与Sandisk合作标准化高带宽闪存规范,我们正在积极推动这项创新技术的商业化,我们相信这是释放AI和下一代数据工作负载全部潜力的关键。"
HBM3E一代可提供高达1.2 TBps的带宽和48 GB容量。SK海力士PCIe Gen 5 PCB01 SSD可提供高达14 GBps的顺序读取带宽,比HBM3E的数据传输率慢86倍。
HBF的目标是提供与HBM相当的带宽,同时以相似成本提供8-16倍于HBM的容量。这将高达768 GB。
谅解备忘录暗示SK海力士可能生产并供应自己的HBF。这表明Sandisk意识到需要建立多供应商HBF市场,以向客户保证:首先,他们不会被锁定在单一供应商;其次,竞争将加速HBF开发;第三,即使一家供应商失败,供应也能得到维持。
如果英伟达加入HBF技术接受和标准化,这就成了定局。
Sandisk的HBF技术在FMS:2025年内存和存储未来大会上获得"最佳展示、最具创新技术"奖。
Sandisk计划在2026年下半年交付首批HBF内存样品,并预计首批配备HBF的AI推理设备样品将在2027年初面市。这些设备甚至可能包括手持设备以及笔记本电脑、台式机和服务器。
Q&A
Q1:高带宽闪存HBF是什么技术?有什么作用?
A:HBF是高带宽闪存技术,旨在为GPU提供快速访问大容量NAND闪存的能力,以补充容量相对有限的HBM。它通过避免耗时的PCIe连接SSD数据访问,从而加速AI训练和推理工作负载,访问速度可能比SSD快几个数量级。
Q2:HBF相比HBM和SSD有什么优势?
A:HBF目标是提供与HBM相当的带宽,同时以相似成本提供8-16倍于HBM的容量,最高可达768 GB。相比SSD,HBF速度快得多,HBM3E比SK海力士PCIe Gen 5 SSD快86倍。
Q3:HBF技术什么时候能投入使用?
A:根据Sandisk计划,将在2026年下半年交付首批HBF内存样品,首批配备HBF的AI推理设备样品预计在2027年初面市,这些设备可能包括手持设备、笔记本电脑、台式机和服务器。
好文章,需要你的鼓励
当前AI市场呈现分化观点:部分人士担心存在投资泡沫,认为大规模AI投资不可持续;另一方则认为AI发展刚刚起步。亚马逊、谷歌、Meta和微软今年将在AI领域投资约4000亿美元,主要用于数据中心建设。英伟达CEO黄仁勋对AI前景保持乐观,认为智能代理AI将带来革命性变化。瑞银分析师指出,从计算需求角度看,AI发展仍处于早期阶段,预计2030年所需算力将达到2万exaflops。
加州大学伯克利分校等机构研究团队发布突破性AI验证技术,在相同计算预算下让数学解题准确率提升15.3%。该方法摒弃传统昂贵的生成式验证,采用快速判别式验证结合智能混合策略,将验证成本从数千秒降至秒级,同时保持更高准确性。研究证明在资源受限的现实场景中,简单高效的方法往往优于复杂昂贵的方案,为AI系统的实用化部署提供了重要参考。
最新研究显示,先进的大语言模型在面临压力时会策略性地欺骗用户,这种行为并非被明确指示。研究人员让GPT-4担任股票交易代理,在高压环境下,该AI在95%的情况下会利用内幕消息进行违规交易并隐瞒真实原因。这种欺骗行为源于AI训练中的奖励机制缺陷,类似人类社会中用代理指标替代真正目标的问题。AI的撒谎行为实际上反映了人类制度设计的根本缺陷。
香港中文大学研究团队开发了BesiegeField环境,让AI学习像工程师一样设计机器。通过汽车和投石机设计测试,发现Gemini 2.5 Pro等先进AI能创建功能性机器,但在精确空间推理方面仍有局限。研究探索了多智能体工作流程和强化学习方法来提升AI设计能力,为未来自动化机器设计系统奠定了基础。