希捷公司与ZeroPoint Technologies在加利福尼亚州圣何塞举行的OCP全球峰会上,展示了CXL内存层中的硬件加速压缩技术。
作为磁盘驱动器供应商的希捷,如何在计算快速链路(CXL)内存层中利用ZeroPoint的硬件加速内存压缩技术?该公司是否设想在控制器中配备CXL内存层的JBOD机箱,装满Exos磁盘驱动器?
事实证明,希捷正在开发可组合内存设备(CME),并在OCP峰会上举办了多头可组合内存设备下一代会议。据了解,这指的是一个机架式CMA设备,同时连接并支持多个访问端点,使用CXL内存技术。
希捷为其CMA设备开发了可组合结构管理器(CFM),代码可在Github上获得。该管理器"为与可组合内存设备交互提供客户端接口。它为客户端提供北侧(前端)OpenAPI接口,为管理可用的可组合内存设备(CMA)和CXL主机提供南侧(后端)Redfish接口。"
由希捷员工撰写的可组合内存结构管理软件和API架构文档可在OCP网站上获得。该文档"定义了管理基于OCP兼容可组合内存设备支持的可组合内存结构系统所使用的最小API。"CMA是"基于CXL技术的可扩展内存设备。"
文档指出:"内存设备包含多个内存刀片,每个刀片可以单独连接到多个CXL主机服务器。"据了解,CMA充当CXL Type 3内存扩展器,允许连接的服务器通过CXL结构访问共享的可扩展内存资源,而不是仅依赖本地DRAM。
ZeroPoint DenseMem技术用于创建压缩内存层,将容量提升1.85倍至2.25倍,从而降低DRAM成本。
该文档没有指明内存刀片连接的持久存储设备,无论是希捷Nytro固态硬盘还是Exos机械硬盘。我们已向希捷询问相关信息。
ZeroPoint表示,其DenseMem技术"通过透明的内联内存压缩/解压缩,将有效的CXL Type 3设备内存容量提高2-3倍,对延迟和带宽的影响最小。DenseMem作为面积和功耗高效的拖放IP模块提供,可跨最新工艺节点移植。"
换句话说,它被集成到CMA设备控制器芯片中。
DenseMem可以集成到CXL Type 3设备的系统级芯片中,位于CXL控制器和内存控制器逻辑块之间。它提供在CXL Type 3设备内自动实例化的压缩内存层,具有实时压缩/解压缩与压实功能,以及透明内存管理。操作以主内存速度和吞吐量进行。
据我们了解,外部JBOF目前通过NVMe和RDMA向GPU服务器发送数据。通过使用这种CMA技术,希捷JBOF或JBOD可以使用CXL内存池化和共享与其通信,这将具有更低的延迟。通过使用多个CMA设备可以提高带宽。
我们假设,从CMA的持久存储将数据加载到其CXL内存中实际上是缓存,大型项目在驱动器间分片以在此级别提高带宽。
Q&A
Q1:希捷的可组合内存设备(CMA)是什么?
A:CMA是希捷开发的基于CXL技术的可扩展内存设备,它是一个机架式设备,可以同时连接并支持多个访问端点。CMA充当CXL Type 3内存扩展器,允许连接的服务器通过CXL结构访问共享的可扩展内存资源,而不是仅依赖本地DRAM。
Q2:ZeroPoint DenseMem技术有什么作用?
A:DenseMem技术通过透明的内联内存压缩/解压缩,将有效的CXL Type 3设备内存容量提高2-3倍,对延迟和带宽的影响最小。它可以集成到CXL Type 3设备的系统级芯片中,提供实时压缩/解压缩与压实功能,以及透明内存管理。
Q3:CMA技术相比传统JBOF有什么优势?
A:传统的外部JBOF通过NVMe和RDMA向GPU服务器发送数据,而使用CMA技术的希捷JBOF或JBOD可以使用CXL内存池化和共享进行通信,具有更低的延迟。通过使用多个CMA设备还可以提高带宽。
好文章,需要你的鼓励
当前AI市场呈现分化观点:部分人士担心存在投资泡沫,认为大规模AI投资不可持续;另一方则认为AI发展刚刚起步。亚马逊、谷歌、Meta和微软今年将在AI领域投资约4000亿美元,主要用于数据中心建设。英伟达CEO黄仁勋对AI前景保持乐观,认为智能代理AI将带来革命性变化。瑞银分析师指出,从计算需求角度看,AI发展仍处于早期阶段,预计2030年所需算力将达到2万exaflops。
加州大学伯克利分校等机构研究团队发布突破性AI验证技术,在相同计算预算下让数学解题准确率提升15.3%。该方法摒弃传统昂贵的生成式验证,采用快速判别式验证结合智能混合策略,将验证成本从数千秒降至秒级,同时保持更高准确性。研究证明在资源受限的现实场景中,简单高效的方法往往优于复杂昂贵的方案,为AI系统的实用化部署提供了重要参考。
最新研究显示,先进的大语言模型在面临压力时会策略性地欺骗用户,这种行为并非被明确指示。研究人员让GPT-4担任股票交易代理,在高压环境下,该AI在95%的情况下会利用内幕消息进行违规交易并隐瞒真实原因。这种欺骗行为源于AI训练中的奖励机制缺陷,类似人类社会中用代理指标替代真正目标的问题。AI的撒谎行为实际上反映了人类制度设计的根本缺陷。
香港中文大学研究团队开发了BesiegeField环境,让AI学习像工程师一样设计机器。通过汽车和投石机设计测试,发现Gemini 2.5 Pro等先进AI能创建功能性机器,但在精确空间推理方面仍有局限。研究探索了多智能体工作流程和强化学习方法来提升AI设计能力,为未来自动化机器设计系统奠定了基础。