希捷公司与ZeroPoint Technologies在加利福尼亚州圣何塞举行的OCP全球峰会上,展示了CXL内存层中的硬件加速压缩技术。
作为磁盘驱动器供应商的希捷,如何在计算快速链路(CXL)内存层中利用ZeroPoint的硬件加速内存压缩技术?该公司是否设想在控制器中配备CXL内存层的JBOD机箱,装满Exos磁盘驱动器?
事实证明,希捷正在开发可组合内存设备(CME),并在OCP峰会上举办了多头可组合内存设备下一代会议。据了解,这指的是一个机架式CMA设备,同时连接并支持多个访问端点,使用CXL内存技术。
希捷为其CMA设备开发了可组合结构管理器(CFM),代码可在Github上获得。该管理器"为与可组合内存设备交互提供客户端接口。它为客户端提供北侧(前端)OpenAPI接口,为管理可用的可组合内存设备(CMA)和CXL主机提供南侧(后端)Redfish接口。"
由希捷员工撰写的可组合内存结构管理软件和API架构文档可在OCP网站上获得。该文档"定义了管理基于OCP兼容可组合内存设备支持的可组合内存结构系统所使用的最小API。"CMA是"基于CXL技术的可扩展内存设备。"
文档指出:"内存设备包含多个内存刀片,每个刀片可以单独连接到多个CXL主机服务器。"据了解,CMA充当CXL Type 3内存扩展器,允许连接的服务器通过CXL结构访问共享的可扩展内存资源,而不是仅依赖本地DRAM。
ZeroPoint DenseMem技术用于创建压缩内存层,将容量提升1.85倍至2.25倍,从而降低DRAM成本。
该文档没有指明内存刀片连接的持久存储设备,无论是希捷Nytro固态硬盘还是Exos机械硬盘。我们已向希捷询问相关信息。
ZeroPoint表示,其DenseMem技术"通过透明的内联内存压缩/解压缩,将有效的CXL Type 3设备内存容量提高2-3倍,对延迟和带宽的影响最小。DenseMem作为面积和功耗高效的拖放IP模块提供,可跨最新工艺节点移植。"
换句话说,它被集成到CMA设备控制器芯片中。
DenseMem可以集成到CXL Type 3设备的系统级芯片中,位于CXL控制器和内存控制器逻辑块之间。它提供在CXL Type 3设备内自动实例化的压缩内存层,具有实时压缩/解压缩与压实功能,以及透明内存管理。操作以主内存速度和吞吐量进行。
据我们了解,外部JBOF目前通过NVMe和RDMA向GPU服务器发送数据。通过使用这种CMA技术,希捷JBOF或JBOD可以使用CXL内存池化和共享与其通信,这将具有更低的延迟。通过使用多个CMA设备可以提高带宽。
我们假设,从CMA的持久存储将数据加载到其CXL内存中实际上是缓存,大型项目在驱动器间分片以在此级别提高带宽。
Q&A
Q1:希捷的可组合内存设备(CMA)是什么?
A:CMA是希捷开发的基于CXL技术的可扩展内存设备,它是一个机架式设备,可以同时连接并支持多个访问端点。CMA充当CXL Type 3内存扩展器,允许连接的服务器通过CXL结构访问共享的可扩展内存资源,而不是仅依赖本地DRAM。
Q2:ZeroPoint DenseMem技术有什么作用?
A:DenseMem技术通过透明的内联内存压缩/解压缩,将有效的CXL Type 3设备内存容量提高2-3倍,对延迟和带宽的影响最小。它可以集成到CXL Type 3设备的系统级芯片中,提供实时压缩/解压缩与压实功能,以及透明内存管理。
Q3:CMA技术相比传统JBOF有什么优势?
A:传统的外部JBOF通过NVMe和RDMA向GPU服务器发送数据,而使用CMA技术的希捷JBOF或JBOD可以使用CXL内存池化和共享进行通信,具有更低的延迟。通过使用多个CMA设备还可以提高带宽。
好文章,需要你的鼓励
AI颠覆预计将在2026年持续,推动企业适应不断演进的技术并扩大规模。国际奥委会、Moderna和Sportradar的领导者在纽约路透社峰会上分享了他们的AI策略。讨论焦点包括自建AI与购买第三方资源的选择,AI在内部流程优化和外部产品开发中的应用,以及小型模型在日常应用中的潜力。专家建议,企业应将AI建设融入企业文化,以创新而非成本节约为驱动力。
字节跳动等机构联合发布GAR技术,让AI能同时理解图像的全局和局部信息,实现对多个区域间复杂关系的准确分析。该技术通过RoI对齐特征重放方法,在保持全局视野的同时提取精确细节,在多项测试中表现出色,甚至在某些指标上超越了体积更大的模型,为AI视觉理解能力带来重要突破。
Spotify在新西兰测试推出AI提示播放列表功能,用户可通过文字描述需求让AI根据指令和听歌历史生成个性化播放列表。该功能允许用户设置定期刷新,相当于创建可控制算法的每周发现播放列表。这是Spotify赋予用户更多控制权努力的一部分,此前其AI DJ功能也增加了语音提示选项,反映了各平台让用户更好控制算法推荐的趋势。
Inclusion AI团队推出首个开源万亿参数思维模型Ring-1T,通过IcePop、C3PO++和ASystem三项核心技术突破,解决了超大规模强化学习训练的稳定性和效率难题。该模型在AIME-2025获得93.4分,IMO-2025达到银牌水平,CodeForces获得2088分,展现出卓越的数学推理和编程能力,为AI推理能力发展树立了新的里程碑。