IBM正在为Storage Scale规划“Hyperstore”升级方案,希望借助NVMe over Fabrics加快远程驱动器上的数据获取速度。
Storage Scale是IBM旗下备受推崇的GPFS(通用并行文件系统)的最新版本,其通过各文件系统节点(即服务器)的并行运行以加快文件读写速度。NVMe over Fabrics(简称NVMe-OF)是一种协议,可有效扩展PCIe总线并跨TCP/IP、光纤通道、iSCSI和以太网网络链路运行,为目标服务器提供直接的块级存储驱动器访问。
IBM公司IT架构师Frank Kraemer认为,Tom Lyon在《NFS必须消亡(NFS must die)》一文中表达的观点“非常酷”,并表示“我们打算使用NVMe-oF来提高速度,但仍将保留文件系统接口及Erasure Coding(GPFS Native Raid,简称GNR)的传统方式以实现易用性与安全操作。”
这些计划均以Storage Scale上的Hyperstore功能为中心,由其负责提供NVMe-oF性能池。
在高性能计算(HPC)用户论坛上,IBM发布的演示文稿《IBM供应商更新——存储篇》也提到了这一概念。IBM数据与AI存储解决方案部门存储文件与对象系统首席架构师Chris Maestas表示,在混合和多云世界中数据可谓无处不在,而基于CPU和GPU的算力都希望能像访问本地数据那样访问远程数据。
Storage Scale主要通过提供存储访问、使用单一全局命名空间抽象以及加速等方式达成这一目标,具体如以下页面所示:
在谈到AI工作负载与GPU时,他表示管理员可以拉近远程数据与计算资源之间的距离,使用NVMe-oF模拟GPU计算节点上的本地存储。这一设计原则在SC22大会上也得到了展示,IBM打造的配备SSD的ESS 3500能够为计算客户端提供超过1000万IOPS的吞吐量及数百GBps的传输带宽。为此,该系统还集成有IOPS极高的存储池。
这也正是Hyperstore的起点:
Hyperstore上周于伦敦面向Spectrum Scale User Group首次亮相。这是一套分层系统,Storage Scale使用GNR(native declustered RAID)、性能池与客户端计算节点上的本地驱动器,共同提供可靠的中间存储池。
其使用网络共享磁盘(NSD)访问这套可靠存储池,NSD是文件存储系统网络上存储磁盘的逻辑分组。Storage Scale会对各NSD服务器上的文件进行切片,再将各切片存储为数据块。访问客户端则对各NSD服务器执行实时并行IO。
性能池驱动器属于可靠池驱动器中的子集,使用速度更快的NVMe-oF进行访问,且全部计算节点共享统一的缓存。
关于Hyperstore的更多细节将在未来几个月内公布。
好文章,需要你的鼓励
CoreWeave发布AI对象存储服务,采用本地对象传输加速器(LOTA)技术,可在全球范围内高速传输对象数据,无出口费用或请求交易分层费用。该技术通过智能代理在每个GPU节点上加速数据传输,提供高达每GPU 7 GBps的吞吐量,可扩展至数十万个GPU。服务采用三层自动定价模式,为客户的AI工作负载降低超过75%的存储成本。
IDEA研究院等机构联合开发了ToG-3智能推理系统,通过多智能体协作和双重进化机制,让AI能像人类专家团队一样动态思考和学习。该系统在复杂推理任务上表现优异,能用较小模型达到卓越性能,为AI技术的普及应用开辟了新路径,在教育、医疗、商业决策等领域具有广阔应用前景。
谷歌DeepMind与核聚变初创公司CFS合作,运用先进AI模型帮助管理和改进即将发布的Sparc反应堆。DeepMind开发了名为Torax的专用软件来模拟等离子体,结合强化学习等AI技术寻找最佳核聚变控制方式。核聚变被视为清洁能源的圣杯,可提供几乎无限的零碳排放能源。谷歌已投资CFS并承诺购买其200兆瓦电力。
上海人工智能实验室提出SPARK框架,创新性地让AI模型在学习推理的同时学会自我评判,通过回收训练数据建立策略与奖励的协同进化机制。实验显示,该方法在数学推理、奖励评判和通用能力上分别提升9.7%、12.1%和1.5%,且训练成本仅为传统方法的一半,展现出强大的泛化能力和自我反思能力。