但截至目前,将存储与计算相融合的技术尚未大范围流行。
NVM Express联盟日前更新规范,希望引入计算存储功能以建立新的标准化方式,在应用程序与包含特定处理功能的存储设备之间建立通信机制。
NVM Express(下文简称「该组织」)负责监督通过主机PCIe总线使用固态硬盘(SSD)的NVMe规范,而新加入的计算存储功能将进一步扩展规范以支持NVMe计算存储设备。
此番支持涵盖两套新的NVMe命令集:其一用于计算程序,其二用于子系统本地内存命令。两套命令集现在均可从NVM Express官方网站处下载。
其中计算程序命令集将使NVMe设备能够对NVM子系统中的数据执行操作,使用各项命令管理设备上的计算活动。
另一方面,子系统本地内存命令则允许通过NVMe I/O命令访问NVM子系统中的本地内存,可通过各项命令实现用户数据读取/写入以及将用户数据复制到设备本地内存等操作。
计算存储技术的核心,在于将计算与存储紧密耦合的新型架构。这种架构的优势,主要在于将处理能力嵌入至SSD等存储设备以减少数据移动需求。如此一来,数据库和AI处理等延迟关键型应用的响应速度将显著提升。
NVMe计算存储任务组联席主席Bill Martin在回应采访的声明中表示,“NVM Express计算存储是我们向企业和超大规模数据中心伸出援手,满足存储行业不断变化的现实需求的重要举措。”Martin本人还担任三星电子负责SSD IO标准的首席工程师。
“计算存储是一种标准化方法,将建立起开放且可互操作的生态系统。通过将计算任务移交至存储设备,我们预计相关行业的总体拥有成本将有所降低、整体性能也将随之提升。”
三星是目前制造计算存储驱动器(产品名称为SmartSSD)的参与厂商之一。
在与英特尔存储软件架构师Kim Malone共同撰写的博文中,Martin解释了数据集规模的增加如何在网络带宽用量、主机内存和CPU利用率等层面引发性能瓶颈。而计算存储技术又如何经由NVMe设备将部分数据处理任务从主机上转移出来,有效解决这个问题。
博文指出,“通过减少计算过程中所需的数据传输量,系统能够为关键数据应用提供更快的响应速度。”
“此外,通过将计算任务转移至NVMe设备,计算存储技术还有助于释放整个系统的架构利用率,降低数据中心环境的总体拥有成本。”
但根据技术媒体Blocks & Files最近的报道,计算存储技术截至目前并未得到市场的广泛接纳。而其中一大原因,就是与系统主机处理器(通常是FPGA或者少量Arm核心)相比,存储设备中嵌入的计算容量太过孱弱。
计算存储SSD的典型应用,往往侧重于承担压缩/解压缩、纠删码以及加速数据库等场景下的键值操作。
目前还不清楚新的NVM Express规范能否或者如何与存储网络行业协会(SNIA)定义的计算存储架构与编程模型相兼容。
不到一年之前,SNIA刚刚发布上述规范的1.0版本。文件定义了相关概念,旨在为应用程序提供通用编程模型,用以发现并使用附加至计算机系统的一切计算存储资源。
好文章,需要你的鼓励
苏州大学研究团队提出"语境降噪训练"新方法,通过"综合梯度分数"识别长文本中的关键信息,在训练时强化重要内容、抑制干扰噪音。该技术让80亿参数的开源模型在长文本任务上达到GPT-4o水平,训练效率比传统方法高出40多倍。研究解决了AI处理长文档时容易被无关信息干扰的核心问题,为文档分析、法律研究等应用提供重要突破。
在Cloudera的“价值观”中,企业智能化的根基可以被概括为两个字:“源”与“治”——让数据有源,智能可治。
清华大学团队首次揭示了困扰AI训练领域超过两年的"幽灵故障"根本原因:Flash Attention在BF16精度下训练时会因数字舍入偏差与低秩矩阵结构的交互作用导致训练崩溃。研究团队通过深入分析发现问题源于注意力权重为1时的系统性舍入误差累积,并提出了动态最大值调整的解决方案,成功稳定了训练过程。这项研究不仅解决了实际工程问题,更为分析类似数值稳定性挑战提供了重要方法论。