但截至目前,将存储与计算相融合的技术尚未大范围流行。
NVM Express联盟日前更新规范,希望引入计算存储功能以建立新的标准化方式,在应用程序与包含特定处理功能的存储设备之间建立通信机制。
NVM Express(下文简称「该组织」)负责监督通过主机PCIe总线使用固态硬盘(SSD)的NVMe规范,而新加入的计算存储功能将进一步扩展规范以支持NVMe计算存储设备。
此番支持涵盖两套新的NVMe命令集:其一用于计算程序,其二用于子系统本地内存命令。两套命令集现在均可从NVM Express官方网站处下载。
其中计算程序命令集将使NVMe设备能够对NVM子系统中的数据执行操作,使用各项命令管理设备上的计算活动。
另一方面,子系统本地内存命令则允许通过NVMe I/O命令访问NVM子系统中的本地内存,可通过各项命令实现用户数据读取/写入以及将用户数据复制到设备本地内存等操作。
计算存储技术的核心,在于将计算与存储紧密耦合的新型架构。这种架构的优势,主要在于将处理能力嵌入至SSD等存储设备以减少数据移动需求。如此一来,数据库和AI处理等延迟关键型应用的响应速度将显著提升。
NVMe计算存储任务组联席主席Bill Martin在回应采访的声明中表示,“NVM Express计算存储是我们向企业和超大规模数据中心伸出援手,满足存储行业不断变化的现实需求的重要举措。”Martin本人还担任三星电子负责SSD IO标准的首席工程师。
“计算存储是一种标准化方法,将建立起开放且可互操作的生态系统。通过将计算任务移交至存储设备,我们预计相关行业的总体拥有成本将有所降低、整体性能也将随之提升。”
三星是目前制造计算存储驱动器(产品名称为SmartSSD)的参与厂商之一。
在与英特尔存储软件架构师Kim Malone共同撰写的博文中,Martin解释了数据集规模的增加如何在网络带宽用量、主机内存和CPU利用率等层面引发性能瓶颈。而计算存储技术又如何经由NVMe设备将部分数据处理任务从主机上转移出来,有效解决这个问题。
博文指出,“通过减少计算过程中所需的数据传输量,系统能够为关键数据应用提供更快的响应速度。”
“此外,通过将计算任务转移至NVMe设备,计算存储技术还有助于释放整个系统的架构利用率,降低数据中心环境的总体拥有成本。”
但根据技术媒体Blocks & Files最近的报道,计算存储技术截至目前并未得到市场的广泛接纳。而其中一大原因,就是与系统主机处理器(通常是FPGA或者少量Arm核心)相比,存储设备中嵌入的计算容量太过孱弱。
计算存储SSD的典型应用,往往侧重于承担压缩/解压缩、纠删码以及加速数据库等场景下的键值操作。
目前还不清楚新的NVM Express规范能否或者如何与存储网络行业协会(SNIA)定义的计算存储架构与编程模型相兼容。
不到一年之前,SNIA刚刚发布上述规范的1.0版本。文件定义了相关概念,旨在为应用程序提供通用编程模型,用以发现并使用附加至计算机系统的一切计算存储资源。
好文章,需要你的鼓励
Lumen Technologies对美国网络的数据中心和云连接进行重大升级,在16个高连接城市的70多个第三方数据中心提供高达400Gbps以太网和IP服务。该光纤网络支持客户按需开通服务,几分钟内完成带宽配置,最高可扩展至400Gbps且按使用量付费。升级后的网络能够轻松连接数据中心和云接入点,扩展企业应用,并应对AI和数据密集型需求波动。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
RtBrick研究警告,运营商面临AI和流媒体服务带宽需求"压倒性"风险。调查显示87%运营商预期客户将要求更高宽带速度,但81%承认现有架构无法应对下一波AI和流媒体流量。84%反映客户期望已超越网络能力。尽管91%愿意投资分解式网络,95%计划五年内部署,但仅2%正在实施。主要障碍包括领导层缺乏决策支持、运营转型复杂性和专业技能短缺。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。