Volumez 已更新其面向容器化应用的云端块存储配置服务,通过其数据基础设施即服务 (DIaaS) 产品来支持生成式 AI。
该公司表示,其技术可以最大化 GPU 利用率并实现 AI 和机器学习 (ML) 流水线的自动化。现有的数据传输和 AI/ML 基础设施部署流程常常受到存储效率低下、GPU 利用率不足、资源过度配置、系统性能不平衡、成本增加、管理复杂以及工具集成度差等问题的影响,这些都会消耗 AI 团队的带宽并延迟项目进度。
Volumez 的首席产品和业务官 John Blumenthal 在 1 月份硅谷举行的 IT Press Tour 会议上指出,AI/生成式 AI 工作负载需要在密集的基础设施中集中计算和存储能力。这样可以在减少硬件扩张的同时实现可持续性、成本效益和能源优化。
Volumez DIaaS 建立在对云服务提供商基础设施即服务 (IaaS) 产品的深入理解之上,旨在为 AI 工作负载创建均衡的基础设施。这包括基于声明式和组合式 NVMe/TCP 实例的存储基础设施。它使用 Linux 内置服务,且数据路径中没有存储控制器。
背景是像 AWS 和 Azure 这样的公有云出租计算和存储资源,它们并不会主动优化客户如何高效均匀地使用这些资源。Volumez 通过在公有云优化自身资源与客户需求之间的区域运营来盈利,帮助客户从性能、成本和简单运维方面优化这些资源的使用效率。
如图表所示,Volumez 为其块存储提供了比 AWS 实例更好的性价比:
它可以从数据科学家的笔记本电脑上设置 AWS 或 Azure 数据基础设施,将 Volumez 作为 PyTorch 库导入并自动计算存储基础设施需求。
Volumez 表示,MLPerf Storage 基准测试显示其基础设施表现良好。
Blumenthal 表示,AI 工作负载需要在可承受的成本下平衡高容量、高带宽和高性能,他声称 Volumez 可以做到这一点。他表示这提高了 GPU 利用率 - 减少了数据等待时间 - 从而提升了基础设施的训练和推理效率。
好文章,需要你的鼓励
CPU架构讨论常聚焦于不同指令集的竞争,但实际上在单一系统中使用多种CPU架构已成常态。x86、Arm和RISC-V各有优劣,AI技术的兴起更推动了对性能功耗比的极致需求。当前x86仍主导PC和服务器市场,Arm凭借庞大生态系统在移动和嵌入式领域领先,RISC-V作为开源架构展现巨大潜力。未来芯片设计将更多采用异构计算,多种架构协同工作成为趋势。
KAIST AI团队通过深入分析视频生成AI的内部机制,发现了负责交互理解的关键层,并开发出MATRIX框架来专门优化这些层。该技术通过语义定位对齐和语义传播对齐两个组件,显著提升了AI对"谁对谁做了什么"的理解能力,在交互准确性上提升约30%,为AI视频生成的实用化应用奠定了重要基础。
Vast Data与云计算公司CoreWeave签署了价值11.7亿美元的多年期软件许可协议,这标志着AI基础设施存储市场的重要转折点。该协议涵盖Vast Data的通用存储层及高级数据平台服务,将帮助CoreWeave提供更全面的AI服务。业内专家认为,随着AI集群规模不断扩大,存储系统在AI基础设施中的占比可能从目前的1.9%提升至3-5%,未来五年全球AI存储市场规模将达到900亿至2000亿美元。
乔治亚理工学院和微软研究团队提出了NorMuon优化器,通过结合Muon的正交化技术与神经元级自适应学习率,在1.1B参数模型上实现了21.74%的训练效率提升。该方法同时保持了Muon的内存优势,相比Adam节省约50%内存使用量,并开发了高效的FSDP2分布式实现,为大规模AI模型训练提供了实用的优化方案。