Volumez 已更新其面向容器化应用的云端块存储配置服务,通过其数据基础设施即服务 (DIaaS) 产品来支持生成式 AI。
该公司表示,其技术可以最大化 GPU 利用率并实现 AI 和机器学习 (ML) 流水线的自动化。现有的数据传输和 AI/ML 基础设施部署流程常常受到存储效率低下、GPU 利用率不足、资源过度配置、系统性能不平衡、成本增加、管理复杂以及工具集成度差等问题的影响,这些都会消耗 AI 团队的带宽并延迟项目进度。
Volumez 的首席产品和业务官 John Blumenthal 在 1 月份硅谷举行的 IT Press Tour 会议上指出,AI/生成式 AI 工作负载需要在密集的基础设施中集中计算和存储能力。这样可以在减少硬件扩张的同时实现可持续性、成本效益和能源优化。
Volumez DIaaS 建立在对云服务提供商基础设施即服务 (IaaS) 产品的深入理解之上,旨在为 AI 工作负载创建均衡的基础设施。这包括基于声明式和组合式 NVMe/TCP 实例的存储基础设施。它使用 Linux 内置服务,且数据路径中没有存储控制器。
背景是像 AWS 和 Azure 这样的公有云出租计算和存储资源,它们并不会主动优化客户如何高效均匀地使用这些资源。Volumez 通过在公有云优化自身资源与客户需求之间的区域运营来盈利,帮助客户从性能、成本和简单运维方面优化这些资源的使用效率。
如图表所示,Volumez 为其块存储提供了比 AWS 实例更好的性价比:
它可以从数据科学家的笔记本电脑上设置 AWS 或 Azure 数据基础设施,将 Volumez 作为 PyTorch 库导入并自动计算存储基础设施需求。
Volumez 表示,MLPerf Storage 基准测试显示其基础设施表现良好。
Blumenthal 表示,AI 工作负载需要在可承受的成本下平衡高容量、高带宽和高性能,他声称 Volumez 可以做到这一点。他表示这提高了 GPU 利用率 - 减少了数据等待时间 - 从而提升了基础设施的训练和推理效率。
好文章,需要你的鼓励
微软宣布为Word和Excel推出基于OpenAI的AI代理模式,通过简单提示即可自动生成文档和分析数据。Word用户可享受"氛围写作"功能,利用现有文档组装报告和提案。Excel代理能分析电子表格数据并生成可视化报告。尽管在SpreadsheetBench基准测试中准确率仅为57.2%,低于人类平均水平71.3%,但微软强调其针对实际工作场景优化。此外,微软还发布了基于Anthropic的Office代理,显示其正逐步减少对OpenAI的依赖。
苹果与清华合作提出EpiCache技术,解决AI长期对话中的记忆管理难题。该方法将对话自动分割成话题片段,为每个话题建立专门记忆库,实现智能匹配和高效检索。实验显示,EpiCache比传统方法准确率提高40%,内存使用减少4-6倍,响应速度提升2.4倍,为资源受限环境下的AI对话系统提供了实用解决方案。
OpenAI为美国ChatGPT用户推出"即时结账"功能,用户可在对话中直接购买Etsy和Shopify商品,无需跳转至外部网站。该功能支持Apple Pay、Google Pay等多种支付方式,并计划接入超过100万家Shopify商户。OpenAI还将开源其代理商务协议技术,与谷歌的代理支付协议形成竞争。这标志着电商购物模式的重大转变,AI聊天机器人可能重塑在线零售发现和支付生态系统。
清华大学与英伟达合作提出DiffusionNFT,一种革命性的AI图像生成训练方法。该方法通过对比正负样本进行学习,避免了复杂的概率计算,训练效率比传统方法提升25倍。研究团队在多项测试中验证了其优越性,不仅大幅提升了图像质量和文字渲染能力,还实现了无需分类器引导的高效训练,为AI图像生成技术的普及和应用奠定了重要基础。