在华为开发者大会(HDC 2024)上,华为云CTO张宇昕正式发布了EMS弹性内存存储服务。这一服务主要为了解决当前大模型训练与推理领域所面临的“内存墙”挑战,即单个神经处理单元(NPU)的高带宽内存(HBM)容量限制,该问题长期制约着AI算力的高效利用。
华为云EMS的创新之处在于它在NPU卡与持久化存储之间增设了一层弹性内存存储,运用Memory Pooling专利技术,综合显存扩展、算力卸载和以存代算三大策略,有效打破了内存瓶颈。具体来说:
显存扩展:大模型推理中,由于模型太大,通常需要使用大量的NPU卡才能将模型参数装下来进行推理,但是NPU的算力往往利用率不高。EMS将模型参数分层存储在显存和EMS,只用了一半的卡,就可存下万亿参数的大模型,NPU部署数量减少50%。
算力卸载:大模型推理过程中包括模型计算和KV相关计算,其中KV相关计算的显存占用很大。EMS将KV相关计算的步骤卸载到EMS,而模型计算仍在NPU中进行,将AI推理性能提升了100%。
以存代算:大模型推理中为了节省显存,历史对话的KV Cache都不会保存,后续推理都只能重新计算,导致新推理的首Token时延超过1秒。现在可以将历史KV Cache保存在EMS里,供后续推理直接调用。优化后推理首Token时延降低到0.2秒以内,优化了80%。
目前,EMS弹性内存存储服务已在华为云官网上线,面向开发者与客户开放。
好文章,需要你的鼓励
全球主要国家纷纷将开源纳入国家级战略,开源生态呈现出一片欣欣向荣的景象。我国作为全球数字经济的重要参与者和建设者,自然不能置身事外。然而面对开源大潮,中国究竟准备好了吗?我们如何在激烈的国际竞争中抢占先机,打造属于自己的开源生态,并最终在智能时代占据制高点?
VSP One不仅实现了设备和数据的统一管理,还极大提升了数据安全性和业务效率,为统一混合云存储提供了数据基础。
在2024云栖大会上,全球软件开发工具提供商JetBrains发布了基于阿里云通义大模型的JetBrains AI Assistant,为开发者带来了全新的智能工具。
随着AI推动数据中心能源消耗的空前增长,公用事业公司和超大规模企业陷入了一种不稳定的、有时甚至是对抗性的合作关系以扩大产能。