在6月21日举办的华为开发者大会(HDC 2024)上,华为云CTO张宇昕介绍了下一代云基础设施——CloudMatrix。这一创新性的技术解决方案旨在解决当前云平台在大模型训练和使用中遇到的“算力墙”“内存墙”和“能效墙”等问题。
张宇昕表示,CloudMatrix改变了传统数据中心的架构和算力供给模式,将传统的以CPU为中心的主从架构,演进为多元算力对等全互联架构;并通过高速互联网络协议,将CPU、NPU、GPU 等算力资源全部互联和池化,从而把AI算力从单体算力演进到矩阵算力,开启智能算力新纪元。
目前华为云是业界唯一采用对等架构超节点技术提供算力服务的厂商,实现了业界领先的性能和可靠性。据悉,华为云超节点在算力方面相比业界单节点提升了50倍,大模型的checkpoint恢复时长低于10分钟,万卡集群线性度大于95%,远超业界水平。
值得一提的是,基于盘古大模型5.0的实测数据显示,在同等算力条件下,CloudMatrix相较于传统服务器集群架构,在模型训练效率上提升了68%。这一显著的提升,充分证明了CloudMatrix在云原生基础设施方面的技术领先性。
好文章,需要你的鼓励
人们不仅在年轻和上学时学习,他们在整个成年生活中都在学习新的技能——在工作中、培养爱好、学习新语言、或者追求工作和业务驱动型学习的需求。从这个角度来看,学习和教育与其他任何活动一样,都是一项基本的日常活动。毫无疑问,AI对教育的影响,正在对我们的日常生活带来深远的影响。
思科希望通过这次更新在热切拥抱AI功能的联络中心行业中占据领先地位。几乎每个联络中心软件提供商都在提供某种AI驱动的聊天机器人,以处理基本的客户查询,然后将更困难的查询交给人工代理。
施耐德电气中国软件研发中心AI创新负责人张毅与阿里云智能集团公共云华北大区解决方案总经理陈立伟、意言科技联合创始人兼COO王以宁、施耐德电气博利德自动化系统(上海)有限公司总经理王冬梅,最近也展开了一场关于AI如何推动快消品企业在市场营销、供应链管理、产品研发与创新以及客户服务等领域实现智能化转型的深入探讨。