近日,中国信通院发布了首个大模型混合云标准,通过定位当前大模型混合云的能力水平,为基于混合云的大模型服务实践提供指引,并明确未来提升方向。同时,中国信通院基于标准展开大模型混合云能力成熟度专项测试,其中华为云Stack大模型混合云解决方案顺利完成专项测试的全部内容,在AI-Native云基础设施层能力、模型层能力、应用层能力、安全能力及运营运维能力的评级,达到大模型混合云能力成熟度评估的最高卓越级,华为云成为首批通过测试的企业。
随着人工智能技术的不断突破,行业专属大模型日渐成为政企智能化的主要落地方向。因兼顾数据安全与隐私、训推效率与开发成本,混合云成为行业大模型落地的最优解,正迅速应用在金融、矿山、政务、制造等多个领域。
在此背景下,中国信通院对大模型混合云能力展开研究,从混合云基础设施的异构计算/高性能存储/高速网络等资源对大模型的支撑能力、大模型在混合云上实现包括数据工程、模型开发/训练及模型部署/推理的全流程的能力、大模型针对不同行业/场景的多样化需求的服务丰富度、大模型混合云综合安全能力及运营运维能力五个方面全面衡量大模型混合云技术能力。
大模型混合云能力成熟度框架
华为云Stack发布的大模型混合云解决方案,通过坚实算力底座、使能百模千态、赋能千行万业三大能力,帮助企业一站式建设自己的专属大模型。
• 坚实算力底座:从计算、存储、网络、安全和运维5大维度打造AI-Native云基础设施。在算力层面,通过多样性算力调度和算子加速能力,实现异构算力融合,算力利用率提升50%以上;结合高性能存储的多层缓存机制、高吞吐无阻塞AI网络,让算力发挥最大价值;四道大模型安全防线,可以智能拦截90%新型攻击;打破硬件、模型、应用碎片化的运维体系,实现全链路可观测,故障1分钟发现、10分钟定界、30分钟恢复。
• 使能百模千态:提供ModelArts开发生产线,支持大规模异构集群调度管理、分布式训练、云边协同部署及全流程工作流,并提供模型开发套件、全链路数据工程套件、应用开发套件3大套件,加速数据、模型、应用的一站式开发。同时,华为云Stack原生集成超过30个业界主流的基础模型,实现开箱即用。
• 赋能千行万业:目前,华为云Stack已联合100多个重点伙伴,基于大模型混合云打造丰富的行业大模型场景化方案,应用于政府、金融、煤矿、交通、电力等10多个行业。同时华为云Stack将与政企客户联合创新中的经验和能力固化下来,形成6大阶段30多个专业服务,覆盖大模型从规划设计到建设运营的全流程,让大模型从可用到好用。
今年6月,华为云Stack发布大模型混合云十大创新技术,通过聚焦根技术突破,帮助政企客户抓住大模型战略机遇,加速迈向智能世界。
面向未来,华为云Stack将以坚定的战略耐心,持续深耕根技术,打造更优的大模型底座和基础能力;并深入行业场景,通过工具和专业服务使能懂行的生态伙伴,与客户、合作伙伴共同探索更多大模型与行业结合的创新路径,共迎AI的黄金时代。
好文章,需要你的鼓励
数字孪生技术正在改变网络安全防御模式,从被动响应转向主动预测。这种实时学习演进的虚拟副本让安全团队能够在威胁发生前预见攻击。组织可以在数字孪生环境中预演明日的攻击,将防御从事后反应转变为事前排演。通过动态更新的IT生态系统副本,团队可在真实条件下压力测试防御体系,模拟零日漏洞攻击并制定应对策略,从根本上重塑网络安全实践方式。
NVIDIA联合多所大学开发的Omni-RGPT实现了AI视觉理解的重要突破,首次让AI能同时精准理解图像和视频中用户指定的任何区域。通过独创的Token Mark机制,该系统解决了传统方法在视频中容易"跟丢"目标的问题,在视觉问答、区域描述等多项任务上达到最先进水平,为教育、安防、内容创作等领域的AI应用奠定了基础。
Linux内核开发面临动荡时期,Rust语言引入引发摩擦,多名核心开发者相继离职。文章介绍了三个有趣的替代方案:Managarm是基于微内核的操作系统,支持运行Linux软件;Asterinas采用Rust语言开发,使用新型framekernel架构实现内核隔离;Xous同样基于Rust和微内核设计,已有实际硬件产品Precursor发布。这些项目证明了除Linux之外,还有许多令人兴奋的操作系统研发工作正在进行。
这项由中国人民大学等机构合作完成的研究提出了Virgo系统,发现仅用5000个纯文本推理案例训练就能让AI在视觉推理任务上达到顶级商业系统水平。研究证实推理能力具有跨模态通用性,为更经济高效地开发多模态AI系统指明了新方向,同时也揭示了AI感知反思能力不足的局限性。