近日,中国信通院发布了首个大模型混合云标准,通过定位当前大模型混合云的能力水平,为基于混合云的大模型服务实践提供指引,并明确未来提升方向。同时,中国信通院基于标准展开大模型混合云能力成熟度专项测试,其中华为云Stack大模型混合云解决方案顺利完成专项测试的全部内容,在AI-Native云基础设施层能力、模型层能力、应用层能力、安全能力及运营运维能力的评级,达到大模型混合云能力成熟度评估的最高卓越级,华为云成为首批通过测试的企业。
随着人工智能技术的不断突破,行业专属大模型日渐成为政企智能化的主要落地方向。因兼顾数据安全与隐私、训推效率与开发成本,混合云成为行业大模型落地的最优解,正迅速应用在金融、矿山、政务、制造等多个领域。
在此背景下,中国信通院对大模型混合云能力展开研究,从混合云基础设施的异构计算/高性能存储/高速网络等资源对大模型的支撑能力、大模型在混合云上实现包括数据工程、模型开发/训练及模型部署/推理的全流程的能力、大模型针对不同行业/场景的多样化需求的服务丰富度、大模型混合云综合安全能力及运营运维能力五个方面全面衡量大模型混合云技术能力。
大模型混合云能力成熟度框架
华为云Stack发布的大模型混合云解决方案,通过坚实算力底座、使能百模千态、赋能千行万业三大能力,帮助企业一站式建设自己的专属大模型。
• 坚实算力底座:从计算、存储、网络、安全和运维5大维度打造AI-Native云基础设施。在算力层面,通过多样性算力调度和算子加速能力,实现异构算力融合,算力利用率提升50%以上;结合高性能存储的多层缓存机制、高吞吐无阻塞AI网络,让算力发挥最大价值;四道大模型安全防线,可以智能拦截90%新型攻击;打破硬件、模型、应用碎片化的运维体系,实现全链路可观测,故障1分钟发现、10分钟定界、30分钟恢复。
• 使能百模千态:提供ModelArts开发生产线,支持大规模异构集群调度管理、分布式训练、云边协同部署及全流程工作流,并提供模型开发套件、全链路数据工程套件、应用开发套件3大套件,加速数据、模型、应用的一站式开发。同时,华为云Stack原生集成超过30个业界主流的基础模型,实现开箱即用。
• 赋能千行万业:目前,华为云Stack已联合100多个重点伙伴,基于大模型混合云打造丰富的行业大模型场景化方案,应用于政府、金融、煤矿、交通、电力等10多个行业。同时华为云Stack将与政企客户联合创新中的经验和能力固化下来,形成6大阶段30多个专业服务,覆盖大模型从规划设计到建设运营的全流程,让大模型从可用到好用。
今年6月,华为云Stack发布大模型混合云十大创新技术,通过聚焦根技术突破,帮助政企客户抓住大模型战略机遇,加速迈向智能世界。
面向未来,华为云Stack将以坚定的战略耐心,持续深耕根技术,打造更优的大模型底座和基础能力;并深入行业场景,通过工具和专业服务使能懂行的生态伙伴,与客户、合作伙伴共同探索更多大模型与行业结合的创新路径,共迎AI的黄金时代。
好文章,需要你的鼓励
虽然软件工程师的平均薪酬比运维工程师高出10%以上,且有更多高薪职位晋升机会,但IT运维职业仍有其独特优势。首先,IT岗位入职门槛较低,约62%的运维工程师拥有本科学历,而开发者这一比例为73%。其次,IT工作更加多样化,从服务器故障排除到战略规划都有涉及。此外,IT工程师能更直接地看到工作成果,与最终用户接触更频繁。IT运维还提供更多样的职业发展路径,可转向网络、数据工程、网络安全等领域。最后,相比软件开发,IT运维工作受AI威胁较小。
微软研究院联合多所知名高校开发出SeerAttention-R稀疏注意力框架,专门优化AI推理模型的长序列解码效率。该技术通过自蒸馏学习让AI学会智能筛选重要信息,在保持近乎无损推理准确性的同时,实现了高达9倍的计算加速。系统采用轻量级插件设计,无需重训原模型即可集成,为长文本AI推理应用的普及铺平道路。
CityFibre宣布其专用企业级以太网服务覆盖范围扩大三倍,现可为超过26万家英国企业提供服务。此次扩展基于专用商用以太网平台,由工程合作伙伴Calix提供支持。该公司声称其以太网价格比主要竞争对手便宜20%。此项投资得益于全国范围内10Gbps XGS-PON技术升级,目前已在85%的网络中实施。
哈工大与阿里巴巴团队合作开发了ComfyUI-R1,这是首个专门用于自动化工作流生成的大型推理模型。该模型通过长链推理思维,能够根据用户自然语言指令自动生成可执行的ComfyUI工作流。在7B参数规模下,ComfyUI-R1达到97%格式正确率,在多项评估指标上显著超越GPT-4o等先进模型,为AI内容创作提供了更智能、更易用的解决方案。