自AIGC技术出现以来,如何找到相匹配的应用场景,是数字产业共同关注的核心议题。在紫光股份旗下新华三集团以“X AI”为主题举办的2024媒体与分析师沟通会上,新华三集团高级副总裁、首席数字官兼数字中国研究院院长张鹏提出“用”是AIGC赋能行业的根本。他指出,私域大模型在众多资源受限、域内使用的行业场景中发挥着至关重要的作用,它不仅能够实现专业化的服务,还能在保障数据安全的前提下,为用户提供融汇贯通的应用体验。
新华三集团高级副总裁、首席数字官兼数字中国研究院院长张鹏
作为AIGC私域大模型的先行者,新华三集团将通过“搭算力、助行业、育未来”三大举措,致力于以开放兼容的异构集群搭算力;以推用一体的融合方案助行业;以人智协同的图灵小镇育未来,实现以智管智、以智用智,让AIGC 技术在不同产业中找到用武之地,助推新质生产力的形成,为高质量发展注入新的动能。
做新质生产力的践行者 构建开放兼容的算力底座
AIGC时代,算力已成为社会运转的基础动力。张鹏表示,智算时代的发展需要集众智、集众力,面对时代赋予的使命,新华三不辞其责,勇于担当,以技术中立的态度与众多产业链合作伙伴一道,打造枝繁叶茂、百舸争流的开放生态,推动AIGC产业的发展革新。
对此,新华三集团将聚焦异构算力的六大关键问题,进行重点攻关突破:第一,通过傲飞算力平台为异构GPU打造统一的管理与调度接口;第二,利用H3C LinSeer RT推理引擎实现对异构GPU的兼容,保障AI模型在不同硬件间的自由迁移;第三,统一算子需求,确保模型在异构GPU之间迁移的无缝对接;第四,建立统一算力单位,提供精确的度量标准;第五,打造通用的通信原语,让计算结果相互理解;第六,建立统一集群网络,保障高速稳定的算力互联。
新华三集团在异构算力的突破上采取了分阶段的策略,目前已经实现了对异构GPU的纳管,让不同的算力资源池在统一云平台上得到高效管理。正在上线的阶段,将实现异构算力资源的标准化连接、度量、分配和计费,让模型和应用能够在不同算力资源池间进行无缝迁移。接下来,新华三将集中攻关异构混训,通过资源的合理配置,提升模型训练的效率,并保护客户的投资价值。最终目标是实现异构服务的无感使用,让客户在不关注具体硬件的前提下,顺利完成训练任务。
做私域大模型的定制者 引领AIGC重塑行业场景
新华三集团一直深耕私域大模型领域,通过“1+N”大模型策略(即百业灵犀私域大模型+N个优选生态大模型)满足行业需求。其中“1”主要是在三个层面发力:
●第一是在知识蒸馏上发力,推动模型基座小型化,让700亿参数的大模型被精炼到百亿参数甚至十亿参数,实现数据高精度、高质量和高表现。
●第二是在输出校准上发力,精炼模型回答,提升用户体验,同时针对特定场景设计专用算法,增强AI使用的精准度。
●第三是在模型使能上发力,通过模型、知识、应用及安全等多层次的融合,解决更加复杂的问题。
基于以上能力,新华三推出了AIGC灵犀系列一体机,包括轻量级的百事通一体机灵犀妙答、旗舰版的多模态一体机灵犀智思、豪华版的数智人一体机灵犀慧影,通过灵犀应用使能平台,针对私域部署的不同场景提供多种选择方案,实现大规模智能应用一站式交付。
做百业数智化的领导者 共创人智协同的时代革新
如今,新华三集团的AIGC大模型已经实现了广泛部署和应用, AI的能力已经潜移默化地融入到百行百业的生产和运营过程中。
■ AI 在治理:新华三通过全域AI化推进了智慧治理体系的构建和应用,并通过开发城运平台、智能办公平台等各类专项AI监测系统,助力精准施策,提升治理能效。
■ AI 在金融:新华三基于政策文本打造出了智能模型,上线首周就为用户提供了五千余次解读服务。
■ AI 在医疗:新华三与某医院合作,基于8万例高质量数据集打造出脑血管AI智能体医生,将全国顶尖脑血管专家的经验、知识变为基层医生诊断、救治、康复及长期预防的AI助手。
■ AI 在教育:新华三的嘿板OS融入大模型能力,通过多屏联动实现智慧教室黑板的数字化。
■ AI 在生产:泡沫浮选是冶金行业常见的矿石分离手段,新华三将人的经验AI化,借助智能视觉对气泡进行调整,大大提升浮选精度与效率。
■ AI 在物流:新华三通过AI技术优化了AGV的路径规划,解决拥堵问题,让物流效率和精确性提升58%以上。
■ AI 在交通:新华三以AIGC辅助工程师们对轨道进行快速巡检,解决了人眼误差的精准问题,让城市轨道交通的安全和效率提升到一个新高度。
可以看到,AI技术正在全面改变生活、生产和治理体系,中国丰富的产业和消费场景被视为AI发展的肥沃土壤。新华三集团躬身入局,以“聚才聚智、共创共赢”的理念,联合各级政府和生态伙伴,在全国打造以智算中心为核心、以赋能应用为目标的“图灵小镇”,努力将图灵小镇打造成为中国AIGC产业新引擎,推动地方政府发展AI产业化。张鹏表示,新华三倡导城市基础设施新定位和科研新平台,探索人智合作新机制,以图灵小镇为核心,融合AI技术,建立试验场和新地标,构建全方位、多层次、高效能的AI企业孵化体系,推动中小微企业在AI变革中快速成长。
对算力永无止境的需求刚刚开始,无所不在的模型应用刚刚起步。张鹏表示,在AI成为所有产业发展新赛道的当下,新华三集团将立志成为新质生产力的践行者、私域大模型的深耕者、百业数智化的领导者,在人工智能的新赛道上聚“算”之力,携“数”并进,与“智”为伍,并肩携手、共赴未来!
好文章,需要你的鼓励
机器人和自动化工具已成为云环境中最大的安全威胁,网络犯罪分子率先应用自动化决策来窃取凭证和执行恶意活动。自动化攻击显著缩短了攻击者驻留时间,从传统的数天减少到5分钟内即可完成数据泄露。随着大语言模型的发展,"黑客机器人"将变得更加先进。企业面临AI快速采用压力,但多数组织错误地关注模型本身而非基础设施安全。解决方案是将AI工作负载视为普通云工作负载,应用运行时安全最佳实践。
MBZUAI研究团队发布了史上最大的开源数学训练数据集MegaMath,包含3716亿个Token,是现有开源数学数据集的数十倍。该数据集通过创新的数据处理技术,从网页、代码库和AI合成等多个来源收集高质量数学内容。实验显示,使用MegaMath训练的AI模型在数学推理任务上性能显著提升,为AI数学能力发展提供了强大支撑。
面对心理健康专业人士短缺问题,谷歌、麦肯锡和加拿大重大挑战组织联合发布《心理健康与AI现场指南》,提出利用AI辅助任务分担模式。该指南构建了包含项目适应、人员选择、培训、分配、干预和完成六个阶段的任务分担模型,AI可在候选人筛选、培训定制、客户匹配、预约调度和治疗建议等环节发挥作用。该方法通过将部分治疗任务分配给经过培训的非专业人员,并运用AI进行管理支持,有望缓解治疗服务供需失衡问题。
这项由多个知名机构联合开展的研究揭示了AI系统的"隐形思维"——潜在推理。不同于传统的链式思维推理,潜在推理在AI内部连续空间中进行,不受语言表达限制,信息处理能力提升约2700倍。研究将其分为垂直递归和水平递归两类,前者通过重复处理增加思考深度,后者通过状态演化扩展记忆容量。