AIGC的深入发展和快速普及,打开了智能世界广袤的想象空间,但在技术成果涌现之际,随之而来的模型安全、数据安全、内容安全问题也日益凸显,如何应对AIGC引发攻防范式转化的新趋势,如何规避数据和隐私泄露风险,有效保障内容生成的安全合规,正成为摆在行业面前的切实难题。
近日,在紫光股份旗下新华三集团2024媒体与分析师沟通会上,新华三集团高级副总裁、新华三信息安全技术有限公司总裁孙松儿接受多家媒体专访,深入分享了新华三主动安全3.0在全面智能化升级、创新场景新范式以及全面国产化三大维度的能力进化,为强化AIGC数据安全治理,落实AIGC应用规范,推动业务安全防护带来了全新的解题思路。
新华三集团高级副总裁新华三信息安全技术有限公司总裁孙松儿
安全×AI 提升安全能力正向循环
对于AIGC为代表的大模型技术及其应用而言,发展和安全是一体两翼的统一整体,必须统筹规划、同步推进。孙松儿表示,新华三集团安全视角下的AIGC是基于“主动安全”理念,首先满足大模型应用的安全新需求,同时将AIGC作为新工具、新能力,赋能安全能力的提升,即“安全是保障AIGC实战的核心基石,AIGC是提升安全能力的最佳手段”。为实现AIGC发展与安全能力提升的正向循环,基于灵犀大模型的AI能力,新华三重磅打造灵犀助手,为安全体系建设、运营效率提升、业务持续发展注入更深层次的智能,并提出大模型安全合规与防护新思路——以灵犀卫士实现大模型安全防护,以灵犀助手实现大模型赋能安全。
大模型自身的安全防护,贯穿从训练阶段到运行阶段的全过程,需要解决垂直领域大模型训练难点、大模型环境网络攻击风险以及大模型生成内容合规风险等诸多难题。其中,内容安全合规是大模型发展的第一要务,国家网信办发布的《生成式人工智能服务管理办法(征求意见稿)》中,着重强调了安全合规的重要性。面对AIGC内容安全要求,孙松儿认为应从输入侧、模型侧、输出侧三个层面着手,对违规信息进行过滤和规避。为此,新华三集团构建了完整的AIGC内容安全防护体系,通过Prompt审核与改写、生成内容过滤、红线知识库等方式,灵犀卫士可监测用户输入和生成内容,识别各类违规风险,全面保障内容合规,整体内容风险可下降近80%。
在大模型赋能安全方面,孙松儿指出,安全大模型正在引发“效率革命”,为安全运营带来跨越式提升。以大模型技术打造的灵犀助手,现已全面内嵌到安全产品、管理平台及各类运营运维工具中,通过安全使能平台打通大模型和业务场景,在攻击研判、资产梳理、合规检查、智能预测等方面实现全方位的运营效率提升。比如在失陷事件研判中,通过AIGC辅助分析,研判效率可提升50%,在风险响应处置中,AIGC可根据训练经验直接给出准确的处置建议,快速生成处置报告,实现风险处置的事半功倍,让人力从繁杂的基础工作中解放出来。
打造场景化新范式 赋能网络安全场景化落地
从技术研发到实际应用,网络安全如何跨越实验室与产业链的鸿沟,在具体行业和场景中实现价值的实质性提升,是当前行业关注的焦点。对此,孙松儿表示,当下垂直行业的安全需求差异较大,需要建立场景化思维捕捉不同行业的实际安全需求,构建基于客户业务本身的场景化新范式。
在场景化探索方面,新华三集团深耕车联网、数字政府、运营商等重点行业场景,为多场景业务打造按需交付的算网安融合解决方案,通过构建分布式安全资源池,借助SRv6弹性可编程、性能可度量、隔离有保障的优势,实现网络与安全服务的端到端业务链打通与安全编排,保障数据和业务的安全稳定运行。在车联网安全领域,新华三面向车路协同、车联网运营以及车联网人才培养场景,打造车联网安全解决方案,全面保障车联网端侧、路侧及云端安全。而围绕数据流转的全生命周期,新华三打造了基于AI的数据安全治理与运营平台,以大模型技术赋能数据分类分级、数据动态图谱及数据安全管理,实现数据流通的可感、可知、可管、可控。
全面国产化 树立国产化安全新标杆
此外,新华三集团全面深化安全产品体系及国产化布局,推出业内首个内嵌AIGC的旗舰防火墙产品,打造全面支持国产化的安全运营中心、数据安全治理中心以及云安全平台,树立国产化安全能力新标杆,40+安全原子能力全面适配国产化,包括主流的国产化操作系统及软硬件,全面保障终端、边界、应用以及数据安全。
作为新质生产力的代表,AIGC是新一轮产业变革的核心引擎,网络安全则是护航AIGC行稳致远的基石底座。作为网络安全领域的领军企业,新华三集团将秉持“精耕务实,为时代赋智慧”的理念,持续推进“安全×AI”的技术创新和场景化应用,以网络安全和AIGC的双向赋能,助力百行百业在数字化转型之路上铿锵前行。
好文章,需要你的鼓励
UniR(Universal Reasoner)是一种创新的推理增强方法,可为冻结的大语言模型提供即插即用的推理能力。由韩国科学技术院研究团队开发,该方法将推理能力分解为独立的轻量级模块,无需改变主模型结构。UniR的核心优势在于高效训练(仅更新小型推理模块)、出色的模型间迁移能力(小模型可指导大模型)以及模块组合能力(多个专用模块可通过logits相加组合使用)。在数学推理和翻译测试中,UniR显著超越现有微调方法,展示了轻量级模块如何有效增强大语言模型的推理能力。
Nebius团队开发了SWE-rebench,一个自动化管道用于从GitHub收集软件工程任务并进行去污染评估。该系统解决了两大挑战:高质量训练数据稀缺和评估基准容易被污染。通过四阶段处理(初步收集、自动安装配置、执行验证和质量评估),SWE-rebench构建了包含超过21,000个Python交互式任务的数据集,并提供持续更新的评估基准。研究发现部分语言模型在传统基准上的表现可能被污染效应夸大,而DeepSeek模型在开源模型中表现最为稳健。
这项研究提出了JQL(发音为"Jackal"),一种通过多语言方法提升大型语言模型预训练数据质量的创新系统。研究团队从拉马尔研究所等机构通过四阶段方法解决了多语言数据筛选的难题:先由人类评估内容教育价值创建基准数据,然后评估大型语言模型作为"评判者"的能力,接着将这些能力提炼到轻量级评估器中,最后应用于大规模数据筛选。实验表明,JQL在35种语言上显著优于现有方法,甚至能泛化到未见过的语言如阿拉伯语和中文,为多语言AI发展提供了高效可靠的数据筛选方案。
浙江大学和西湖大学研究团队开发的Styl3R实现了艺术风格化3D重建的重大突破,能在不到一秒内从少量未标定照片和任意风格图像创建具有多视角一致性的3D艺术场景。通过创新的双分支网络架构将结构建模与外观着色分离,系统不仅保持了原始场景结构,还准确捕捉了参考风格特征。与现有方法相比,Styl3R在处理速度和视觉质量上均显著领先,为创意内容制作开辟了全新可能。