人工智能技术飞速发展,在各行各业的应用日益广泛,随之而来的安全风险与挑战也引起了社会各界的广泛关注。为了推动人工智能安全技术的发展,构建更加安全、可靠的人工智能生态体系,5月9日在成都举办的“通信行业‘数据要素x’数据安全应用创新研讨会”上,中国联通牵头发布了《人工智能内生安全白皮书(2024)》(以下简称“白皮书”),该白皮书编写过程中得到国家计算机网络应急技术处理协调中心、中国软件评测中心、中国信通院等行业机构和华为、百度网讯等领先企业的大力支持,标志着我国在AI安全领域迈出了坚实的一步,对于引导和规范AI安全技术的发展具有重要意义。

白皮书以建立安全、可靠、可控的人工智能系统为目标,围绕人工智能内生安全,重点介绍了人工智能自身与应用安全风险,提出了人工智能内生安全体系,明确了人工智能内生安全要求和目标,归纳了监督与管理体系、技术体系的建设要点。在人工智能内生安全体系下,本白皮书从 AI 基础设施、数据、模型、应用服务以及监管等多个维度提供了解决方案和治理措施,并提出人工智能内生安全发展建议,推动我国人工智能技术健康发展。
《人工智能内生安全白皮书(2024)》的发布,不仅标志着中国联通在AI安全领域的深入研究成果和行业领导地位,也体现了中国在推动全球AI安全发展中的积极作用。白皮书的发布,将有助于提升公众对AI安全重要性的认识,促进行业内的交流与合作,共同推进AI内生安全技术的研究与应用,为人工智能的健康发展提供坚实的安全保障。
好文章,需要你的鼓励
很多人担心被AI取代,陷入无意义感。按照杨元庆的思路,其实无论是模型的打造者,还是模型的使用者,都不该把AI放在人的对立面。
MIT研究团队提出递归语言模型(RLM),通过将长文本存储在外部编程环境中,让AI能够编写代码来探索和分解文本,并递归调用自身处理子任务。该方法成功处理了比传统模型大两个数量级的文本长度,在多项长文本任务上显著优于现有方法,同时保持了相当的成本效率,为AI处理超长文本提供了全新解决方案。
谷歌宣布对Gmail进行重大升级,全面集成Gemini AI功能,将其转变为"个人主动式收件箱助手"。新功能包括AI收件箱视图,可按优先级自动分组邮件;"帮我快速了解"功能提供邮件活动摘要;扩展"帮我写邮件"工具至所有用户;支持复杂问题查询如"我的航班何时降落"。部分功能免费提供,高级功能需付费订阅。谷歌强调用户数据安全,邮件内容不会用于训练公共AI模型。
华为研究团队推出SWE-Lego框架,通过混合数据集、改进监督学习和测试时扩展三大创新,让8B参数AI模型在代码自动修复任务上击败32B对手。该系统在SWE-bench Verified测试中达到42.2%成功率,加上扩展技术后提升至49.6%,证明了精巧方法设计胜过简单规模扩展的技术理念。