人工智能技术飞速发展,在各行各业的应用日益广泛,随之而来的安全风险与挑战也引起了社会各界的广泛关注。为了推动人工智能安全技术的发展,构建更加安全、可靠的人工智能生态体系,5月9日在成都举办的“通信行业‘数据要素x’数据安全应用创新研讨会”上,中国联通牵头发布了《人工智能内生安全白皮书(2024)》(以下简称“白皮书”),该白皮书编写过程中得到国家计算机网络应急技术处理协调中心、中国软件评测中心、中国信通院等行业机构和华为、百度网讯等领先企业的大力支持,标志着我国在AI安全领域迈出了坚实的一步,对于引导和规范AI安全技术的发展具有重要意义。
白皮书以建立安全、可靠、可控的人工智能系统为目标,围绕人工智能内生安全,重点介绍了人工智能自身与应用安全风险,提出了人工智能内生安全体系,明确了人工智能内生安全要求和目标,归纳了监督与管理体系、技术体系的建设要点。在人工智能内生安全体系下,本白皮书从 AI 基础设施、数据、模型、应用服务以及监管等多个维度提供了解决方案和治理措施,并提出人工智能内生安全发展建议,推动我国人工智能技术健康发展。
《人工智能内生安全白皮书(2024)》的发布,不仅标志着中国联通在AI安全领域的深入研究成果和行业领导地位,也体现了中国在推动全球AI安全发展中的积极作用。白皮书的发布,将有助于提升公众对AI安全重要性的认识,促进行业内的交流与合作,共同推进AI内生安全技术的研究与应用,为人工智能的健康发展提供坚实的安全保障。
好文章,需要你的鼓励
数据分析平台公司Databricks完成10亿美元K轮融资,公司估值超过1000亿美元,累计融资总额超过200亿美元。公司第二季度收入运营率达到40亿美元,同比增长50%,AI产品收入运营率超过10亿美元。超过650家客户年消费超过100万美元,净收入留存率超过140%。资金将用于扩展Agent Bricks和Lakebase业务及全球扩张。
Meta与特拉维夫大学联合研发的VideoJAM技术,通过让AI同时学习外观和运动信息,显著解决了当前视频生成模型中动作不连贯、违反物理定律的核心问题。该技术仅需添加两个线性层就能大幅提升运动质量,在多项测试中超越包括Sora在内的商业模型,为AI视频生成的实用化应用奠定了重要基础。
医疗信息管理平台Predoc宣布获得3000万美元新融资,用于扩大运营规模并在肿瘤科、研究网络和虚拟医疗提供商中推广应用。该公司成立于2022年,利用人工智能技术提供端到端平台服务,自动化病历检索并整合为可操作的临床洞察。平台可实现病历检索速度提升75%,临床审查时间减少70%,旨在增强而非替代临床判断。
上海AI实验室发布OmniAlign-V研究,首次系统性解决多模态大语言模型人性化对话问题。该研究创建了包含20万高质量样本的训练数据集和MM-AlignBench评测基准,通过创新的数据生成和质量管控方法,让AI在保持技术能力的同时显著提升人性化交互水平,为AI价值观对齐提供了可行技术路径。