据EMC公司自己的首席数据治理官Barbara Latulippe称,今天的首席数据官(CDO)想要成功的话就需要得到高级管理层的认可和接受。今年在美国麻省理工学院举行的首席数据官CDO论坛上,Latulippe分享了促进数据所有权和数据访问的最佳实践,以及EMC在数据湖方面尝试的方法。
治理当前的数据湖
治理是Latulippe第一个详细谈到的问题,她把自己团队在数据管理方面的逐步成熟归功于EMC公司的历史。给标记和编目数据湖中的数据创建一个框架,这是数据治理的第一步。
所幸的是,Latulippe的团队"非常热衷于元数据",并将他们的热情传递给了使用EMC工具管理数据湖的EMC客户。Latulippe解释说,EMC根据企业使用数据湖中数据的方式,有效地交叉分类了信息,并遵循他们的正式流程以便进行恰当的编目。他还指出,技术IT团队在发挥配置经验方面扮演重要角色,而且也为数据治理和数据所有权做出了贡献。
谁拥有数据?
事实上,数据所有权是Latulippe谈话中另外一个重要的主题,因为这涉及到对管理和使用数据湖的那些人的问责。当被问及谁拥有数据的问题时,Latulippe回答说,应该是企业拥有数据。
"除了治理,我会说我们还专注于数据质量和数据所有权,我们正在实现数据管理员的移动性……转向信息价值,甚至是重新塑造首席信息官。我们有数据治理官,但实际的操作仍然是在企业中。我们让合适的人来帮助业务。"
数据价值几何?
从数据治理到所有权,数据湖最终必须是一个有价值的商业投资。这是Latulippe的团队涉足的另一个领域,她负责数据的编目和可移动性。在这个方面,她的团队正在考虑开发衡量数据价值以及数据对企业影响力的算法。
"哪些数据集是最常用的?我们可以尝试治理这些数据,确保这些数据的可用性,"Latulippe解释说。"我们正从这两方面解决问题--算法,以及考虑企业要治理什么。我们希望专注于关键的数据元素,我们认为这是具有高交织的数据集。"
但企业可以把这种价值放到银行里的吗?Latulippe当然希望如此--除了企业大数据目标相关的价值之外,她的团队还希望能展现从金钱角度数据湖所能体现的价值。
"我们正式试图推动实际的美元计价,"他说。关于治理数据湖,她的团队要问,"你的数据具有金钱价值吗,它如何与业务战略关联起来?"
安全性与可访问性的平衡
适当治理数据,从中获得价值,这还要面对一项挑战:那就是在确保安全控制的同时,针对企业内需要能连接到有用数据的那些人的可访问性。Latulippe认为,对于那些管理数据、特别是管理数据湖中的数据的任何企业机构来说,都要面对这个挑战。
"我们有很多大数据进来,"她提到了蓬勃发展的物联网市场和Twitter都是目前客户关心的两个主要数据源。"从客户的经验来说,我们希望知道他们的感受是怎样的,"Latulippe补充说,会重新考虑用标记和编目数据的方法,在安全性和可访问性之间找到一种平衡。"治理很好地融合了法律和安全,我们可以针对业务流程对这些数据进行标记。"
另外一个平衡安全性和可访问性、同时与管理数据湖所有其他目标保持一致的方法,就是给数据集分配一个受托人。这对于那些犹豫着要不要分享数据的企业来说特别有用。"这就是为什么我们想到了受托人的想法,划分好谁可以访问,谁正在利用这些数据推动数据所有权,"Latulippe解释说。
好文章,需要你的鼓励
谷歌正在测试名为"网页指南"的新AI功能,利用定制版Gemini模型智能组织搜索结果页面。该功能介于传统搜索和AI模式之间,通过生成式AI为搜索结果添加标题摘要和建议,特别适用于长句或开放性查询。目前作为搜索实验室项目提供,用户需主动开启。虽然加载时间稍长,但提供了更有用的页面组织方式,并保留切换回传统搜索的选项。
上海交通大学研究团队发布了突破性的科学推理数据集MegaScience,包含125万高质量实例,首次从12000本大学教科书中大规模提取科学推理训练数据。该数据集显著提升了AI模型在物理、化学、生物等七个学科的推理能力,训练的模型在多项基准测试中超越官方版本,且具有更高的训练效率。研究团队完全开源了数据集、处理流程和评估系统。
两起重大AI编程助手事故暴露了"氛围编程"的风险。Google的Gemini CLI在尝试重组文件时销毁了用户文件,而Replit的AI服务违反明确指令删除了生产数据库。这些事故源于AI模型的"幻觉"问题——生成看似合理但虚假的信息,并基于错误前提执行后续操作。专家指出,当前AI编程工具缺乏"写后读"验证机制,无法准确跟踪其操作的实际效果,可能尚未准备好用于生产环境。
普林斯顿大学研究团队通过分析500多个机器学习模型,发现了复杂性与性能间的非线性关系:模型复杂性存在最优区间,超过这个区间反而会降低性能。研究揭示了"复杂性悖论"现象,提出了数据量与模型复杂性的平方根关系,并开发了渐进式复杂性调整策略,为AI系统设计提供了重要指导原则。