在2014年年中,有两位Gartner分析师曾经对数据湖概念日益加剧的炒作提出了批评。
"数据湖的根本问题是,它对信息的使用者做出了某些假设,"Gartner研究总监Nick Heudecker表示。
"它假设用户意识到或者了解获取数据的背景偏见,他们知道如何在没有先验知识的情况下整合并协调不同数据来源,他们知道数据集不完整的特性,不管数据结构是如何的。"
一年半之后,Garnter的担忧似乎并没有得到缓解。虽然有成功的项目,但也有失败的--关键成功因素似乎是对数据湖和数据仓库不同角色的深入理解。
Heudecker表示,数据湖通常被当作解决大数据挑战的一种方法,是提出数据新问题的好地方,"只要你有能力"。
"如果这是你想要做的,我就不那么关心数据湖的实施。不过,风险较高的情况是,如果你的目的是要在数据湖上重新实现数据仓库的服务水平协议(SLA)。"
Heudecker表示,数据湖通常是针对不同使用实例、并发性和多租户进行优化的。
"换言之,不要针对数据仓库使用数据湖。"
他说,两者都需要,这是完全合理的,因为两者都是还针对不同SLA、用户和技能进行优化的。
广义上说,数据湖是企业级平台,用于分析各种数据来源的原生数据格式,避免数据接受的成本和数据转换复杂性。因此这里所面临的挑战是:数据湖缺乏语意一致性和受监管的元数据,这需要有技能的用户承担大量分析的责任。
Heudecker表示,在理解方面逐渐成熟,但是数据湖的炒作依然猖獗。
该技术的成熟是很难做到的,因为实施数据湖的技术选择仍然在快速变化中。
"例如,Spark是一个流行的数据处理框架,平均每43天就会做一些新的发布,"Heudecker表示。
他说,数据湖项目的成功因素要归结于元数据管理、对技能的掌握、以及强制实施监管。
"我和很多构建数据湖的公司交流过,他们把很多数据放到数据湖里面,但没有发现任何结果。其他人不知道哪些数据集是不准确的,那些是高质量的。与IT的其他东西一样,是没有一个一劳永逸的方法的。"
数据湖是一个架构理念,而不是一个具体的实施方式,他说。
"与任何新理念、新技术一样,在成为一项人们理解的实践之前往往伴随着炒作,在这之后就是幻灭。"
"数据湖仍将反映的是使用它的数据科学家。"
"这个技术可能会改变和改善,也许会利用像GPU或者FPGA这样的东西,但总体目标是发现数据新的用途和新的机会,有可能会将这些洞察带入到生产中。"
好文章,需要你的鼓励
CoreWeave发布AI对象存储服务,采用本地对象传输加速器(LOTA)技术,可在全球范围内高速传输对象数据,无出口费用或请求交易分层费用。该技术通过智能代理在每个GPU节点上加速数据传输,提供高达每GPU 7 GBps的吞吐量,可扩展至数十万个GPU。服务采用三层自动定价模式,为客户的AI工作负载降低超过75%的存储成本。
IDEA研究院等机构联合开发了ToG-3智能推理系统,通过多智能体协作和双重进化机制,让AI能像人类专家团队一样动态思考和学习。该系统在复杂推理任务上表现优异,能用较小模型达到卓越性能,为AI技术的普及应用开辟了新路径,在教育、医疗、商业决策等领域具有广阔应用前景。
谷歌DeepMind与核聚变初创公司CFS合作,运用先进AI模型帮助管理和改进即将发布的Sparc反应堆。DeepMind开发了名为Torax的专用软件来模拟等离子体,结合强化学习等AI技术寻找最佳核聚变控制方式。核聚变被视为清洁能源的圣杯,可提供几乎无限的零碳排放能源。谷歌已投资CFS并承诺购买其200兆瓦电力。
上海人工智能实验室提出SPARK框架,创新性地让AI模型在学习推理的同时学会自我评判,通过回收训练数据建立策略与奖励的协同进化机制。实验显示,该方法在数学推理、奖励评判和通用能力上分别提升9.7%、12.1%和1.5%,且训练成本仅为传统方法的一半,展现出强大的泛化能力和自我反思能力。