Google推云分析系统Cloud Dataflow 已弃用MapReduce多年

Google已经弃用其曾经的三大核心技术之一MapReduce，因为该系统已不能满足这家互联网巨头的数据分析需求。

于周三在旧金山举行的Google I/O大会上，Google宣布了这一消息。取而代之的，是一个新开发的称为Cloud Dataflow的云分析系统。

MapReduce一直是一个非常受欢迎的基础架构和编程模型，用于在服务器集群上做并行分布式计算。它也是Apache Hadoop大数据基础架构平台的一个基础，后者已经得到广泛的部署，并成为许多公司的商业产品的核心。

然而，该技术已无法处理Google当前希望分析的数据量。Google技术基础设施高级副总裁Urs Hölzle表示，当数据规模达到PB级别，MapReduce变得太麻烦。

“我们真的不再使用MapReduce了，”Hölzle在他的主题演讲中说，该公司“多年前”就停止使用该系统。

在旧金山举行的2014 Google I/O大会上，Google技术基础设施高级副总裁Urs Hölzle宣布了一项新的云分析系统Cloud Dataflow。

Cloud Dataflow还将作为一项服务提供给使用Google云计算平台的开发者，它没有MapReduce的规模限制。

“Cloud Dataflow是数十年数据分析经验的成果，”Hölzle说。“和任何其他的系统相比，它的运行速度更快，扩展性更好。”

他表示，Cloud Dataflow是一项自动优化、部署、管理和扩展的全面的管理服务。它允许开发人员使用统一的编程轻松地创建复杂的管道用于批处理和流媒体服务，并且可以迅速抓取任意大型数据集。

Google还表示，Cloud Dataflow可以通过动态图显示数据流，Google演示了在本届世界杯上巴西对阵克罗地亚时的Twitter社区讨论追踪，当裁判“误判点球”时，网友的反映变化一目了然。

Google认为，Cloud Dataflow所有的这些特性解决了MapReduce搞不定的工作：它很难迅速摄取数据，它需要很多不同的技术，批处理和流是无关的，还有，MapReduce集群的部署和操作始终是必需的。