科技行者

行者学院 转型私董会 科技行者专题报道 网红大战科技行者

知识库

知识库 安全导航

至顶网存储频道Facebook规划“冷存储”技术应对大数据

Facebook规划“冷存储”技术应对大数据

  • 扫一扫
    分享文章到微信

  • 扫一扫
    关注官方公众号
    至顶头条

Facebook正在重新思考数据存储的方式,以应对每个月用户上传的多达7PB的新图片。据Facebook基础设施工程设计副总裁Jay Parikh称,随着图片数量的迅速增加,Facebook需要寻找更廉价、更节能的存储方式。

作者:ZDNet 来源:ZDNet存储频道 2012年10月21日

关键字: Facebook 数据中心 大数据

  • 评论
  • 分享微博
  • 分享邮件

Facebook正在重新思考数据存储的方式,以应对每个月用户上传的多达7PB的新图片。据Facebook基础设施工程设计副总裁Jay Parikh称,随着图片数量的迅速增加,Facebook需要寻找更廉价、更节能的存储方式。

Jay表示,用户每天上传大约3亿张图片,突发情况下更多。“万圣节是每年当中我们遇到图片上传量最大的一天。仅仅这一天,图片上传量就可以达到10到20亿张。”

但是人们通常很快就会对万圣节的这些照片失去兴趣,没有人会在几天或者几周之后在看这些照片,但是“我们与用户的协议让我们无法在人们不再访问这些图片的情况下删除它,只能继续保存”。这就让他想到了把图片放到某种“冷存储”中的想法。于是,Facebook计划建在一个新的数据中心,其中有不同类型的存储、服务器硬件和网络设备,相比现有的数据中心,这个数据中心能耗更低,成本更低,而且服务器响应时间没有变化。

但是Facebook如何让这种冷存储变得高效呢?当数据中心的成本和能耗降下来的时候,这通常是以牺牲访问速度为代价的。

例如,在磁带上存储数据,虽然能耗很低,但是数据访问速度却奇慢。

Amazon Web Service的Glacier云存储服务则走了一条中间道路,Amazon将其定位为取代磁带的选择。Glacier云存储服务适合于保存那些不经常被访问的数据、以及数小时恢复时间可接受的用户。

但是这对Facebook来说太慢了,Parikh这样说道:“这样我就无法让你去访问一张5您或者10年前的照片。我不能向用户展示一个上面写着‘您可以在24内再尝试打开’的提示窗口。这些仍然是要接近实时的访问。”

如今大多数数据中心都是通过耗费大量电力来应对那些需要大量计算能力的任务,而Facebook规划的“冷存储”技术却是另一个极端。Parikh表示:“你需要很多很多的空间,但你不需要太多的电力。”

Parikh表示,Facebook正在开发一种软件,可以计算出当数据老化时,在基础设施中的什么位置保存这些数据,以及如种方式保存。“这将意味着,随着时间的推移,数据副本会随之移动,利用基础设施中我们已经针对老化内容优化的各个部分。”在软件层中的研究,使得Facebook仍然能够快速响应,并且让数据存储更具成本效益。

Parikh表示,未来一两年内“冷存储”将成为Facebook基础设施的一部分。Facebook计划公布并共享他们认为与Open Compute项目有关的部分,该项目最初是由Facebook发起,将开源软件协同应用于全球的数据中心硬件中。

    • 评论
    • 分享微博
    • 分享邮件
    邮件订阅

    如果您非常迫切的想了解IT领域最新产品与技术信息,那么订阅至顶网技术邮件将是您的最佳途径之一。

    重磅专题
    往期文章
    最新文章