科技行者

行者学院 转型私董会 科技行者专题报道 网红大战科技行者

知识库

知识库 安全导航

至顶网存储频道看Facebook七十二变 再造Memcached “转世”为McDipper

看Facebook七十二变 再造Memcached “转世”为McDipper

  • 扫一扫
    分享文章到微信

  • 扫一扫
    关注官方公众号
    至顶头条

在Facebook工程博客的一篇博文中写道,“McDipper的主要设计目的在于提高闪存存储的使用效率(即尽可能提供与底层设备相接近的性能表现)并顺便取代memcached的地位”,很明显这家社交网络巨头的存储技术人员已经开始为闪存投入更多精力了。

来源:ZDNet存储频道(编译) 2013年3月12日

关键字: Facebook DRAM 闪存

  • 评论
  • 分享微博
  • 分享邮件

在某些情况下我们需要DRAM,但真正能够万试万灵的方案只有闪存。

上述观点到底是否可信?我们尚无法断言。但至少Facebook已经在上周二揭开了“McDipper”的神秘面纱,他们研发的这项技术能够节约内存容量并进一步激发闪存潜能。

在Facebook工程博客的一篇博文中,很明显这家社交网络巨头的存储技术人员已经开始为此投入精力。其工程团队还给出了关于memcached协议的更多细节——可与McDipper闪存缓存服务器相兼容。

“McDipper的主要设计目的在于提高闪存存储的使用效率(即尽可能提供与底层设备相接近的性能表现)并顺便取代memcached的地位,”工程团队在博客中的一篇博文中写道。

对于那些希望在不造成任何延迟波动的前提下最大程度缩减RAM使用成本的企业而言,McDipper是一款非常实用的工具。

举例来说,Facebook去年已经在自家基础设施中开始使用McDipper。通过这种方式,社交网络巨头得以将与图片相关的散列元数据保留在内存当中,而将真正体积庞大的图片本身保存在闪存这边。

看Facebook七十二变 再造Memcached “转世”为McDipper

McDipper的存储布局

“这套配置为我们提供了在闪存设备上压缩写入放大率所必需的大规模连续写入功能,并允许我们通过一次闪存存储读取获得图片内容,并将单独写入作为高效批量操作中的一部分,进而实现图片存储,”该公司指出。

在McDipper的帮助下,Facebook公司得以在处理某些任务时将服务器数量缩减为原先的10%,并且确保90%以上的请求能在亚毫秒级时间内得到响应。

尽管不少存储技术都针对跨存储分层数据提供了一系列处理工具,但这些方案往往会带来延迟提升或者额外的授权许可支出。

而在另一方面,memcached则是一套简洁且易于理解的系统。尽管存在局限,但管理人员仍然可以借此削减基础设施并直接把关注重点放在存储身上。这套系统最初是用来为LiveJournal提供支持的。

通过开发McDipper,Facebook帮助自己有效回避了过分依赖特定供应商可能带来的技术弊端。

该公司在博客中写道,这项技术目前正被Facebook的内容交付网络(简称CDN)用于处理来自前置缓存超过150Gbps的数据流量。

尽管该公司并没有计划尽快将这套协议作为开源方案公布于众,但负责开发工作的工程团队却乐于将其推向开源,一位来自Facebook公司的发言人向The Register网站透露。

在此之前,此方案一直躲在社交网络巨头身后消耗存储工程师们的脑力,公司CEO Zuckerberg在总部的办公室里可能还接到了不少精通基础设施的求职者们塞来的简历。

    • 评论
    • 分享微博
    • 分享邮件
    邮件订阅

    如果您非常迫切的想了解IT领域最新产品与技术信息,那么订阅至顶网技术邮件将是您的最佳途径之一。

    重磅专题
    往期文章
    最新文章