创新存储架构突破IPFS算力瓶颈 西部数据的这些技术探索

来源:业界供稿    2021-04-16 18:18:41

关键字: IPFS存储

西部数据副总裁兼中国区业务总经理刘钢先生,发表了《创新存储架构 突破IPFS算力瓶颈》的主题演讲,引发行业热议。

随着疫情的平稳,2021年CITE也于上周五在中国创新之都深圳的国家会展中心,拉开了序幕。在历经了罕见的全球化疫情侵扰后,数据的价值进一步被放大,在大数据的强大算力支持下,智慧医疗,AI配送,在线教育,云监管等一系列,基于数据存储的业务在疫情之下实现了爆发性的增长,也让越来越多的从业者意识到数据的真正意义。

在此背景下,来自全球的各大数据存储大厂集结深圳CITE,共同出席了深圳国际大数据与存储峰会,并分享了它们对于大数据和存储产业的行业发展和产业动态。作为数据基础架构提供商的西部数据,此次也携众多合作伙伴共同出席此次峰会,同时,西部数据副总裁兼中国区业务总经理刘钢先生,发表了《创新存储架构 突破IPFS算力瓶颈》的主题演讲,引发行业热议。

<西部数据公司副总裁兼中国区业务总经理刘钢>

01 迭代存储架构 高效存储数据撬动数字经济新动能

刘钢先生一上台,便以一组数据作为引子,与在场的观众分享了当下和未来大数据存储的发展趋势。

通过数据表格,可以发现几个有趣的现象,在HDD方面,“在2024年的时候,以HDD为代表的大数据预计将增长到1.62ZB,那从现在开始到2024年,年化增长率在30%左右”,“而在SSD为代表的快数据方面,2024年快数据存储预计将达到333EB,年化增长率几乎接近50%”,这表明在绝对增长上,无论是大数据还是快数据,都有着相当的活力和潜力。

<西部数据公司副总裁兼中国区业务总经理刘钢>

而每年产生如此多堪比石油、黄金的数据,又有多少被安全高效的存储了呢?答案是大概1.5%,“因为在2024年产生的数据有143个ZB,大数据只存入了1.62个ZB,快数据333个EB(0.333ZB),所以加在一起也小于当年产生的数据的1.5%。”

那么剩余的超过98%的数据为何无法被安全高效存储呢?原因在于存储架构的老旧和存储技术的落后,刘钢先生表示,我们需要创新存储架构,为更多海量的数据进行存储、挖掘和分析,唯有如此,才能更好的利用数据,撬动数据经济的新动能。

02 去中心化的IPFS架构降低存储成本 创新存储架构

面对新兴的存储需求,存储架构的迭代和创新也面临的诸多的挑战,刘钢先生总结到,“创新存储架构的挑战总结来说就是用户既需要大容量、也需要快速访问、又需要低成本、还需要低功耗。那么有没有一个存储设备或者一种存储介质能够同时满足这四个方面的需求?”

实际上,几乎很难从存储设备或存储介质方面,找到能够满足这四个方面需求的完美解决方案。可当你从部分的存储设备和介质中剥离开来,回到整体或系统化的进行存储架构的创新时,就会发现这个棘手的问题,有了解决的可能。

其中,以去中心化为特点的IPFS存储架构,相较于传统的中心化思路的云存储服务商,能够显著的节省它们的服务提供成本,进而降低整体系统的存储成本。

03大数据存储解决方案:企业级高密度的HDD

接下来,刘钢从传统大数据存储和新兴的快数据存储两个方面,为在场的行业同仁分享了西部数据进行的一些技术探索。

在分享技术探索之前,刘钢也引入了一个新的概念和理解,他表示,“数据是有价值的,同时数据也是有分层的,我们把它简单分成五层,有极热数据、热数据、温数据、冷数据和极冷数据。”

根据数据分层不同,数据延迟,应用场景和成本制造也有着明显的区别,就以大数据存储而言,基于其少量写入、大量读取、大量数据的应用特性,西部数据将其归为极冷数据和冷数据类别,并为其提供了业界单碟最高2.2TB,总容量达20TB的Ultrastar DC HC650,这是一款定位于极冷数据的SMR HDD,更低的TCO&Watt/TB,更小的体积,能够极大的节省大数据存储采购和运维成本。

当然,对于HDD有着一定性能需求的数据中心,西部数据也提供了性能更强,存储容量依旧夸张的Ultrastar DC HC550,这款HDD,采用的是CMR架构,并通过三级磁臂设计,进一步提高硬盘性能,同时在容量方面,也达到了18TB,能够满足以IPFS为代表的众多服务商的存储需求。

无论是18TB还是20TB,西部数据提供的更大容量单盘HDD,能够显著的提升单位功耗,降低服务器基准成本以及服务器总体拥有成本,也被包括DropBox在内的云服务商率先进行了验证和适用。

<峰会现场西部数据展台>

04 快数据存储解决方案:闪存优势+纵向集成

至于在以SSD为核心,追求高性能计算的密集型工作负载,或是主流的读写均衡混合型的工作负载,西部数据依旧有一系列针对性解决方案。

无论是密集型或是均衡混合型,其背后都需要高性能SSD进行硬件支撑。而西部数据在SSD领域拥有着多年的研发经验和深厚的技术积累。

首先是关于SSD中NAND闪存产量方面,SSD的成本核心在于NAND闪存,而西部数据作为全球领先的NAND原厂,和合作伙伴铠侠一同占据全球三分之一的原厂份额,同时西部数据拥有稳固的NAND产业领导力,以及固定的NAND技术投资承诺,使得它能够在NAND闪存的制造和产能方面有着绝对话语权。

其次在闪存技术方面,刘钢先生表示,“我们刚刚发布了第6代3D闪存技术,162层的3D闪存技术,会进一步地缩小芯片的尺寸,降低成本、提高性能。它的程序性能可以提高两倍以上,输入输出的IOPS提高约66%”,随着第六代3D闪存的问世,西部数据将继续保持在NAND领域的领导地位。

最后,更为关键的是纵向集成优势,SSD作为一个高度集成化的产物,不仅需要各个组件的高质高性能,更需要有优秀和可靠校正和优化,进而发挥所有组件的潜能。而西部数据集成了完全自主的NAND颗粒,SSD主控器以及固件于一体,能够轻松完成产品的校正和优化,进一步提升SSD产品的性能和稳定性。

因而,无论是针对读写均衡的混合工作负载还是密集型工作负载,西部数据都有能力匹配和提供相应的SSD,以满足客户需求。

05 IPFS存储创新解决方案以及合作伙伴的解读

如果将上述的存储技术和存储架构应用到IPFS领域,又能产生哪些新应用呢?刘钢分享到,“目前IPFS服务商的存储痛点,主要有数据吞吐量低、空间利用率低、难扩容、总体拥有成本高、运维低效以及故障惩罚高等,但是通过西部数据提供的一系列存储新架构和存储新产品,能够针对性解决上述诸多问题。”

刘钢再次分享和推荐了,和西部数据共同建展的诸多IPFS合作伙伴,并通过它们的案例为在场从业者,提供了相应的IPFS的存储解决思路。

首先是西部数据、星辰天合、浪潮联合推出的IPFS解决方案,通过部署西部数据Ultrastar DC HC550 18TB硬盘,显著提高了的存储容量,同时降低集群的节点数量,节省能耗、机柜空间等相应成本;

其次则是西部数据与杉岩数据携手赋能IPFS存储,西部数据与杉岩数据联合推出了融合了杉岩 MOS海量对象存储系,Ultrastar DC SN840/640、Ultrastar DC HC550和JBOD存储平台的 IPFS解决方案。通过构建高性能、大容量、低成本、简运维的存储方案,极大的降低IPFS业务的总体拥有成本,全面提升经济效益。

< 西部数据Ultrastar DC SN840 NVMe SSD和西部数据Ultrastar DC HC550 18TB HDD>

最后,西部数据还携手长城超云打造了IPFS“新范式”,以及牵手灵动公司,提供西部数据的存储解决方案,进一步提升用户效应。

“所以总结来讲,针对Web3.0或者IPFS的基础设施架构,针对它的存储集群,我们有高密度的磁盘扩展柜、大容量的18T硬盘,还有Ultrastar DC SN640 NVMe SSD来作为缓存。

针对它的计算集群,我们有Ultrastar DC SN640 NVMe SSD,还有Ultrastar DC SN840 NVMe SSD写密集型的SSD。”

刘钢在整个主题演讲的末尾做了总结,西部数据能为广大的用户群体提供的各种不同需求的存储解决方案。同时,西部数据也能够就IPFS的计算和存储优化,进行更多的技术合作,共同推动未来数据存储架构的激活和发展。

    扫一扫

    分享文章到微信


    北京第二十六维信息技术有限公司(至顶网)版权所有. 京ICP备15039648号-7 京ICP证161336号京公网安备 11010802021500号
    举报电话:13070156560 举报邮箱:jubao@zhiding.cn 安全联盟认证