数字化时代,技术迭代更新比以往任何时候都要来得迅猛一些,数据库技术也在这股技术浪潮中迸发出巨大的发展张力,而作为数据库技术灵魂的内核技术也随之实现了跃迁式发展。
华为云数据库历来重视内核技术研发,拥有丰富的数据库内核研发经验,并持续构筑了一系列极具竞争力的内核特性。近期,华为云新一代金融级分布式数据库GaussDB(for openGauss)正式推出了Ustore存储引擎、基于Paxos协议的DCF高可用组件等多个重大内核新特性,为企业级用户打造了稳定高性能的存储引擎、高可用的内核能力,以创新技术为抓手,进一步推动企业数字化转型。
Ustore存储引擎创新,数据频繁更新下性能依旧稳如泰山
Ustore存储引擎,又名In-place Update存储引擎。In-place Update中文意思为原地更新,是GaussDB(for openGauss) 内核新增的一种存储模式。GaussDB(for openGauss) 内核当前使用的行引擎是Append Update(追加更新)模式。追加更新对于业务中的增、删以及HOT(Heap only tuple) Update(即同一页面内更新)有很好的表现,但对于跨数据页面的非HOT UPDATE场景,垃圾回收不够高效。
而Ustore引擎将最新版本的“有效数据”和历史版本的“垃圾数据”分离存储,最新版本的“有效数据”存储在数据页面上,并单独开辟一段UNDO空间,用于统一管理历史版本的“垃圾数据”,因此数据空间不会由于频繁更新而膨胀,垃圾回收效率更高。Ustore引擎采用NUMA-Aware的UNDO子系统设计,使得UNDO子系统可以在多核平台上有效扩展;同时采用多版本索引技术,解决索引清理问题,有效提升了存储空间的回收复用效率。
图1:Ustore数据存储示意图:数据在原page页,undo通过指针单独管理
总之,在这种设计思路下,相比原有垃圾数据清理机制,Ustore数据存储能带来更高性能、更高效率,空间利用更充分,整体系统运行更加平稳,适应更多业务场景和工作负载。
应用实践方面,Ustore存储引擎已在部分客户现场进行了POC测试,表现出稳定可靠的数据库服务能力,达到了预期的效果。
基于Paxos协议的高可用DCF组件创新,确保数据强一致和高可用
除了Ustore存储引擎外,GaussDB(for openGauss)还推出了基于Paxos协议的DCF高可用组件,该组件使得GaussDB(for openGauss)在保证数据一致性的同时,在高可用方面可进一步得到增强,包括:
(1)通过自仲裁、多数派选主能力摆脱第三方仲裁组件,极大缩短RTO时间,且可预防任何故障下的脑裂双主;
(2)支持节点同步、同异步混合部署的多集群部署模式;
(3)提升主备间节点日志复制效率,提升系统的最大吞吐能力。
图2:Paxos原理示意图
借助GaussDB(for openGauss)的DCF高可用组件,用户不仅可以免去系统脑裂的风险,还可以提升可用性。
面向未来,GaussDB(for openGauss)将基于AI自治技术,在Ustore存储引擎、Paxos协议自选主等关键特性方面持续构建更智能、更安全、更高效的技术能力,并从千行百业数据库应用的最紧迫问题和长远需求出发,不断在核心技术上进行突破,为客户打造更领先、更优质的数据库服务。
【重磅活动预告】
8月18日,以“数造未来”为主题的第12届中国数据库技术大会(即DTCC2021)将在北京隆重召开,现场特设华为云GaussDB专场,届时将为您解读GaussDB系列数据库及核心能力,分享GaussDB行业最佳实践。另外,GaussDB迁移工具新品UGO目前正在火热公测中,欢迎前往华为云官网免费体验。
好文章,需要你的鼓励
南洋理工大学研究团队开发了WorldMem框架,首次让AI拥有真正的长期记忆能力,解决了虚拟世界模拟中的一致性问题。该系统通过记忆银行存储历史场景,并使用智能检索机制,让AI能准确重现之前的场景和事件,即使间隔很长时间。实验显示在Minecraft和真实场景中都表现出色,为游戏、自动驾驶、机器人等领域带来广阔应用前景。
AWS通过升级SageMaker机器学习平台来扩展市场地位,新增观测能力、连接式编码环境和GPU集群性能管理功能。面对谷歌和微软的激烈竞争,AWS专注于为企业提供AI基础设施支撑。SageMaker新功能包括深入洞察模型性能下降原因、为开发者提供更多计算资源控制权,以及支持本地IDE连接部署。这些更新主要源于客户需求,旨在解决AI模型开发中的实际问题。
MTS AI研究团队提出RewardRanker系统,通过重排序模型和迭代自训练显著提升AI代码生成质量。该方法让13.4B参数模型超越33B大模型,在多种编程语言上表现优异,甚至在C++上超越GPT-4。通过引入困难负样本和PPO优化,系统能从多个代码候选中选出最优方案,为AI编程助手的实用化奠定基础。