数据库自主创新实践加速,MogDB如何实现自我进化与应用?

发表时间: 2024-01-11 09:49

  【天极网企业频道】在IT架构中处于核心位置的数据库,是连接上层应用和底层基础资源的重要枢纽,相当于人的“记忆系统”,用于存储、调取数据,其重要性不言而喻。可以说,数据库是与芯片、操作系统并列的现代信息技术领域的三大核心,是基础软件“皇冠上的明珠”,同时更是支撑信息系统安全稳定运行的重要保障。

  近年来,国产数据库已呈现出加速增长趋势,以openGauss系数据库为例,弗若斯特沙利文发布的《重点行业数据库应用调研报告》显示,2023年中国数据库市场线下集中式openGauss系新增市场份额达21.9%,已规模应用于金融、政府、电信等十大关键行业核心场景。其中,云和恩墨基于openGauss内核推出的MogDB数据库在不断进化的同时,也在金融等行业持续商业落地。

  金融行业数据库自主创新正在加速

  当前,金融市场的软件升级、数字化转型已进入关键时期。在工信部赛迪顾问软件与信息服务业产业研究中心发布的《2022-2023年度中国平台软件市场研究报告》中显示,金融行业将超越电信与互联网行业成为平台软件增长最快、规模最大的应用市场。

  而国产数据库作为我国金融信息系统的关键软件基础设施,在积极发挥支撑金融行业数字化和高质量作用的同时也迎来新的发展。根据《数据库发展研究报告(2023年)》,我国已迈入全球数据库产业第一梯队,市场规模占全球7.2%。

  在笔者看来,当前国产化数据库要发展起来,既需要面对金融业升级转型的迫切需求,又要应对本土数据库市场激烈的竞争。要想脱颖而出,势必要深入了解金融行业对于数据库的需求,针对互联网化、支付场景移动化、服务普惠性、海量交易等金融业出现的新变化,进行数据库的调优,探索数据库升级改造的方向。

  在金融场景下,升级改造数据库需要面对敏态与稳态需求并存带来的压力:首先,迅猛发展的互联网金融业务为IT系统带来巨大的性能、弹性、成本的压力,数字化升级的步伐不断加快,数据库升级改造也必须同业务发展同频;其次,信息技术与应用创新趋势下,业务需要高性能、高安全、易扩展、易管理的IT架构;第三,业务连续性要求越来越严,系统升级也需要稳步推进。

  总的来看,在数据库升级的选型过程中,数据库需要满足数据强一致、极高可用性、弹性可扩展、平滑升级等更高要求。在近日召开的openGauss Summit 2023上,云和恩墨客户成功部研发架构师罗海雄表示:“为了应对客户对敏态与稳态业务的多样化需求,我们需要从PoC开始到架构设计、数据迁移与应用适配,再到最终的系统上线等环节,充分考虑并满足客户未来业务发展的需要,帮助客户实现更平滑的数据库迁移上线。”


 云和恩墨客户成功部研发架构师罗海雄发表演讲

  数据库平滑迁移有哪些核心要点?

  以服务某期货交易所为例,云和恩墨将整个服务过程分为PoC、架构设计、数据迁移与应用适配、系统上线等环节。针对整个流程,罗海雄表示:“云和恩墨在整个过程中都有完备的工具、专业的专家团队和经过实践验证的解决方案,能够最大程度地支持用户业务系统数据库的平滑迁移和安全保障。”

  其中,PoC是整个服务的开始也是至关重要的环节,这一环节的工作主要在于匹配客户需求、展现产品优势。“在PoC阶段,我们面临最大的挑战是如何让产品展现出客户所需要的特质。”罗海雄如是说。这就需要了解客户在业务连续性、数据强一致性等方面的要求,同时兼顾高并发、低延时等性能表现,此外还需要实现源库兼容、平滑迁移。

  在罗海雄看来,了解客户的需求只是PoC的第一步,接下来还需要进行测试等验证环节。功能上需要进行一致性ACID测试、高可用测试、备份容灾测试,性能上需要进行TPCC压测、简单SQL测试、业务复杂SQL测试,适配上的表结构与迁移测试、语法兼容度测试、SQL改写测试等。罗海雄表示:“区别于其他数据库,MogDB还增加了可观测性、自动安装工具、自动化运维等专有特性的展示。”

  系统架构设计也是至关重要的一个环节,在这一环节不仅需要满足两地三中心、全栈国产化等业务架构方面的设计需求,同时也要满足运维、监控使用的架构设计。云和恩墨提供了zCloud数据库云管平台,实现了多元混合数据库统一管理。罗海雄表示:“zCloud最大的能力是异构兼容性,支持Oracle、DB2、openGauss、MogDB、达梦等商业、开源、国产数据库,实现资源的统一调度管控、按需分配。”

  罗海雄认为系统架构设计之后的适配与迁移环节也需要投入大量精力。他表示:“自主创新迁移并不是简单的数据搬迁,除了确保数据的一致、业务功能的等价、最小化停机的基本原则外,更多地要关注兼容性改造、性能的保证,从而实现,方案完备、迁移可靠、改造适度、测试充分、工期可控、运行稳定。”在数据迁移环节,云和恩墨提供的配套迁移工具,能够确保结构同步与数据同步,可以达到每小时1TB数据迁移和自动一致性校验的效果。

  技术创新加持下的MogDB Cube一体机,价值何在?

  云和恩墨在服务金融等行业时,除了展现出服务能力强、流程完备等优势外,其技术研发、产品或解决方案的迭代能力也是值得肯定的。从云和恩墨在金融行业的应用实践中,我们可以看出,MogDB在助力客户自主创新实践中展现出高可靠、高性能、高易用、高兼容的特点。

  当然,除了数据库在各个行业迁移替代遇到的挑战外,我们还发现,随着业务的拓展、数据量的激增,单机能力并不能承受业务增长带来的压力。此时,数据库领域呈现出Share-nothing分布式架构与Share-everything资源池化架构两种技术演进方向。那么,企业应该选择哪种方案作为国产数据库的替代?

  云和恩墨·本原数据技术合伙人张程伟认为,从可靠性、性能、成本、运维方面考虑,Shared-everything资源池化架构更适合当下国产数据库平替的场景。面对数据库国产化替代的需求,云和恩墨一直在思考如何将自身对于行业的洞察、理解和来自用户的需求变成产品力。为此,云和恩墨推出了MogDB数据库一体机——MogDB Cube。


 云和恩墨·本原数据技术合伙人张程伟发表演讲

  简单来看,MogDB Cube基于鲲鹏多核处理器的性能算力,结合企业级数据库MogDB,并在底层使用了云和恩墨拥有自主知识产权的分布式存储软件zStorage。zStorage在鲲鹏服务器下平均单节点性能达到50万IOPS的同时可以达成0.8毫秒的平均时延,还能够在磁盘故障场景下完成每15分钟1TB数据的重构。这样能够满足用户在数字化转型升级过程中所遇到的高并发、高性能,以及简化运维的场景化需求。

  针对数据库场景的优化,MogDB Cube存储层实现8K原子写,能够确保写的原子性,从而去除数据库双写代价;此外还包括,xlog日志下盘实现多路异步写,确保无空洞保序返回,在保证数据一致性的前提下提高事务提交性能。张程伟表示:“优先处理xlog日志的IO,即使在负载过载的情况下还能获得稳定的事务提交性能;同时基于分布式存储的快速克隆技术,能够实现整个数据库集群的快速克隆。”

  资源池化架构是最新版MogDB的最大亮点。内存池化技术通过分布式锁,将不同节点的内存整合为全局一致的分布式缓存,避免在主备节点间复制xlog日志,将主备切换的RTO时间进一步缩短到10秒以内,同时还使得备机可以提供实时一致性读的能力,帮助对数据一致性敏感的业务从单节点扩展到集群能力。存储池化技术,通过分布式文件系统提供多个数据库节点一致访问共享存储的能力,这样可以使数据库集群中的主备节点能够共享访问同一份数据,将存储成本降低50%以上。“当企业需要扩容数据库节点提升性能时,不再需要在新节点构建全量数据,可以直接挂载访问共享存储上的同一份数据,实现分钟级的备机扩容。”张程伟做了详细的阐述。

  另外,MogDB Cube还针对大容量混合负载进行了性能优化。其通过读写分离,以及将只读业务自动负载均衡到多个备节点,低冲突场景可达70%的线性度,而在一主两备架构下,多机并行查询可以使TPC-H总性能提升150%。

  同时,MogDB Cube中还融入了云和恩墨数据库云管平台zCloud的图形化管理能力和自动化、智能化的运维能力,提供开箱即用的一体化的交付形式,更是为用户节省了80%的部署时间。

  张程伟介绍到,在与某客户联创方案中,客户在生产中心和灾备中心各部署一套MogDB Cube,采用“2+3”的架构,即两个数据库节点和三个存储节点,从而形成MogDB Cube资源池化架构。此外,客户还在生产中心和灾备中心采用xlog日志同步复制,确保达成容灾等级要求。

  总结来看,MogDB Cube一体机产品,特别适合于对RTO敏感的核心业务场景,并针对大数据量混合负载场景(TP和AP)做了大量性能优化,并且可以有效减少建设成本和运维投入。

  写在最后

  如今,随着国家对信息安全和自主可控要求不断提高,国产数据库市场也逐渐崛起,并进入高速发展阶段。

  沙利文咨询合伙人兼董事总经理杨晓骋曾表示,从国家“十四五”提出要大力发展数据库以来,数据库产业在中国有了蓬勃的发展,从市场份额来看,2019年的国产化比例为35%左右,而到2022年年底,国产化的比例已经接近50%,这是一个非常令人欣喜的成绩。

  进入高速发展阶段也要求国产数据库厂商更要持续发力,一方面,加强技术研发,突破技术攻关、产业生态优化、应用协同等方面的难题,另一方面,加强行业实践,从各行各业的场景化需求出发,积累行业实践经验,从而助推国产数据库行业的繁荣与发展。

  我们注意到,在自主创新、拥抱开源生态、推进行业应用落地方面,云和恩墨也在进行着自身实践,并致力于通过数据库基础软件和管理软件赋能千行百业的数字化升级转型,期待在未来云和恩墨通过MogDB的自身进化和广泛应用能够推动中国数据库技术的创新与发展,为用户创造更多的价值。