一、项目背景及目标

在省联社全面打造“数字农商”的背景下，在全速推进科技兴行、创新驱动的引领下，在《全省农商银行数字化转型实施方案》的指导下，伴随着信息技术的不断发展，传统的数据库已无法很好适应业务发展，以及未来业务的高可用要求。传统的数据库已经成为制约业务可持续和高可用的瓶颈点。主要表现:一是业务连续性保障能力弱，数据库单点，容易成为瓶颈，横向扩展受限，系统弹性不足，高可用表现欠佳，多活实现困难。二是数据迁移影响范围大，传统数据库一般都提供了原生的迁移工具，然而这些工具都只能进行全量数据拷贝，为了保证迁移数据一致性，要求业务在数据迁移之前需要停止服务，核心系统在数据量比较大的情况下，整个应用停服时间可能高达几个小时甚至数天，这对应用影响极大。

目前江西农信传统应用系统多采用传统数据库，随着数据迁移的工作开展，省联社在数据迁移期间根据不同的业务属性的应用数据库，需要做到既能够支持不同传统数据库的数据迁移，又要能大大缩短应用的停服时间，保持在分钟级别甚至应用不停服，要能够极大得降低数据迁移对业务的影响并且数据迁移期间对传统数据库的性能影响要降到低，从而实现对业务的无感知迁移。

二、项目方案

（一）数据迁移方案

对于大型金融机构而言，数据库的安全，稳定是绝对不可动摇的“生命线”，因为他存储着几十年来积累的数据资产，包括上亿条用户信息、几十亿笔的交易信息，不容有任何闪失。自2019年百福云平台开始建设以来，到2022年经过三年的应用上云工作，推动了营销中心、集中作业、合约中心产品中心等重要系统上云成功后，开始推动传统数据库的数据迁移上云。但现实的问题是究竟选择什么样的业务系统，通过什么样的步骤进行迁移改造是摆在面前的首要问题。为此，我们认为数据库迁移需要遵循以下几个原则： 

1、数据备份。数据迁移前，应对数据进行备份以防任何潜在的风险导致数据丢失。

2、验证数据的复杂度和质量。验证数据的复杂度，明确迁移数据的对象，并对数据质量进行评估和检测。

3、创建数据迁移策略。制定好数据迁移的方案和策略，明确哪些类型的数据一次性迁移同步，哪些数据增量同步，是数据迁移成功的关键。

4、合适的数据库迁移工具。使用正确的工具可以对数据做基本分析，数据质量验证及完整测试。

5、数据迁移的业务要求。数据迁移源端的业务尽可能不受影响，做到迁移无感知。

6、需要建立完备的灾难逃逸机制。

根据数据库迁移原则以及上云目标，我们制定了一套成熟稳定的数据库平滑迁移方案，该方案依托数据传输平台（简称DTS），实现了关系型数据库（RDBMS）、非关系型的数据库（NoSQL）、数据多维分析（OLAP）等数据源间的数据交互，该平台集数据同步、迁移、订阅、集成、加工于一体，助力构建安全、可扩展、高可用的数据架构。方案如下图所示：

（二）数据库整体迁移割接流程

该实施方案以外包录入系统作为试点，外包录入当前采传统数据库的经典技术栈，但随着银行网点增多、信息技术的不断发展，现网外包引擎服务的双机热备、单机服务模式已无法有效满足业务发展要求，系统的吞吐量和连续性无法有效保障；因此整体考虑引入云的技术实现系统升级换代，实现技术架构云化转型。其中外包录入系统使用RDS MySQL数据库替换DB2 for LUW，项目的整体技术架构如下所示:

在前期的压测过程中，江西农信项目团队对可能出现的任何一个问题都刨根问底。比如,测试过程中发生数据不一致的情况，是什么原因导致、怎么解决，追问得非常仔细。农信数据迁移项目现场负责人反复强调一句话：“一定要定位问题、解决问题，否则系统就绝对不迁移”。为此数据迁移团队准备了非常详实的迁移方案：迁移分为环境资源准备、迁移前规范检查、迁移演练、正式迁移、迁移监控五个阶段、切分为15个任务、40个子任务；每个环节有谁负责，需要做什么都有明确安排。

三、创新点

1.业务不停服或分钟级停服

银行业务在数据迁移过程中对业务，技术难度较高，业务影响面大；传统系统迁移一般需要较长的停机窗口，例如周末期间迁移系统、期间不对外提供服务；使用传统数据库数据平滑迁移上云解决方案对业务影响基本无感，做到了不停服或者分钟级的停服。此次创新实践，再次证明了云计算技术在可落地性、安全性、稳定性等技术方面已经有足够竞争力，为行业数字化转型提供了可供借鉴的新思路。

2.云上云下数据实时同步满足实际复杂的业务要求

在实际迁移中真实业务具有复杂性高、业务逻辑频繁迭代更新，在迁移阶段业务逻辑可能存在表结构的修改，常见的如表结构字段的新增、字段删除、字段精度的修改、TRUNCATE的动作也可能发生甚至由于业务逻辑的变更要求数据迁移具有数据的断点续传能力等情况，复杂的业务情况不断给数据迁移提出更高的要求。在这种特殊的业务需求下进行数据迁移及要保证业务的连续性又要保证数据的实时同步和数据一致性，如果采用传统的数据迁移方式是非常不方便，也保证不了云上云下数据一致性，很可能会影响正常的线上业务。该传统数据库平滑迁移上云解决方案能够满足以上在实际复杂的业务环境下进行数据迁移高标准要求，并具备对迁移的数据进行自动化数据校验的能力，及时发现和提示数据的差异的数量和原因，给人工处理数据提供决策依据，保证了业务数据的稳定迁移。

四、技术实现特点及优势

本方案运用成熟的技术，旨在保证数据迁移的高效性的同时兼顾数据一致性进而保证业务的可靠性。

1、支持多种异构数据源之间的迁移上云。支持的传统数据库类型非常丰富如常见的Oracle、MySQL、SQLServer、PostgreSQL、Mongodb、 DB2以及常见的NoSQL，目标库支持常见的数据库如AnalyticDB MySQL、PolarDB MySQL、RDS-MySQL、AnalyticDB Postgresql等，基本覆盖了农信系统常见的传统数据库。

2、高性能。该方案使用高规格服务器来保证每条迁移或同步链路都能拥有良好的传输性能。对于数据迁移，底层采用了多种性能优化措施，全量数据迁移高峰期时性能可以达到70MB/s，20万的TPS。相对于传统的数据同步工具，DTS的实时同步功能能够将并发粒度缩小到事务级别，能够并发同步同张表的更新数据，从而极大地提升同步性能。高峰期时，数据同步性能可以达到30,000RPS。DTS链路支持多并发压缩传输，降低传输链路对带宽的占用。

3、断点续传的能力。提供链路断点续传功能，解决网络或系统异常等导致的链路中断问题，且定期监测所有链路的状态，一旦发现链路异常，先尝试自动修复重启。如果链路需要用户介入修复，用户可以直接在控制台修复并重启链路。

4、安全可靠。平台底层为服务集群，如果集群内任何一个节点宕机或发生故障，控制中心都能够将这个节点上的所有任务快速切换到其他节点上，链路稳定性高。平台内部对部分传输链路提供7×24小时的数据准确性校验，快速发现并纠正传输数据，保障传输数据可靠性。平台各模块间采用安全传输协议及安全token认证，并具有自动断点续传机制，有效地保证数据传输的可靠性。

五、项目过程管理

江西农信成立了以架构科牵头的应用上云管理办公室来牵头和协调技术专家，开发人员，测试团队等多方的资源聚焦数据迁移项目。数据迁移试点在上云管理办公室领导下于2022年5月启动实施，11月完成底完成迁移方案的整理和方案的验证并于2022年12月14日完成数据迁移。百福云项目组在执行中严格把控项目迁移方案，多次多轮对方案进行评审和验证，确保了方案的可行性安全性可靠性。

1.人员保障

组建项目团队，分别由项目经理，技术专家，开发人员，测试团队以及产品研发专人专岗的虚拟项目建设小组，对接本次项目建设的各项支持配合工作。同时组建专家支持小组，由行方架构人员、行方项目经理、产品专家、产品研发经理等人员，对项目中出现的技术问题、攻关难题进行决策，保证项目顺利进行。

2.项目风险和控制评价

项目在建设中，项目组内根据多年的行业经验及现场的状况，对可能出现的风险进行了充分的评估及规避。对于项目建设过程中遇到的问题困难、技术瓶颈以及数据库性能优化等工作，积极协调专家资源和技术保证，确保项目顺利进行。

3.沟通汇报机制

在项目实施过程中，建立专属项目推进工作群，项目组成员积极主动的与群内相关系统和业务人员进行沟通，从项目实施中来看，沟通效率高，相互配合好。同时要求项目负责人每周按时提交项目周报，并在百福云项目周例会上进行汇报项目当前进展、项目存在的风险和问题，以项目进度各个里程碑为目标，持续推进项目建设。

六、运营情况

外包录入系统作为江西农信不停服数据迁移上云的试点应用，该系统采用的是IBM的DB2数据库典型的传统数据库迁移上运。外包录入系统自2022年12月迁移上线以来，日均录入笔数4万笔，日录入峰值6万笔，主要有结算业务申请书、进账单、托收凭证、转账支票、承兑汇票、定期存单等凭证的34种碎片信息录入，共涉及个人转账汇款、单位转账汇款、现金汇款、个人批量汇款、单位批量汇款、发出委托收款登记、收到委托收款登记等9个柜面交易,数据迁移完成后业务运行正常。系统迁移上线当日，支撑全省2000多家营业网点在业务高峰期实现1分钟内完成300次系统访问；在保障性能与此前持平的前提下，IT成本仅为原来的十分之一。

七、项目成效

1.数据迁移严谨高效

该方案即使在业务高峰期对源库进行存量迁移对源库服务器的带来高20%的性能开销，在业务低峰期进行存量数据迁移对源库的服务器性能开销影响能降到10%以下，增量迁移对源库服务器的性能基本无开销，并且在迁移过程中迁移速度快能达到10分钟/千万级的数量，整体方案体现出了严谨性可靠性以及迁移快速高效的特点。

2.数据安全自主可控

2019年12月，《科技日报》发表系列文章，总结出35项“卡脖子”的关键技术，数据库赫然位列其中。江西农信传统数据库主要是以国外厂商为主，通过此次数据迁移方案成功的把数据迁移到国产数据库，实现了自主可控且具有以下的优势：

安全性高：可以有效保障数据的安全性和隐私保护，防止数据泄露和攻击。

可控性强：可以满足国家政策和法律法规的要求，实现数据的自主可控。

性能稳定：具备高可靠性、高可用性和高性能的特点，可以满足行方大规模企业级数据库的需求。

成本低：相对于国外数据库系统，国产数据库自主可控的价格更加实惠，能够满足行内的预算要求。

3.难啃的骨头：老旧关键系统数据迁移持续进行中

传统数据库平滑迁移上云解决在外包录入系统的试点成功，初步形成了围绕传统数据库迁移上云的整体可实施方案。该方案的试点效应已经初步显现，并已经逐步辐射到江西农信其他应用系统如信贷系统、中间业务系统、手机银行等关键业务系统开始进行传统数据库的平滑迁移上云。

八、经验总结

纵观整个项目的实施过程，为了快速的完成既定目标，让升级后的产品为客户提供更加稳定便捷高效的服务，积累了如下几点经验：

1.前期充分调研

凭借充分仔细的调查研究，掌握了解业务系统数据迁移的细节要求、数据库特定功能的依赖。在全面了解当前数据迁移要求的情况下，专业人士起草有针对性的数据库迁移具体方案，并分析可能面临的问题，提前制定预案，打有准备之仗。测试项目的制定在充分考虑现有功能点/性能需求的同时，也应该将未来预期的业务增量和产品创新纳入考量范畴，验证新的实现满足业务换代升级后的各种需要。

2.中期协调推进

项目实践过程中难免会遇到问题，传统数据库在日期和时间类型、非空约束判断、分页查询、范围分区定义、脏读支持等方面于云原生的数据库有一定区别，通过积极协调并联合业务软件供应商和数据库软件供应商，让业务开发加深对原生分布式数据库技术特点的理解，让数据库厂商明晰业务实现背后的原因，两相配合，互相促进，解决面临的问题却不拘泥于此，更是发掘系统的潜力，探索功能一致性前提下基于新技术带来的各项收益，使迁移的过程进而成为系统演化创新的过程。

3.后期总结推

成功的数据库替换项目往往具有可复制性，以真实数据做支撑，效果更直观显著。从零到一的全过程，有分享，有讨论，有实践，有突破，提升了参与人员的知识和能力，加强了供应商间的沟通协作，进而形成一套稳定可行的实施步骤；从一到一百，在更多子系统中完成数据库国产化，我们已经准备就绪。我们预测，随着越来越多的子系统完成国产数据库的转换，将大大提高我行内部的工作效率，减少因数据库问题导致的系统崩溃、运行缓慢等问题，满足我行系统规划长远发展的要求，有利于客户满意度的提升。