案例背景及面临挑战

在广东农信建设大集中系统初期，依据原有28个地市数据中心独立部署的特点，前置系统的应用架构是按照“省市二级部署”的模式建立。此种模式下由省前置承担全省公共的中间业务及支付业务；地市前置在原数据中心本地部署，承担当地的中间业务及特色业务，这种应用架构基本保持原有地市数据中心的业务部署结构，有利于大集中的快速推广。随着业务的不断发展，业务响应的要求不断提高，信息技术的日益创新，目前这种应用架构逐步凸显不足，越来越难以应付业务的扩展要求。主要存在如下问题：

1. 运维管理工作量大。

目前，地市前置数量众多，目前有22套地市前置系统，拥有22个系统版本，当操作系统、数据库、中间件、应用等软件需要升级打补丁时，生产运行维护工作量大。

2. 开发管理难度大。

目前除南海、佛山、高明、中山、三水、珠海、新会七个法人机构自行开发维护自身地市业务外，其余都由中心软件开发部负责地市业务的开发及设计工作，业务品种多、版本复杂。

3. 应用耦合性高、复用性低。

应用逻辑整合不足，渠道与业务耦合度高，业务复用性较低，难以应对某个业务在多个地市快速推广部署。一样的应用功能须在各推广的地市分别复制投产生效，推广效率低，维护成本高。

4. 资源分配不均衡。

硬件资源无法共享，目前地市前置都采用双机热备（HA）的高可用模式，全省22套地市前置共有22台应用服务器在绝大多数时间处于空闲状态，无法有效利用。

5. 难以应对互联网金融的冲击。

通过先进的技术架构体系，互联网企业在快速推出新产品、应用更新周期短等方面有着巨大的优势，可快速构建各类民生、理财等中间业务抢占市场，银行业普遍存在的传统架构难以应对快速竞争的市场发展趋势。

实施时间

本项目从2016年6月1日立项预研；2016年11月完成招标采购；2016年12月底实施厂商进场实施；至2017年5月26日完成试点业务投产，历时约一年。

应用技术／实施过程

（一）应用技术

目前云计算平台（简称“云平台）按照其所提供服务之层次细分为基础设施即服务（IaaS，提供完善的计算机基础设施服务）、平台即服务（PaaS，将软件研发的平台作为一种服务）和软件即服务（SaaS，提供完整的可直接使用的应用程序）。我们经过进一步探索IaaS、PaaS和SaaS中的相关技术堆栈，并根据我们的需求及未来规划进行选型及实施，探索建设基于PaaS服务的中间业务云平台的可行性及实施方案。

一方面，通过建设中间业务云平台实现对地市前置资源进行动态调整和分配的可行性，解决地市前置基础架构利用率低、物理基础架构成本日益攀升、IT管理成本不断提高以及对关键应用故障和灾难保护不足等问题，使业务量大的与业务量少的地市之间的基础资源可以更平衡地分配与利用，实现更高的资源利用率、降低硬件和运营成本。

另一方面，通过建设中间业务云平台，进一步完善和规范中间业务的系统开发与管理，对业务进行分类归并，并采用分层设计方法，按基础平台层（开发工具及引擎）、构件层、服务层、产品层进行产品模型设计及服务构建，且封装统一的标准化开发模式。解决应用逻辑整合不足，渠道与业务耦合度高，业务复用性较低的问题，以减少开发人员代码工作量，提升开发效率及提高开发质量为建设目标。

在本项目中，广东农信结合原有中间业务系统建设现状和多级法人的组织架构特点，基于开源技术框架，构建了广东农信的中间业务私有云平台，整个平台包括了云基础平台和分布式应用系统两部分组成，其中云基础平台包括了：基础设施即服务（IaaS），平台即服务（PaaS）；而分布式应用系统我们采用微服务架构对中间业务进行重构，构建全行级的功能组件和业务模型库。同时，充分考虑应用统一部署、法人间的应用资源及数据隔离的应用架构，建立复杂的多租户模型，解决95家法人机构的资源隔离问题，为广东农信全省95家法人机构提供“个性”与“共性”的科技服务。

目前项目已完成云基础平台建设及部分地市试点业务建设与投产应用，制定了整体平台推广和应用重构路线，并且对私有云平台建设过程中的关键技术进行研究与落地。这些关键技术主要包括基础云平台建设、业务微服务化设计、应用容器化部署等。

1、基础云平台

广东农信与国内先进的云计算开发商进行联合创新，针对银行业的特殊场景，打造广东农信特色的综合金融云解决方案，此方案包括了基础设施服务（IaaS）、平台服务（PaaS）、应用服务等几部份组成，各方相互融合协作，构成高效的中间业务云平台。

图3.1.云平台整体架构

在基础设施服务架构中，构建了基于OpenStack的云操作系统，对各个物理数据中心资源进行整合，对计算、存储等物理资源进行统一管理和调度，实现灵活的资源共享，提高资源利用率、降低管理成本。

在平台服务中，应用调度、资源管理、中间件服务等是PaaS的基础重要特性，其中关键特性包括两部分：

(1)应用调度：能够为各种类型的应用（容器应用、软件包应用、有状态/无状态等）选取合适的资源进行安装部署，并支持运行时管理操作，如：配置、更新、升级、卸载等。

(2)资源管理：管理用于托管应用的资源池，支持虚机、物理机、容器等不同类型资源，支持不同网络环境，支持静态资源纳管与动态资源创建等。

详细来说，主要有如下细化特性点：

• 标准的Restful API接口，可对资源进行管理。

• 抽象化资源模型，资源和模型对号入座，如ReplicaSet表示无状态应用，DaemonSet表示Agent类应用等。

• 多种安全认证机制，如X509证书认证，token认证等。

• 多租户鉴权机制，租户间资源互相隔离。

• 对容器和虚机应用进行整个生命周期管理。

• 亲和与反亲和等多样化调度策略。

• 集群联邦，即不同集群对接不同I层，适用于大规模、混合云场景。

另外，还利用ManageOne云管平台对IaaS层及PaaS层的资源的部署、监控、运维等提供服务化、自动化的统一管理能力，实现从应用层到PaaS层再到IaaS层的全面贯通联动。通过云平台和数据中心管理软件协同运作，达到多资源统一管理的融合,提升整体IT效率的目的。

2、业务微服务化设计

为了应对互联网金融的挑战，我们需要提高金融创新产品的开发投产周期，并且提高应用的可用性和弹性能力。在以往的应用系统中，尤其是第三方、互联网的应用系统，用户的访问量随着时间的增长会越来越大，数据量也越来越多。如果还是采取以往的集中部署模式，成本和技术实施的代价将会越来越高，而且当系统出现瞬时峰值浪涌时，过高的访问峰值往往很容易达到系统扩容极限。所以，需要将微服务和数据进行分布式部署，以便利和分布式技术，将数据和微服务进行分片管理，以提高系统的访问容量和访问效率，以突破物理微服务器的扩容极限，降低系统运营成本和提高系统稳定性。

我们考虑使用微服务框架替代原有的大机、小机上传统的MVC框架，微服务更多是一种业务领域解耦的思路，主要考虑的是在业务增长方面可能造成的对其可扩展性的影响，由于单体应用在这方面是有很明显的局限性的，而微服务架构是可以横向扩展的。

将大领域拆分成小领域，分而治之，每个小领域实现服务自治。比如传统的金融业务，被拆分成了客户、存款、贷款等模块，每个模块可以自成单独的领域模型，往外提供服务，中台通过服务之间的组装，实现不同的业务流程。这种思路既保证业务的敏捷性，又保证后端的稳定性。

图3.2.中间业务微服务化业务模型

中间业务微服务化演进路径：

（1） 服务分层设计：渠道服务、场景服务、领域服务。

（2） 服务拆分建组：将服务按单一职责进行拆分；将服务按照面向用户交互场景和面向业务逻辑进行分组；将强依赖（如数据依赖）且变动关联性大的服务组合在一起，弱依赖则考虑是否采用异步交互、柔性事务机制；每个服务组可以拥有自己独立部署的服务器资源。

（3） 服务访问控制原则：逻辑分层、同层调用受限、逆向访问拒绝。

（4） 产品实现：通过不同层级的微服务的动态组装来实现某一业务产品，服务不再专属于某一产品。

3、应用容器化部署

容器服务提供了高性能的容器集群管理方案。支持弹性伸缩、垂直扩容、灰度升级、错误恢复及性能监测等功能，实现应用服务的快速部署，轻松运维服务。

针对广东农信多法人组织架构的特点，通过租户设计，解决容器技术的安全性问题。云平台层租户主要是实现资源和服务基于租户配额管理、租户间的资源隔离（逻辑隔离和物理隔离），实现多法人、多业务共平台时的方便管理和安全。云平台根据农信多级法人的组织架构特点，根据法人设置租户，不同租户间默认网络隔离，可通过配置实现互通。

图3.3 云平台整体应用架构

容器化方式部署金融业务应用系统，容器技术为业务扩展输入了强大的扩缩容和容错能力。其中关键特性有：

（1） 通过ELB提供应用弹性负载均衡能力；

（2） 容器弹性扩展；

（3） 宿主机资源池自动扩容；

（4） 应用滚动升级、蓝绿升级、灰度发布等；

（5） 容器自动/手动缩容；

（6） 宿主机应用手动缩容；

（7） PaaS层宿主机资源池缩容；

（8） 容器应用安全下线；

（9） 容器应用就绪状态与访问控制策略。

（二）实施过程

本项目采用分期、分阶段实施的方式进行建设。*****期建设以完成云基础平台搭建以及以江门和肇庆的五个试点业务投产应用为目标，完成整个云平台的整体框架及基础能力的建设，完成一期建设后，主要以业务推广及组件模型库的完善为目标。

由于本项目采用了大量的新技术及开源组件，并且应用与金融交易类系统，我们以“大胆创新、小心实践”的原则，对初期建设进行阶段切分，探索新开源技术在银行系统特殊应用场景中的适应能力，并针对其不足进行增强，保证业务的安全运行。因此我们将项目一期分为三个阶段进行建设:

*****阶段以建设云平台基础能力为目标，投产一个地市的试点业务对其进行验证，完成IaaS、PaaS的建设、并实现业务微服务化设计和应用容器化部署，并初步制订中间业务微服务化的设计规范、数据标准、接口规范等，作为后期业务建设的基本准则。

图3.4.项目一期分阶段实施路径

第二阶段主要以优化*****阶段投产后发现的问题及进行云平台基础能力的增强，实现业务应用系统的管理端与PaaS平台的对接，实现业务应用自动化、模型化、可视化的部署能力，并实现另外一个地市的2个试点业务投产应用，验证云平台及业务应用系统的多租户模型。

图3.5.全面推广完成前的应用部署架构

第三阶段实现与外联平台对接，完成两个外联第三方系统的业务投产应用，进一步完善全省统一的微服务组件模型库，并对一、二阶段的运行情况进行总结优化，完成与行内统一运维、监控、管理系统对接，初步实现开发运维一体化，进一步夯实PaaS平台的基础应用服务能力，选择部分行内常用的中间件进行服务化，提高运维、开发效率。

图3.6.项目终部署架构

完成项目一期建设后，将进入推广应用阶段，按中间业务的不同特性进行分类整合，并逐步向全省各地市推广建设，终将全省中间业务从省前置和地市前置分离，迁移到中间业务云平台进行统一调度管理。

目前，项目整体完成情况如下：

应用效果

广东农信以“创新、敏捷、弹性、共享”为总体目标，以开放、弹性架构为手段，建设了中间业务云平台。广东农信目前已实施将江门地区银电系统、江门融和农商行缴费易，肇庆行政性事业收费、肇庆代收一次性罚没款、肇庆市公共资源交易中心保证金系统等5个试点业务向云化迁移，初步取得成效。

（一）开发工作量

截止2017年6月底，广东农信已在原有中间业务系统地市前置开办了县级非税、集团账户、公积金业务、公务卡等四百余项不同地市农商行、法人联社、村镇银行的中间业务，每一项中间业务都是广东农信自成立以来经历长期开发维护的重要资产。经过梳理，只需在中间业务云平台开发20余个业务组件和模型即可满足存量中间业务的需求，大大降低了中间业务系统的开发工作量。在后续业务扩展的过程中，基本上可以复用现有的业务组件和模型，只有创新的业务类型，才需对新业务类型进行抽象，形成新的业务模型，通过不断积累完善组件模型库。终达到高效和快速的完成大量业务功能的开发及投产的目标。如常见的行政事业缴费、一次性罚没、交通罚款、车船税、地税等多种常见的联网及非联网财政缴费业务，以往需分别在22套地市前置开发和部署，现在只需调用中间业务云平台财政缴费模型，通过差异化参数配置，就能满足不同地市法人的多个财政缴费业务需求，大大降低了渠道与业务的耦合度。原技术架构下，从A地市迁移一个类型相似的业务到B地市，也需要约3个月的开发测试周期；在新技术架构下，开发人员只需要数天配置地市间差异化业务参数，再通过简单测试即可实现快速上线，大大加快业务推广效率。

（二）资源利用率

在基础设施方面，目前有22套地市前置系统中，每套主备2个刀片，共44个Power刀片，共用一套存储，另外需要3台X86服务器用于地市安全平台。由于是传统烟囱式的部署架构，设备90%的时间处于空闲状态，系统设备冗余且利用率低。

按照高效稳定、经济实惠的要求，实现基础设施资源的弹性伸缩，构建全行IaaS平台，对计算、存储、网络等基础设施资源进行统一管理和调度，按需提供给多个法人租户使用。按目前存量业务估算，约30台X86服务器即可承载全省中间业务的部署。资源可充分复用、灵活调度。

单位介绍

2005年8月5日，广东省农村信用社联合社成立，在省政府的授权下，代表省政府履行对辖内农合机构的管理、指导、协调和服务职能。省联社成立以来，在省委、省政府的正确领导下，在有关监管部门和地方各级政府的支持下，引领全省农合机构深入贯彻科学发展观和国家经济金融方针政策，以服务“三农”、中小企业和县域经济为宗旨，不断深化改革创新，加快转型升级步伐，打造“小法人、大系统”新体系，实现各项业务的跨越式发展，存贷款规模居全省银行业首位，盈利水平保持平稳，税收贡献显著，并在2016年获得“全国五一劳动奖状”，成为全国农信系统的排头兵和广东农村金融的重要力量。

本文由2017年度农村金融科技创新优秀案例评选组委会授权发表，转载请注明出处和本文链接。