本文来源于:2024年度全国农村金融机构科技创新优秀案例评选,作者:吉林农信

吉林农信:统一调度平台

2024-09-29 关键词:大数据,农信/农商行,数据平台与数智应用 3426

一、项目背景


随着大数据环境的逐步发展,我国金融业已进入数据处理智能化时代。吉林农信作为金融业的一份子,积极展开科技发展,在调度处理层面,当前行内的调度环境五花八门,各个系统都有一套自己的调度工具,工具原始落后,安全保障性差,需求扩展能力缓慢,各系统调度之间毫无协调可言。


随着我行业务的发展,需要调度处理的程序逐渐增多,给我行管理和运维带来的困难越来越大,为了解决原有调度存在的问题,也为了顺应吉林农信科技发展的趋势,痛定思痛,我行决定建设统一调度平台一次性解决调度问题。


这一决策不仅彰显了我行对彻底解决问题的决心,更体现了我行对科技智能化趋势的敏锐洞察和对科技发展的深刻理解。


二、项目方案


项目目标:实现调度工具统一、统一监控视图、统一资源管理等,致力于打造全行级统一调度平台。


我行在技术层面和管理层面两手抓,从领导的重视,到职员的积极配合,再到产品人员的鼎立支撑,三军用命,确保统一调度平台的持续、稳定建设。


1.技术层面


技术上使用微服务分布式架构,全栈信创方案,高可用集群部署,实施上分阶段进行统一调度平台建设。


初期纳管了包括大数据平台、监管报送平台等十余套系统的近两万余个批量任务,统一集中调度管理;同步建设统一监控视图,全局管理批量执行情况,关键任务清晰展示重点监控;系统稳定运行近一年,下一步建设思路为纳管CRM、大数据风控等十余套系统,管理范围覆盖我社数据管理中心所有数据类系统批量任务,打造全中心级统一调度平台。


2.管理层面


设立统一调度平台独立项目组,专事、专人、专办。同步形成统一调度管理机制和配套的管理办法,包括职责分工、权责边界的角色管理,包括规范命名、合理依赖的开发管理,包括资源复用、资源监控的资源管理等。项目组成员严格按照规范执行,确保统一调度平台的一致性。


平台落成后形成常态化“告警、分析、反馈、整改”机制,针对提供数据服务延时、系统报错频繁、批量问题整改不及时等问题进行统一监督管理。


三、创新点


作为统一调度平台,使用统一的调度工具,一体化管理调度,一方面,通过统一的调度工具,实现工具、功能一体化,构建统一调度运行监控;另一方面,通过统一管理,实现流程、管理一体化,从而大大提高开发及生产运行效率。


1.思想创新


用一套平台统一纳管全中心各系统批量调度任务,打破各系统独立管理、批量独立建设的现状,从认知层面,达到思想先统一,工具、工作再统一;随着数字化转型的推进,也为未来全行级统一调度积累丰富经验。


2.管理创新


全中心统一规范作业命名,作业归属一目了然,分析处理问题高效便捷;调度资源统一管理,调度技术栈统一维护,硬件资源按系统重要程度与跑批压力情况协调分配。


统一纳管多系统批量,在管理上必然带来的问题就是职责边界不明、管理协调难度大,我行采用联合运维管理机制,研发与运维深度融合,明确分工与职责边界,同时各系统指定批量管理员针对性负责各自系统问题。


3.技术创新


全栈信创,硬件采用海关服务器,麒麟V10操作系统,Tongweb中间件,达梦数据库等信创产品,实现调度平台全栈信创的目标。


分布式微服务架构,使平台具有易维护、易扩展、高安全性等优点,调度管理引擎采用缓存加消息队列相结合的技术形式,其中缓存可以快速读取及写入数据,随后配合消息队列实现调度引擎内部消息传递处理,采用事件触发模式,缩短服务响应时间。


一键血缘,打通各个系统的壁垒,将数据的全流向清晰的展示出来,对科技和业务部门分析数据源、数据流向有着前所未有的帮助。


灵活的并发控制和资源分配,对特殊任务设定独立的资源分配,不受整体资源量和作业运行数的限制,在资源分配时进行有效控制。


4.数据创新


通过统一的调度任务执行日志分析,形成各系统批量执行趋势图,智能分析全中心调度任务运行情况,提前发现延迟提供数据服务的趋势;每日任务日志分析,结合数据库集群健康状态检查,半自动化得出批量异常原因,同时监控出当前批量运行异常的具体作业,有针对性的排查并彻底解决。


通过数据分析,形成可视化界面监控大屏,一键式监控,一键式处理,清晰展现包括数据回路系统批量执行情况、关键下游系统供数情况等关键信息,更高效便捷的发现并解决问题。


四、技术实现特点及优势


统一调度平台具有统一的作业管理、智能全局调度、多角度运行监控和便捷的运维操作等特点,减小运维成本,提高运维效率。提供一套全行级调度的工具,以及专业的调度规范。


统一调度工具配合上统一管理,为吉林农信提供稳定的调度平台、便捷的开发方式、丰富的运维监控手段、及时的报警机制、完善的对外接口、可靠的负载均衡能力。


1.功能架构


195.png


平台主要分为三层结构,界面层是平台的操作入口,可以进行一些系统改配置,以及对象配置和监控。


计算层主要是接收界面发送的求情,进行增删改查等操作。另外可以内部数据流转处理与预处理,并将准备好的数据发执行端。


执行层主要是用于作业的执行,计算当前节点可用资源,按资源计算作业并发量。


2.系统架构


196.png


统一调度平台采用领先的微服务技术和分布式技术架构,调度服务采用微服务架构将应用程序分解为小型服务(松散耦合),更有利于开发维护、版本升级。分布式架构使系统具备容错和灾备能力,调度服务、执行节点、web服务分别采用分布式架构,当服务出现故障时,每个服务只要保持单个服务,系统即可正常运行。


3.技术架构


197.png


redis缓存服务和rabbitMQ消息队列采用docker容器搭建集群模式,利用redis缓存服务存储临时数据,可以快速读取及写入数据,利用消息队列实现moia内部消息传递处理机制,实现事件触发模式,缩短响应时间。容器可以使用镜像快速构建一套标准的开发环境,降低开发环境的差异性;兼容性高,容器可以在不同平台间轻松的迁移应用,可以实现自动化且高效的容器管理。前后端服务采用分离架构,当前端出现故障时,不影响调度总体运行。


五、项目过程管理


吉林农信于2023年3月启动调度平台迁移项目,5月完成调度任务迁移、测试和上线准备,6月投产进行试运行,7月按系统分批正式切换。


六、运营情况


应用推广层面,目前已有近二十套系统通过统一调度平台进行纳管,满足大数据平台、统一报表、监管报送等应用系统调度管理需求,解决了以前各系统在调度任务上遇到的调度任务配置不简便、监控不智能等问题。后续将按照我行总体建设规划,2025年底将数据类系统全部纳管至统一调度平台。


运维推广层面,一是数据中心与运维中心达成了联合运维的机制,借助平台便捷操作与智能监控大大提升生产问题处理的效率。二是借助血缘分析功能,更准确更直观帮助源系统进行影响分析。


系统运行层面,我行数据类系统原用调度工具有类似作业优先级不生效、批量执行效率低等问题,建设本平台后应用作业优先级功能为重要下游系统提供服务时间平均提前一个半小时。作业超过固定时间未启动、某个作业执行时间过长等异常情况有及时的监控和告警,异常场景处理效率大大提升。


七、项目成效


使用该方案建设调度平台后,极大的提高了批处理相关系统的自动化程度和安全性,同时也降低了系统运维的成本、提高了运维效率。并且在调度平台上线后,新上线信息系统的开发只用关注业务处理本身,调度逻辑直接交由调度平台控制,极大的缩短了新系统的建设周期和成本。


经济效益:一是各系统无需单独采购调度工具,节省软件采购成本;二是跑批所需服务器资源经过平台统一管理规划,秉持“关键系统专用、部分系统复用”原则,节省硬件采购成本。三是各系统调度任务开发工作由专人负责,节省人员投入成本。


社会效益:一是推动了金融科技成果转化。以产学研一条龙服务构建技术平台,提升金融科技成果转化和应用效率;二是强化金融数字化案例推广。响应国家金融业数字化转型号召,积极推进数字化转型工作落地实施;三是拉动经济内需。采用国产化软硬件产品,促进国产化服务器以及应用软件的快速发展;四是带动示范效果明显。对吉林农信系统数字化转型方面起到了良好的示范性效应;五是提升了吉林农信的品牌形象。借助统一调度管理能力深度挖掘数据价值,赋能科技应用,提升客户满意度。


八、经验总结


对统一调度探索和实践,让吉林农信进一步整合了数据提升了数据的服务能力,深化了对数据的理解和应用。在技术上,一方面统一调度平台的建设是我行数据类系统全栈式信创的重要技术探索,为今后平台建设适配信创产品积累了宝贵经验;另一方面,本平台采用分布式微服务架构,降低了平台开发维护成本,提高未来应对更加丰富跑批场景的能力以支撑数字化转型的建设。在管理经验上,为统一管理全行级全系统批量调度任务积累经验。


项目以金融科技手段推动业务发展的深度探索,为吉林农信业务高质量发展注入了强劲金融科技动力,也为中小银行数字化转型提供了切实可行的落地实践案例,具有较好的借鉴意义。


本网站案例,除特殊标明来源的,版权归金科创新社所有,未经许可不得转载,否则将视为侵权,对于不遵守此声明或者其他违法使用本文内容者,本网站依法保留追究权。另,本网站部分案例、观点文章来源于网络素材,如有侵权,请邮件联系 fenglei@fintechinchina.com 处理!
特别提示: 本网站免费为广大金融企业提供IT选型咨询服务,详情点击 【 需求提交 】

推荐阅读

更多

河南农信:基于大数据平台的智能审计管理信息系统

随着河南省农村信用社各项业务的飞速发展及信息化建设的不断深入,创新性金融产品和金融服务不断涌现,业务数据和业务流程复杂程度不断提高,交易信息和管理信息不断膨胀。

2018第二届农村中小金融机构科技创新优秀案例评选 河南农信 2024-09-29

安徽农信:基于人工智能的滨湖数据中心基础设施能效优化

数据中心基础设施能耗巨大,数据中心节能能够带来显著的经济和社会效益。而在数据中心基础设施中,空调能耗又占到全部能耗的70%,本项目通过将人工智能应用到数据中心基础设施空调系统运行控制中,为安徽省联社乃至金融行业数据中心基础设施节能降耗探索一条智能化创新的道路。

2018第二届农村中小金融机构科技创新优秀案例评选 安徽农信 2024-09-29

湖北农信:智慧学习平台

智慧学习平台的建设广泛运用互联网新媒体技术,集教、学、练、考评等要素,通过数字化学习运营将其打造为兼容、开放、共享、规范的多元一体化学习载体,成为全省农商行系统的学习中心,考试中心、直播中心、制度图书中心、员工交流中心,有效地提高了员工学习的时效性、便捷性和覆盖面,成为全省农商行“智慧银行”的建设重要载体。

第五届农村中小金融机构科技创新优秀案例评选 湖北农信 2024-09-29

江西农信:“百福快贷”项目

网络信贷项目依托互联网技术,采用全流程“不落地”线上操作模式,以大数据应用为基础,实现贷款申请受理、审批、放款、回收和贷后管理全部在线完成,整个贷款审批流程无需人工参与,实现了系统几分钟内自动产生审批结果,真正意义上达到了可足不出户就可完成贷款申请和收到贷款的目标。

2018第二届农村中小金融机构科技创新优秀案例评选 江西农信 2024-09-29

江苏省联社:风险偏好与限额管理系统

本项目旨在建设统一风险数据集市,打通风险管理相关数据,建立风险偏好与限额管理系统,提高各类风险识别、计量、监测和数据分析的能力,并提供给农商行风险管理相关的数据支撑,以帮助农商行进行合理的业务拓展与风险管理决策。

第五届农村中小金融机构科技创新优秀案例评选 江苏省联社 2024-09-29

重庆农商行:基于数据决策的全线上零售信贷产品“渝快贷”

“渝快贷”是重庆农商行推出的基于数据决策的个人全线上信用消费贷款产品。

2018第二届农村中小金融机构科技创新优秀案例评选 重庆农商行 2024-09-29

选型库

金融行业全面的数智化创新解决方案,涵盖历届“鑫智奖”参评方案及选型库会员机构提交的金融行业解决方案

  • 农信/农商行
  • 大数据
  • 数据平台与数智应用

微信
咨询

微信咨询

扫码添加金科小助手微信号
咨询案例和解决方案相关信息
或联系对应机构