本文来源于:2022第三届中小金融机构数智化转型优秀案例评选 ,作者:百年资管

百年资管:数据管理项目

2022-06-15 关键词:保险,数据治理,数据智能应用2503

一、项目方案


为充分贴合《中国银行保险监督管理委员会关于印发银行业金融机构数据治理指引的通知》、银保监非银检函〔2021〕96号关于第三次就《保险业监管数据标准化规范(保险资产管理公司版)》征求意见的函等监管机构相关文件的要求,通过系统建设等手段,明确数据安全、识别、管控、应用等标准,建立统一监管标准化数据报送口径,故启动数据管理系统的建设。


就数据管理方面,随着数据中心系统的使用,发现仍然存在缺乏数据标准系统化管理、元数据变化造成平台与源系统数据不一致、平台的数据问题快速定位难、数据缺乏安全规范等问题。建设一个完整的企业级数据管理系统,并依托数据管理系统提供数据管理能力,能有效管理企业数据资源,发挥数据资产价值,为数字化转型打下坚实的数据基础。


数据管理系统以技术架构为基础,采用微服务组件的形式,进行部署。其中,微服务组建包含:基础服务、后台框架、前台应用三大块内容,前、中、后分离互不干扰的形式使系统运行流程。并且,由接口层统一包装接口,提供对外服务,为后续基于数据管理提供上层应用打下坚实基础。


411.png


在业务架构上,按照需求划分:数据标准管理、数据质量管理、元数据管理、系统管理、数据采集等五大功能,以对数据从产生到消亡的生命周期管理为核心的业务诉求出发,辅助数据探查,让数据从看不见的“数据库黑盒子”变为数据血缘清晰的“数据白盒子”。


412.png


二、创新点


整个项目围绕数据管理为核心,以“业务+技术”共赢为驱动,实现数据全生命周期管理。

在技术层面,主要创新点如下;


1.业务系统版本表结构差异管理


因公司核心业务系统均为外部采购,在IT运维同事管理系统升级时,更多的注重系统业务功能的实现上,并没有完全清晰透明的底层数据库表结构的变化,往往会导致低级错误的产生,例如:某varchar类型字段长度从60变为55,会导致新增数据存在超长溢出情况,或其他不可控制风险。通过该项目,可以对所采集的数据库表结构进行版本管理,自动对所有的表结构变化进行检查,如发现表结构变化,可通过邮件等方式提醒到相关的系统运维负责人。


413.png

(数据源版本差异邮件图)


414.png

(数据源版本差异报告图)


2.数据探查


通过自动化的手段了解数据内容、结构,形成数据字典及数据血缘关系。包括数据成分、数据间关系及相关资源匹配等问题,可精准识别数据转化机制、建立数据有效性及准确性规则、校验数据间依赖性等的过程,从而帮助企业全面了解数据,并确定这些数据可用性的过程。观察数据规律,找出数据间的联系和问题点。


415.png

(数据库字典查询图)

416.png

(数据库字典图)


3)数据血缘


(1)分析并解析业务系统的存储过程、函数、package等,将各数据库表的来龙去脉清洗的展示出来;

(2)因各系统并不是独立运行,提供人工打标签的操作,将系统与系统间的数据流向清晰的展示出来。


417.png

(数据血缘图)


418.png

(系统间关系图)


在业务层面,主要创新点如下:


1)业务数据标准

以业务人员为核心辅助系统流程,录入相应的业务数据标准,将业务数据的含义及计算逻辑统一系统化管理,并由数据治理小组(委员会)进行发布生效,建立公司级的业务数据标准,为做到业务口径一致及***打下坚实基础。


419.png

(数据标准图)


2)数据质量预警

根据业务规则,配置相应的数据校验,由系统定时轮询检查,发现异常时,邮件提醒相应的业务人员。


420.png

(数据质量预警图)


3)数据分级分类

根据业务需求,对底层数据进行分级分类标签,为数据公司数据安全打下基础。


421.png

(数据分类图)


三、技术实现特点


1.基于已采集的元数据,通过智能聚合算法,快速归纳出相似度高的元数据自动提取出数据标准,将数据标准与元数据自动建立关联关系,实现同步一键式对标。

2.支持数据标准与元数据的手动和自动关联。自动关联的自学习机制可以通过获取用户反馈不断增强匹配度,提高机器学习准确率。

3.系统将数据标准、元数据以及数据质量有机整合,通过元数据与数据标准的智能对标映射,自动生成核标检核规则,定期提供各系统的数据标准检核报告,各系统的核标情况一目了然。

4.元数据采集一次性设置,后续自动获取版本变化,并生成版本的差异报告。元数据与基线模型绑定,运行监控任务,实现生产库的事中校验,及时捕捉设计、生产的问题。

5.支持设置基于元数据和数据的标签识别规则,周期调度标签扫描识别任务,为各类资产打数据标签,通过标签识别数据安全、数据业务属性,对数据进行分类分级,支持业务场景自动归类数据。


四、项目过程管理


项目实施作为软件项目成败的关键因素之一,是一项系统工程,也体现了项目协作、沟通程度。百年资管以项目管理科学思想为基础,精心制定了一套项目执行方法论。该部分主要包括以下内容:项目管理实施体系,实施资源体系、项目实施计划体系三大部分。项目实施中严格要求实施人员遵守该项目管理体系,以实现:

项目实施小组清楚了解自己的职责、工作范围、工作进度和结束的标准;

项目参与者了解所负责的相关文档和代码,清楚项目的进度和技术状态;

提高项目双方的工作效率,防止因协调而造成的项目拖延;

项目执行成员减少犯错的机会,工程化的完成实施工作;

所有参与者拥有共同的目标。

百年资管数据管理项目以需求为基础,涵盖项目启动、系统实现、系统测试、系统上线、上线支持、验收交付收尾各个环节。如下图:


422.png

423.png


项目内外各种因素具有不确定性,同时项目相关环境中存在一定的干扰,因此项目的实施难以完全按照项目计划进行,出现偏差是不可避免的。良好的项目控制可以保证项目按照计划稳定地完成项目目标,就是说有及时地发现偏差、有效地缩小偏差、迅速地纠正或预防偏差,使项目始终按照合理的计划推进。


详细项目周期如下:


424.png


五、运营情况


数据管理系统现已接入21个源业务系统,共涉及28854张表、599439个字段。为清晰各源业务系统间关系并通过可视化方式展现,已将梳理出的836个系统间接口导入系统。

根据《银保监非银检函〔2021〕96号 关于第三次就《保险业监管数据标准化规范(保险资产管理公司版)》征求意见的函》、《银保监非银检函〔2021〕61号 关于再次征求保险机构资金运用报表意见的函》的要求,已在数据管理系统中划分9个数据管理责任部门,涉及11名数据管理员,共计录入106类,2668项数据标准。


425.png


整体来看,数据管理系统的上线,将对未来进行数据权责划分提供重要依据,并在此基础上,不断对杂乱的数据进行标准统一、口径统一的工作,为真正发挥数据价值,挖掘潜在数据价值发挥巨大作用。


六、项目成效


数据管理系统已为公司提供以下价值:


业务层面价值如下:

1.提高企业数据的规范化和标准化。由于公司内部系统由不同厂商开发、数据由不同的业务部门生成,导致各厂商、部门对基础业务数据定义不***,数据标准的定义不同。在数据处理环节中因标准的不统一,导致系统复杂度高产生大量的脏数据 。引入数据管理系统后可统一企业对数据的理解及使用,为企业提供更有效的数据赋能、为监管提供更准确的数据支撑。

2.提供完整的业务数据流程图、清晰的数据架构,完整描述企业数据脉络及交互关系,包括数据的来源、用途、流向、交换过程等,更好地为数据追踪、分析及查证等提供依据。 减少存在于系统中但无法说明业务间关系的数据,后续亦无法对数据进行分析和应用的所谓“黑暗”数据的现象。

3.数据即服务,向业务部门直接输出数据治理成果,提供统一的数据交付接口。解决业务部门“要数难”,不理解数据的痛点;解决科技部门“管数难”数据使用权限无所依从,通过API的方式追踪数据交付后的使用及销毁。


技术层面价值如下:

1.将纳入数据治理系统的原生状态、对标状态、核标状态可视化呈现,动态展现数据治理成效,直观体现数据治理的价值输出。

2.基于采集的元数据,通过智能聚合算法,快速归纳出相似度高的元数据自动提取出数据标准。并将数据标准与元数据自动建立关联关系,实现同步一键式对标。

3.支持数据标准与元数据的手动和自动关联。自动关联的自学习机制可以通过获取用户反馈不断增强匹配度,提高机器学习准确率。

4.系统将数据标准、元数据以及数据质量有机整合,通过元数据与数据标准的智能对标映射,自动生成核标检核规则,定期提供各系统的数据标准检核报告,各系统的核标情况一目了然。

5.元数据采集一次性设置,后续自动获取版本变化,并生成版本的差异报告。元数据与基线模型绑定,运行监控任务,实现生产库的事中校验,及时捕捉设计、生产两张皮的问题。

6.支持设置基于元数据和数据的标签识别规则,周期调度标签扫描识别任务,为各类资产打数据标签,通过标签识别数据安全、数据业务属性,对数据进行分类分级,支持按业务场景自动归类数据。通过流程化的管理确保数据标准生命周期的可控,对数据校准的产生、整合、使用、销毁等阶段进行有效管理。


七、经验总结


数据管理系统的建设不是一蹴而就的,百年资管在前期通过建立数据治理小组,宣传数据治理理念,培养数据治理习惯,在业务用户层面建立数据治理的意识。并且,通过线下收集数据治理相关问题,定期组织数据治理工作会议等形式,开展数据治理相关活动。本次项目的建设将日常的线下数据治理工作全部系统化、线上化,对日常的工作做到了良好的版本管理、留痕,提升相关数据治理工作效率的同时,结合监管对数据管理的要求,完善相关数据管理功能。其中,将数据理念贴合实际公司日常运作是重中之重,开拓了全新的数据管理方式。


未来,百年资管将继续深入探索和研究数据管理能力的建设,通过金融科技手段,发挥公司数据价值,不断注入新的数字化管理能力,夯实管理基础,为企业数字化转型提供助力,迎接中国资本市场更好的明天。


本网站案例,除特殊标明来源的,版权归金科创新社所有,未经许可不得转载,否则将视为侵权,对于不遵守此声明或者其他违法使用本文内容者,本网站依法保留追究权。另,本网站部分案例、观点文章来源于网络素材,如有侵权,请邮件联系 fenglei@fintechinchina.com 处理!
特别提示: 本网站免费为广大金融企业提供IT选型咨询服务,详情点击 【 需求提交 】

推荐阅读

更多

甘肃农信:数据治理与数据管控平台

通过对我行内部数据的商业应用和技术管理的一系列政策和流程的梳理及设计,搭建一套涵盖元数据管理、数据标准、数据质量、数据资产管理等方面的数据治理及管控平台,赋能银行数字化转型。 通过实施数据治理和建立数据管控平台,满足人行、银保监会等监管机构的各类监管标准、安全分级标准、监督检查及其他各项要求,提高甘肃农信数据质量和业务数据的应用价值。

2022年第六届农村中小金融机构科技创新优秀案例评选 甘肃农信 2022-06-15

日照银行:“黄海之链”供应链金融服务平台

黄海之链”平台于2021年8月18日上线,是日照银行推出的首个To B端金融服务门户网站。平台全面融合区块链、物联网、人工智能、大数据等智慧科技,将金融科技成果与实体经济场景有机结合,实现对产业链全链条、全周期、多维度金融服务需求覆盖,加速产业运行效率;通过数据要素全面运用,实现信息化、数字化和智慧管理;通过与商贸物流平台、交易市场、电子仓单系统等特色场景对接,打造“产业经济+金融服务”的数字化生态闭环,实现产业链交易全流程业务可视、数据可信、资产可控,有效解决上下游中小微企业融资难、融资贵问题。

2022第三届中小金融机构数智化转型优秀案例评选 日照银行 2022-06-15

重庆农商行:区域性商业银行智能研发运维一体化管理平台

本项目的建设,打造了基础平台级信息资产,是重庆农村商业银行以金融科技赋能全行数字化转型升级的生动案例。其一方面提高了企业科技的自主架构设计能力,保障了金融科技转化为具体业务产品的高质高效;另一方面也为银行业全面推广微服务、智能运维和系统架构升级提供了一份良好的模版和参考执行标准。

重庆农商行 2022-06-15

复星保德信人寿:自动化测试项目

通过整体自动化平台建设,开发对应的自动化脚本及整体自动化环境搭建,完成包含个险核心及电商两个系统的系统功能自动化测试,产品包含各不同类型的产品形态及组合方式,覆盖包含目前主要的产品形态构成。

复星保德信人寿 2022-06-15

中国人寿:新一代核心系统项目

中国人寿新一代核心业务系统的分布式核心架构设计及实践在业内独树一帜,破解了大型综合核心系统如何“渐进式”解耦与平台化集中的难题。

2022-06-15

中信银行:数据治理实践

大数据时代下,数据的大规模、多样化、快速实时、内外结合、混合架构等特征,对数据治理提出了更加复杂严峻的新挑战,同时在监管部门的驱动下,银行数据治理的广度和深度不断扩大。中信银行采取积极主动姿态,从战略层面高度重视数据治理工作,已经把数据治理明确写入新的三年战略规划,纳入了董事会年度报告。

2018第二届农村中小金融机构科技创新优秀案例评选 中信银行 2022-06-15

案例库

金融行业全面的数字金融创新案例,涵盖历届“鑫智奖·金融机构数智化转型优秀案例评选”、“农村金融机构科技创新优秀案例评选”、“城市金融服务同业案例征集活动”等科技创新参评案例

  • 保险
  • 数据治理
  • 数据智能应用

微信
咨询

微信咨询

扫码添加金科小助手微信号
咨询案例和解决方案相关信息
或联系对应机构