本文来源于:2024年度全国农村金融机构科技创新优秀案例评选,作者:内蒙古农信

内蒙古农信:T+0实时数据采集计算平台

2024-10-09 关键词:农信/农商行,信息化,数据平台与数智应用 3037

一、项目背景、目标及相关规划


1. 项目背景


近年来,随着金融行业信息化建设的深入推进,金融市场的快速变化和客户需求的不断升级,传统的批处理模式已无法满足业务发展的需要。为应对这一挑战,内蒙古自治区农村信用社联合社(简称“内蒙古农信”)于2024年启动了T+0实时数据采集计算平台项目,在传统的批处理模式基础上增加了T+0实时处理模式。这一举措不仅能提升业务效率,还可以显著改善客户体验。


作为区域信息化建设的先行者,内蒙古农信在多年实践中积累了丰富经验,现有的百余套信息系统为项目实施提供了坚实基础。借助这一优势,我联社结合Hadoop大数据基础架构,自主打造了T+0实时数据采集计算平台,成功实现了业务数据的实时采集、处理和分析。平台的上线不仅显著提升了数据整合能力与响应速度,还填补了实时数据处理的技术空白。通过T+0平台的构建,内蒙古农信在推动金融服务智能化、精细化和个性化方面迈出了关键一步,依托精准的数据服务和创新模式,进一步增强了市场竞争力。


2. 项目目标


建设T+0实时数据采集计算平台,旨在实现实时数据的采集、处理和分析,以提高运营效率和数据管理能力。我联社采用自主研发的方式,融合了当前先进的流数据处理技术,并借鉴了行业最佳实践。通过整合各类数据采集工具,并结合Kafka的分布式流处理能力和Slipstream实时计算框架,实现了对行内各类数据库的全方位覆盖, 以及对结构化、半结构化和非结构化数据的实时采集。


数据计算和分析的核心由Hadoop大数据平台和Slipstream流处理框架构成,这不仅确保了数据处理的高吞吐量和低延迟,还保障了精确一次(Exactly-Once)语义的数据处理能力。实时计算能够实现毫秒级到小时级的数据时延处理,并支持微批和事件驱动模式的一体化。这使得内蒙古农信具备了T+0的数据处理能力,实现了交易与数据处理在同一日内同步完成的目标。


3. 建设规划


根据我联社当前实际情况,采取"两步走"的方式开展实施工作。


24.png


第一阶段以构建实时数据采集和处理能力为首要目标,通过自主研发的方式深度整合我联社现有的数据采集工具,引入流式计算框架,为内蒙古农信构建一套实时特征中心、实时指标中心和实时标签中心,并与我联社已有的批处理数据平台进行融合,完善实时数据处理能力。


第二阶段以实时业务场景应用为目标,以反欺诈和实时营销等场景为切入点,基于业务目标导向重点构建实时风控和精准营销的应用闭环。在这个过程中进一步完善实时分析工具,在一阶段建设的技术体系上补充完善实时监控、预警等能力。


未来逐步将实时数据应用拓展到我联社其他业务线条,包括信贷风险预警、智能客服、实时交易监控等,依据业务发展优先级评估有序开展。一方面基于特定场景不断补充、扩展、更新实时特征和指标,为业务决策提供实时数据支撑;另一方面,不断向更多业务场景拓展,最终实现从风控到营销的实时业务闭环。


4. 业务功能


T+0实时数据采集计算平台主要实现以下功能:


一是实时数据采集与整合。构建强大的实时数据处理能力,实现对全社金融交易、渠道行为等数据的高效采集、清洗和整合,建立涵盖客户信息、信用风险、产品操作、交易行为和渠道互动等多维度的实时特征体系。


二是复杂事件处理与实时计算。开发基于实时数据流的计算引擎,支持复杂事件处理(CEP)和实时特征计算,确保实现从毫秒级到小时级的数据处理能力,满足高频业务场景下的实时数据需求。


三是实时API服务支持。提供毫秒级的实时数据查询和决策支持服务,通过实时API增强业务系统的即时性和精准性,确保关键业务场景下的数据应用效率。


四是实时风控与精准营销。在反欺诈和实时营销等场景下构建实时风控与精准营销闭环,开发和部署相关模型,实现实时风险评估和个性化营销推荐,助力业务场景的智能化应用。


五是实时监控与预警。完善实时监控和预警功能,开发实时数据可视化dashboard,支持关键指标的实时监控和异常预警,确保业务流程的高效管理和及时响应。


六是自助实时分析工具。开发实时分析工具,支持业务人员自主进行实时数据分析,提升数据应用的灵活性和效率,增强数据驱动决策的能力。


二、创新点


T+0实时数据采集计算平台的构建是一个融合数据、技术、算法与业务的全面集成过程。通过自主研发,横向拓展和构建了不同层级的能力,强化了实时数据处理的基础;同时,基于具体业务场景,纵向实现了各层级能力的有机协作,形成了以实时数据驱动的业务决策闭环。


1.自主研发的高效架构


T+0实时数据采集计算平台采用了自主研发的架构,打破了对外部解决方案的依赖,极大提升了系统的灵活性和扩展性。该架构深度整合了现有技术与业务需求,确保平台能够快速适应复杂且多变的业务场景。在技术实现上,通过对实时计算引擎的优化,平台不仅支持大规模数据的实时处理,还实现了多类型数据源的无缝接入,既提升了处理速度,又降低了计算成本,确保了毫秒级实时响应的高效与稳定。此外,平台架构设计前瞻性地考虑了未来技术发展,具备良好的扩展性和模块化结构,能够灵活应对业务变化和技术升级,为平台的持续迭代与新功能的支持提供了坚实基础。通过内部团队主导研发,成功完成了从设计到落地的全过程实施,提升了组织内部的技术积累,强化了团队在实时计算技术领域的自主创新能力,确保未来能够在技术和市场变化中保持竞争优势。


2.实时数据全流程线一体化


T+0实时数据采集计算平台实现了从数据采集、建模、开发到服务的全流程一站式服务。通过实时数据采集技术,平台能够即时捕获各类数据源的信息。实时数据建模功能支持动态定义和调整数据模型,而实时数据开发模块则允许在线进行实时数据的加工处理。平台提供的实时接口数据服务为各业务系统提供即时数据支持,同时实时数据订阅和查询功能大幅提升了数据的使用效率。


3.毫秒级实时服务响应能力


T+0实时数据采集计算平台突破了传统批量数据处理的局限,通过Slipstream流式计算技术,构建了完整的实时数据处理链路。这使得平台能够以毫秒级的速度响应各类数据需求。例如,平台可以实时监控客户的大额资金交易,使得网点客户经理能够即时掌握客户资金动向,有效预防客户流失,并及时提醒客户防范潜在的金融诈骗风险。


4. 极高的易用性


传统的流处理框架如Spark Stream和Storm,通常有较高的入门门槛。然而,通过我们自主研发的实时计算模块,只需具备编写普通SQL的经验,即可轻松创建高效、安全、稳定的流处理应用。在某些情况下,实时计算模块经过特殊优化后,甚至能提供比传统编程方式更高的性能提升。例如,对于多条针对同一输入流的SQL语句,只需读取一次数据。同时,通过引入迭代框架,大幅提升了迭代计算的效率,进一步增强了系统的处理能力。


5.多层次的安全保障


T+0平台在安全性方面进行了全面优化,采用了多层次的安全机制确保数据在实时处理过程中的安全性和隐私保护。首先,平台支持数据的实时加密传输,防止数据在传输过程中被窃取或篡改;其次,基于角色的访问控制机制确保只有授权用户可以访问和处理特定数据。此外,数据审计和日志监控功能提供了对数据处理全过程的可追溯性,进一步提升了数据处理的透明度和安全性。


三、项目过程管理


内蒙古农信于2024年启动T+0实时数据采集与计算平台项目,并于同年9月完成系统测试、开发及上线准备工作。目前,已经协助统一消息平台成功实现核心相关系统表的实时接入功能。下一阶段,计划于10月正式上线账户分级分类预警功能,进一步提升数据驱动的实时监控与预警能力。


四、运营情况


在构建实时数据处理能力的同时,持续深入探索各个业务痛点,结合实际业务场景进行实时数据应用实践。重点关注反欺诈、实时营销、智能风控等场景,通过实时数据分析提升业务效能。通过构建实时交易评分、客户行为预测、信用风险预警等一系列模型,实现了在各类高频业务场景中的实际应用能力。


五、项目成效


以实时反欺诈预警和实时数据推送为例。


场景1:账户分级分类预警系统


随着电信网络诈骗日益猖獗,内蒙古农信迫切需要提升反欺诈能力。基于T+0实时数据采集计算平台,构建了实时账户分级分类预警模型。该模型综合利用交易行为、账户信息等多维度实时数据,结合历史交易模式,实时评估每笔交易的风险程度。系统通过实时分析和关联多渠道交易数据,能够在秒级完成账户风险评估和预警,显著提高了识别与阻止可疑交易的效率,有效降低金融风险。


场景2:核心系统表实时接入功能实现


随着业务需求对实时性的要求不断提高,T+0实时数据采集计算平台协助我联社的统一消息平台,成功实现了核心相关系统表的实时接入。通过T+0平台,系统能够以秒级的速度实现数据的传输和接入,并在接入后高效进行数据的处理、解析与分类。核心系统的数据得以以极低延迟传递至统一消息平台,为多业务场景下的数据流转提供了精准、高效的支持,显著提升了数据的实时分析与决策能力,保障了各类业务的持续高效运行。


六、经验总结


内蒙古农信通过T+0实时数据采集计算平台的建设和应用,在实时数据处理和应用方面取得了显著进展。这不仅提升了数据的时效性,更深化了对实时数据价值的认识,构建了数据驱动实时决策的能力基础。

未来,内蒙古农信将继续完善实时数据生态,在数据层,进一步扩展数据源,引入更多外部实时数据;在计算层,持续优化实时计算引擎,提升处理能力和灵活性;在应用层,探索更多实时数据应用场景,如实时信用评估、智能运营等。通过这些努力,内蒙古农信期望打造成为行业领先的数据驱动型智慧农信。


T+0实时数据采集计算平台的成功上线标志着内蒙古农信在数字化转型道路上迈出了关键的一步。它不仅提升了我联社的核心竞争力,也为整个区域金融科技的发展树立了新的标杆。未来,我联社将继续围绕这一平台,深化数据应用,推动金融服务向更智能、更普惠的方向发展。


本网站案例,除特殊标明来源的,版权归金科创新社所有,未经许可不得转载,否则将视为侵权,对于不遵守此声明或者其他违法使用本文内容者,本网站依法保留追究权。另,本网站部分案例、观点文章来源于网络素材,如有侵权,请邮件联系 fenglei@fintechinchina.com 处理!
特别提示: 本网站免费为广大金融企业提供IT选型咨询服务,详情点击 【 需求提交 】

推荐阅读

更多

河南农信:基于大数据平台的智能审计管理信息系统

随着河南省农村信用社各项业务的飞速发展及信息化建设的不断深入,创新性金融产品和金融服务不断涌现,业务数据和业务流程复杂程度不断提高,交易信息和管理信息不断膨胀。

2018第二届农村中小金融机构科技创新优秀案例评选 河南农信 2024-10-09

安徽农信:基于人工智能的滨湖数据中心基础设施能效优化

数据中心基础设施能耗巨大,数据中心节能能够带来显著的经济和社会效益。而在数据中心基础设施中,空调能耗又占到全部能耗的70%,本项目通过将人工智能应用到数据中心基础设施空调系统运行控制中,为安徽省联社乃至金融行业数据中心基础设施节能降耗探索一条智能化创新的道路。

2018第二届农村中小金融机构科技创新优秀案例评选 安徽农信 2024-10-09

湖北农信:智慧学习平台

智慧学习平台的建设广泛运用互联网新媒体技术,集教、学、练、考评等要素,通过数字化学习运营将其打造为兼容、开放、共享、规范的多元一体化学习载体,成为全省农商行系统的学习中心,考试中心、直播中心、制度图书中心、员工交流中心,有效地提高了员工学习的时效性、便捷性和覆盖面,成为全省农商行“智慧银行”的建设重要载体。

第五届农村中小金融机构科技创新优秀案例评选 湖北农信 2024-10-09

江西农信:“百福快贷”项目

网络信贷项目依托互联网技术,采用全流程“不落地”线上操作模式,以大数据应用为基础,实现贷款申请受理、审批、放款、回收和贷后管理全部在线完成,整个贷款审批流程无需人工参与,实现了系统几分钟内自动产生审批结果,真正意义上达到了可足不出户就可完成贷款申请和收到贷款的目标。

2018第二届农村中小金融机构科技创新优秀案例评选 江西农信 2024-10-09

江苏省联社:风险偏好与限额管理系统

本项目旨在建设统一风险数据集市,打通风险管理相关数据,建立风险偏好与限额管理系统,提高各类风险识别、计量、监测和数据分析的能力,并提供给农商行风险管理相关的数据支撑,以帮助农商行进行合理的业务拓展与风险管理决策。

第五届农村中小金融机构科技创新优秀案例评选 江苏省联社 2024-10-09

重庆农商行:基于数据决策的全线上零售信贷产品“渝快贷”

“渝快贷”是重庆农商行推出的基于数据决策的个人全线上信用消费贷款产品。

2018第二届农村中小金融机构科技创新优秀案例评选 重庆农商行 2024-10-09

案例库

金融行业全面的数字金融创新案例,涵盖历届“鑫智奖·金融机构数智化转型优秀案例评选”、“农村金融机构科技创新优秀案例评选”、“城市金融服务同业案例征集活动”等科技创新参评案例

  • 农信/农商行
  • 数据平台与数智应用
  • 信息化

微信
咨询

微信咨询

扫码添加金科小助手微信号
咨询案例和解决方案相关信息
或联系对应机构