2023年12月18日 • 作者:DataPipeline
北京银行股份有限公司(以下简称“北京银行”),作为一家立足首都、服务首都的金融企业,始终锚定数字化转型方向。北京银行秉持“一个银行、一体数据、一体平台”理念,通过全面数字化赋能,实现规模、结构、效益、质量的均衡稳健发展。
2023年,北京银行客户数量突破一亿大关,零售资产管理规模超过一万亿元。随着客户基数、账户数量和业务交易量的持续增长,以及业务场景多样化的发展,北京银行对准实时数据传输的需求也逐步增加。 一方面,系统与系统间的交互越来越频繁,跨系统异构数据传输可以打破系统架构对数据服务的限制,减少数据孤岛;另一方面,数据管理、数据动态展示、数据分析的业务场景不断拓展,实施数据同步可以作为实时风控、精准营销场景的有效支持手段。
因此,2023年,北京银行基于自主创新的统一技术底座——金融操作系统,构建金融操作系统分布式消息交换平台。其中,DataPipeline作为高效集成工具助力平台数据同步链路的铺设,适配了其包括Oracle、MySQL、OceanBase、TiDB、Kafka在内的多种数据库管理技术,实现异构数据节点间实时同步与批量数据处理任务,极大加速了业务间数据通路的构建,以技术敏捷推动业务敏捷。
DataPipeline助力北京银行,分布式消息交换平台顺利上线
实时数据融合平台架构
▶ 全面的数据节点支持
支持关系型数据库、NoSQL数据库、国产数据库、数据仓库、大数据平台、云存储、API等多种数据节点类型,可自定义数据节点。
▶ 高性能实时处理
针对不同数据节点类型提供TB级吞吐量、秒级低延迟的增量数据处理能力,加速企业各类场景的数据流转。
▶ 批流一体数据融合
平台式统一集中管理,同时满足流和批的数据处理需求,支持指定增量同步、全量同步、执行时间同步等方式实现数据同步。支持基于日志的增量数据获取技术,实现秒级的变化数据捕获。
▶ 无代码敏捷管理
提供限制配置与策略配置两大类十余种高级配置,包括灵活的数据对象映射关系,数据融合任务的研发交付时间从按周计算降低至分钟级。
以技术敏捷推动业务敏捷
DataPipeline在北京银行分布式消息交换平台建设项目中发挥了关键作用:
▶ 在业务层面,协助北京银行提供实时敏捷的数据支撑,提升业务决策水平,实现数据赋能业务创新。
▶ 在技术层面,通过基于日志的增量数据获取技术,捕获多元异构数据库间秒级变化数据,降低手动开发成本,并加速实时数据价值的释放。
DataPipeline实现了数据的秒级实时采集,并且支持多种数据源的便捷接入。同时,还具备如语义映射、错误数据处理、采集限速、断点续传、任务回溯、数据加密等多项技术功能,配备了预警处理、自动重启、锁冲突检测、归档日志检测等多种监控机制。此外,DataPipeline提供清晰的链路拓扑图和多维度展示方式,便于行内进行数据复制的任务管理。该项目的成功上线有效打破了北京银行业务系统间数据孤岛现象,实现了数据可信共享、资源合理配置、服务质量显著提升。
未来,DataPipeline将继续与北京银行携手,不断探索和实现更加高效、创新的数据解决方案,助力北京银行在数字化转型的道路上迈出更坚实的步伐,共同开启数据驱动的新篇章。