温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

数据中台产品的一些思路

发布时间:2020-08-02 12:08:40 来源:网络 阅读:1459 作者:allenniu 栏目:大数据

数据中台系统的一些思路。
* 引言*
企业借助于大数据/数据湖项目,一般同时需要完善对企业数据的梳理:对企业数据资产数据盘点,完善数据治理相关流程。对内便于数据用户使用数据。对外满足部监管对多种数据口径要求。
基本解决思路**
这类问题的基本解决思路是从元数据管理(包括业务,技术)角度完善数据生命周期管理。这里的元数据包含:

  • 传统意义的数据字典 (表单,字段的含有)
  • 业务元数据梳理,包括业务指标,统计口径等 (通常对应 维度数据,业务描述数据code table, mapping table 的梳理)
  • 数据 data lineage, audit

* 挑战及现有问题
这类工具市场上比较多,传统的数仓产品都有元数据管理工具。但多数存在些问题如:

  • 对数据用户不友好。这里数据用户包括a)数据分析人员 b) 数据维护操作人员
  • 落地困难:不能很好的融合到企业现有的开发流程中
  • 传统企业有大量遗留系统,这些系统本身的元数据(数据描述)由于历史原因不太完善。在遗留系统数据集成到大数据/数据湖的过程中,这些元数据需要在项目过程中完善,但缺乏工具,或现有工具不友好。

** 产品化及切入点选择***
基于以上分析,数据平台(中台)产品中元数据管理部分可以采用以下设计思路:

  • 借助图数据库提升前端数据展示
  • 借助NLP及传统元数据数据管理提升数据关联关系分析
  • 开发定制工具针对遗留系统及项目开发流程元数据进行维护。(进一步解释以下,在多数数仓,大数据项目中,业务数据分析人员均需准备Mapping 文档。目前mapping 文档多以 excel 形式存在,不利于维护,共享,进一步挖掘。可以开发定制在线mapping文档工具作为一个切入点)
  • 参照(逻辑)架构图:

数据中台产品的一些思路

目前市场上已经用一些类似产品,也可以做个参照:

  • http://www.stargraph.cn/ 金融智能 BDP
  • https://memect.cn/ 知识图谱技术
  • http://www.primeton.com/ 元数据平台
  • https://www.topquadrant.com/
向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI