草庐IT

sqllineage

全部标签

sqllineage解析FineBI数据集导入Datahub生成血缘

需求当前数仓架构流程图如下图所示,不支持端到端数据血缘,数据异常排查及影响分析比较被动,需要端到端数据血缘及元数据管理。业务系统:各种制造业业务系统(高速迭代、重构、新建中)数仓开发平台:数栖平台,支持数仓内各层级的DAG调度血缘图数仓导出库:PGBI可视化系统:FineBI,支持内部数据集、图表的血缘通过调研分析,引入datahub做元数据管理平台,实现效果如下图展示。方案实现如下端到端血缘图:BI报表/仪表盘(dashboard)->BI组件(chart)->BI数据集->数仓导出库(PG)->数仓数据资产(数栖平台)->上游业务系统工作内容:✅datahub中自定义FineBI、数栖平台

【开源项目推荐】通用SQL数据血缘分析工具——Sqllineage

大家好,我是独孤风,从本周开始,争取每周为大家带来一个优秀的开源项目推荐。开源项目不仅促进了技术的发展和普及,还为全球范围内的开发者和用户社区建立了一个共享知识、协作和创新的平台。站在巨人的肩膀上才能看的更远,我们平时也应该多多关注开源项目,不仅学习其丰富的知识,也要找机会为开源事业做出自己的贡献。话不多说,今天为大家推荐的开源项目名为SQLLineage。SQLLineage是一个使用Python开发的SQL血缘分析工具。它专注于提供SQL查询的血缘关系和依赖关系的深入分析。Github首页地址为:https://github.com/reata/sqllineage目前标星891,最新版本

【开源项目推荐】通用SQL数据血缘分析工具——Sqllineage

大家好,我是独孤风,从本周开始,争取每周为大家带来一个优秀的开源项目推荐。开源项目不仅促进了技术的发展和普及,还为全球范围内的开发者和用户社区建立了一个共享知识、协作和创新的平台。站在巨人的肩膀上才能看的更远,我们平时也应该多多关注开源项目,不仅学习其丰富的知识,也要找机会为开源事业做出自己的贡献。话不多说,今天为大家推荐的开源项目名为SQLLineage。SQLLineage是一个使用Python开发的SQL血缘分析工具。它专注于提供SQL查询的血缘关系和依赖关系的深入分析。Github首页地址为:https://github.com/reata/sqllineage目前标星891,最新版本

sqllineage解析sql列级血缘并提交到datahub

目录版本信息操作记录安装datahubv0.10.0datahub快速部署元数据摄取通过sqlline获取指定sql文件中HiveSQL的字段级血缘关系,并将结果提交到datahub版本信息python3.8.16datahubv0.10.0操作记录安装datahubv0.10.0详见datahub官网 AMetadataPlatformfortheModernDataStack|DataHub执行命令python3-mpipinstall--upgradepipwheelsetuptoolspython3-mpipinstall--upgradeacryl-datahub==0.10.0查看