概述
这个Spring Boot集成使用GraphQL调用和dbt API调用提取dbt元数据。然后,集成转换元数据并使用Collibra API调用将其加载到Collibra。新万博移动客户端本文总结了ETL操作的简单流程。
该集成有两个主要功能:
- 从dbt Cloud编译和提取SQL,并创建写入物理本地磁盘的SQL文件,以供技术沿袭收割机摄取。
- 从dbt Cloud中提取dbt项目功能,如模型、曝光、指标、测试和元数据,然后将其转换并加载到Collibra。新万博移动客户端
对于模型,集成将根据格式[系统资产名称]>[数据库]>[模式]搜索现有的数据库域。如果数据库存在,则集成更新它。否则,它将创建一个新域。
对于dbt元,集成通过dbt项目YML文件中给出的元名称搜索属性类型。如果没有,集成将创建属性类型并使用元属性加载资产。如果你想让资产可见,你必须从Collibra设置的全局赋值中添加特征。新万博移动客户端
对于公开、度量和测试,集成将查找应用程序属性文件中提供的名称。如果域存在,集成将更新它们。否则,将创建新的域。
从度量、公开和测试GraphQL调用中,集成提取元数据,例如:
- 关系的维度(用于列),
- 过滤器(应用于度量的底层模型),
- SQL表达式(用于计算度量)。
- 测试谓词
- 来自模型的数据库资产
还包括一个CMA文件。在Collibra实例中导入此CMA文件后,它将确保自动生成所有自定义先决条件。新万博移动客户端
尝试此集成的其他方法是通过提供的JAR文件或带有已编译的集成构建版本的Docker映像。它们包含所有必需的依赖项和源代码。在按照本文档所述进行最少数量的更改之后,用户可以使用一个简单的命令运行集成。请参考《快速入门指南》。
用例
该集成使用GraphQL调用和dbt API调用提取dbt元数据,然后转换元数据并通过Collibra API调用将其加载到Collibra。新万博移动客户端
范围内的元素
集成的目的是检索以下元素:
- SQL文件
- 数据库/模式/表/列资产
- KPI资产
- 印度生物技术部
- GraphQL
- Rest API调用
- 报告
- 数据质量规则
- 新万博移动客户端Collibra标签
- 系统资产
如欲获得有关此项目的支持,您可以与我们的专业服务团队联系,或在数据公民社区.
媒体
更多的细节
发布说明
- 添加了继续错误功能
- Spring Boot版本升级至3.0.0
兼容性
- Spring引导框架
- Eclipse IDE
- 新万博移动客户端Collibra数据智能云
- 新万博移动客户端Collibra数据智能On-Prem
依赖
- Spring Boot集成库
- Java SDK 17
License和使用要求
- 新万博移动客户端Collibra数据智能云
版本历史
发布说明
- 已添加DBT快照摄取功能
- 已添加Disable/Enable dbt Jobs标志
- 修复了创建额外目录的错误
兼容性
- Spring引导框架
- Eclipse IDE
- 新万博移动客户端Collibra数据智能云
- 新万博移动客户端Collibra数据智能On-Prem
依赖
- Spring Boot集成库
- Java SDK 11
License和使用要求
- 新万博移动客户端Collibra数据智能云
发布说明
- Java版本迁移到Java 11
- 针对Java 11升级的集成库版本
兼容性
- Spring引导框架
- Eclipse IDE
- 新万博移动客户端Collibra数据智能云
- 新万博移动客户端Collibra数据智能On-Prem
依赖
- Spring Boot集成库
- Java SDK 11
License和使用要求
- 新万博移动客户端Collibra数据智能云
发布说明
- 系统资产和社区错误修复
- 已经添加了异常处理程序
兼容性
- Spring引导框架
- Eclipse IDE
- 新万博移动客户端Collibra数据智能云
- 新万博移动客户端Collibra数据智能On-Prem
依赖
- Java运行时环境1.8
- Spring Boot集成库
License和使用要求
- 新万博移动客户端Collibra数据智能云
发布说明
- 增加了通过模式和dbt项目创建沿袭目录的功能
- 功能创建动态元属性添加
- Meta从标签转移到属性
- 请求模型简化,HTTP方法更改为POST
- 新万博移动客户端硅胶常数转移到应用属性
- 沿袭目录错误修复
兼容性
- Spring引导框架
- Eclipse IDE
- 新万博移动客户端Collibra数据智能云
- 新万博移动客户端Collibra数据智能On-Prem
依赖
- Java运行时环境1.8
- Spring Boot集成库
License和使用要求
- 新万博移动客户端Collibra数据智能云
发布说明
- 创建或查找已添加的域的功能
- 端点结构
- 新万博移动客户端鞘翅类植物群落和结构域
- 系统资产和一些应用程序属性参数移动到请求体
兼容性
- Spring引导框架
- Eclipse IDE
- 新万博移动客户端Collibra数据智能云
- 新万博移动客户端Collibra数据智能On-Prem
依赖
- Java运行时环境1.8
- Spring Boot集成库
License和使用要求
- 新万博移动客户端Collibra数据智能云
发布说明
- 摄入暴露量也增加了
- 安全更新
兼容性
- Spring引导框架
- Eclipse IDE
- 新万博移动客户端Collibra数据智能云
- 新万博移动客户端Collibra数据智能On-Prem
依赖
- Java运行时环境1.8
- Spring Boot集成库
License和使用要求
- 新万博移动客户端Collibra数据智能云
发布说明
- 已添加系统资产
- 数据库资产命名和约定改变
- 过时的方法已被删除
兼容性
- Spring引导框架
- Eclipse IDE
- 新万博移动客户端Collibra数据智能云
- 新万博移动客户端Collibra数据智能On-Prem
依赖
- Java运行时环境1.8
- Spring Boot集成库
License和使用要求
- 新万博移动客户端Collibra数据智能云
发布说明
- 量度摄取并载入Collibra作为KPI资产新万博移动客户端
- Spring Boot版本更新
- SpringFox被Springdoc取代
- Docker文件改进
兼容性
- Spring引导框架
- Eclipse IDE
- 新万博移动客户端Collibra数据智能云
- 新万博移动客户端Collibra数据智能On-Prem
依赖
- Java运行时环境1.8
- Spring Boot集成库
License和使用要求
- 新万博移动客户端Collibra数据智能云
发布说明
- 增加了技术谱系数据库实体拼接功能。
- 创建SQL文件的项目可选功能添加
- 添加了JUnit 5测试类
- 已添加Docker文件
兼容性
- Spring引导框架
- Eclipse IDE
- 新万博移动客户端Collibra数据智能云
- 新万博移动客户端Collibra数据智能On-Prem
依赖
- Java运行时环境1.8
- Spring Boot集成库
License和使用要求
- 新万博移动客户端Collibra目录
发布说明
- 谱系收割机方法从集成中移除。
- 提取的SQL时间戳名称更改为模型名称。
- 集成配置资源包更改为外部化配置类。
兼容性
- Spring引导框架
- Eclipse IDE
- 新万博移动客户端Collibra数据智能云
- 新万博移动客户端Collibra数据智能On-Prem
依赖
- Java运行时环境1.8
- Spring Boot集成库
License和使用要求
- 新万博移动客户端Collibra目录
发布说明
最初的版本。
主要特点:
这个Spring Boot集成提取已编译的SQL,并使用Collibra谱系收集器上传SQL文件。新万博移动客户端
兼容性
- Spring引导框架
- Eclipse IDE
- 新万博移动客户端Collibra数据智能云
- 新万博移动客户端Collibra数据智能On-Prem
依赖
- Java运行时环境1.8
- Spring Boot集成库
License和使用要求
- 新万博移动客户端Collibra目录
浏览与同样使用此应用程序的客户的讨论。
新万博移动客户端collibra主办的讨论将连接您与其他使用此应用程序的客户。
以下条款适用于您收到此产品源代码的程度。
尽管条款二进制代码许可协议根据该集成模板的许可,Collibra授予您(被许可方)访问集成模板的源代码的权利,以便为被许可方的内新万博移动客户端部使用目的复制和修改所述源代码,并仅用于开发与Collibra产品和服务的连接和/或集成。
仅就此集成模板而言,根据二进制代码许可协议定义的术语“软件”应包括其源代码版本。除上述规定外,《二进制代码许可协议》的所有剩余条款均适用于本协议项下集成模板的许可。