debezium相关内容

Debezium连接器任务处于未分配状态

今天,%3中的一个节点不同步,已重新启动。 现在,当我检查连接器任务的状态时,它显示为未分配,即使连接器处于运行状态。 工作进程正在分布式模式下运行。 我尝试重新启动连接器,但它仍未分配,并且指向被带回群集中的同一工作节点。 以下是我的其中一个工作进程的属性文件,该文件在所有工作进程中都是相同的: bootstrap.servers=something:9092 group.id ..
发布时间:2022-08-16 16:57:56 其他开发

将SQL Server数据实时传输到Kafka

我想将实时数据从SQL SERVER直接添加到Kafka,我发现有https://debezium.io/docs/connectors/sqlserver/ 提供的SQL SERVER连接器 在文档中,它说将为每个表创建一个主题。我正在努力了解体系结构,因为我有500个客户端,这意味着我有500个数据库,每个数据库都有500个表。这是否意味着它将创建250000个主题,或者我是否需要为每个客 ..
发布时间:2022-05-26 09:47:06 其他开发

debezium/zookeeper 端口 2181 关闭

我有一个来自 https://hub.docker.com/r/debezium/zookeeper:1.2 图像和我的 Compose 文件的正在运行的 Zookeeper 实例: 版本:“3.7"服务:动物园管理员:图片:debezium/zookeeper:1.2端口:- “2181:2181"- “2888:2888"- “3888:3888"网络:常见的:卷:- “~/dev/dock ..
发布时间:2021-11-15 00:03:29 其他开发

debezium - 架构注册表问题

我正在为 debezium 使用 AWS 架构注册表. 在 debezium 中,我提到服务器名称为 mysql-db01.因此,debezium 将使用此服务器名称创建一个主题,以添加一些有关服务器和架构更改的元数据. 当我部署连接器时,在架构注册表中我得到了这样的架构. {“类型":“记录",“名称":“SchemaChangeKey",“命名空间":“io.debezium.c ..
发布时间:2021-11-12 03:31:56 其他开发

Debezium 心跳动作未触发

在使用 Debezium 和 Postgres 时,我们发现心跳似乎不起作用.我们在目标数据库中创建了一个虚拟表来执行心跳操作,但我们从未看到该表中的数据发生任何变化. 我们启用了心跳,因为我们看到了它旨在解决的相同行为,即 https://issues.redhat.com/browse/DBZ-1815. 我们使用的是 Postgres 12 和 Debezium 1.3(或 1. ..
发布时间:2021-11-12 03:30:23 其他开发

Debezium 能否捕获 Postges 物化视图的变化

我们目前正在尝试使用 Debezium 来捕获 Postgres 数据库中 4 个表的更改.我们目前知道,对于这个用例,我们可以使用 kafka-streams 应用程序来加入/聚合 KTable 的表,但是我们希望保持 kafka-stream 拓扑简单,因此我们的想法是使用来自 Postgres 的物化视图和捕捉它的变化. 是否可以这样做,如果可以,我们应该如何配置它? Kafka ..

用于 RDS Aurora 的 Debezium 连接器

我正在尝试将 debezium 与 rds/aurora/一起使用,我正在考虑使用哪个连接器来使用 MySQL 连接器,或者还有另一个用于 Aurora 的连接器?另外,如何将 debezium 连接器(本地主机)连接到远程 aws aurora db?另外,是否有人使用 debezium 和 aurora 分享一些信息. 另外,我如何配置 debezium 以将我们正在监控的不同表写入不同 ..

在 Debezium Mysql Connector 中将更多表列入白名单的有效方法

是否有任何最佳实践可用于将新表列入 debezium mysql 连接器的白名单? 我们正在为 CDC 流使用 debezium mysql 连接器,并且出现了一个用例,将更多表列入连接器配置的白名单.这是正在使用的 debezium 的版本详细信息和 {"class": "io.debezium.connector.mysql.MySqlConnector","version": "0. ..
发布时间:2021-11-12 03:28:52 数据库

错误由于错误而停止 (org.apache.kafka.connect.cli.ConnectStandalone) java.lang.NoClassDefFoundError: io/debezium/util/IoUtil

我正在尝试将我的 SQL Server 数据库连接到 Windows 上的 kafka,我下载了 Debezium jar 文件,它们位于名为 debezium-connector-sqlserver 的文件夹中,如下所示:Kafka 文件夹,Debezium 文件夹 我还在connect-standalone.properties中添加了这一行plugin.path=C:\\current ..
发布时间:2021-11-12 03:28:34 其他开发

Kafka-MongoDB Debezium 连接器:分布式模式

我正在研究 debezium mongodb 源连接器.我可以通过将 kafka 引导服务器地址作为远程机器(部署在 Kubernetes 中)和远程 MongoDB url 来以分布式模式在本地机器上运行连接器吗? 我试过了,我看到连接器成功启动,没有错误,只有很少的警告,但没有数据从 mongodb 流出. 使用以下命令运行连接器 ./bin/connect-distribute ..

Kafka Connect 用数组字段展平 postgres 记录的转换

我有一个使用 Kafka Connect 连接到 Kafka 的 postgres 数据库,以便将 CDC 事件放在一个主题上.我们使用扁平化转换作为共享配置的一部分: flattenKey: "org.apache.kafka.connect.transforms.Flatten$Key" 表中的一列属于 ARRAY 类型,因此在尝试应用转换时出现异常: Flatten 转换不支持 ARR ..