apache-zookeeper相关内容

Kafka Zookeeper 安全性

我使用的是 Kafka 版本 0.10.2.0.有没有办法通过 SSL 保护 Z​​ookeper 客户端(即 ZkClient 和 zokeper 服务器之间的通信).我找到了一些通过 SASL 完成的方法,但我希望通过 SSL. 解决方案 Zookeeper 3.5 包含 SSL 支持,但它仍处于 alpha 阶段,因此 Kafka 尚不支持它.支持的最高版本为 3.4,仅包含 sas ..
发布时间:2021-11-15 00:04:33 其他开发

Zookeeper如何同步集群中的时钟

来自 Zookeeper 文档: ctime从 epoch 开始,这个 znode 被创建的时间(以毫秒为单位). mtime上次修改此 znode 时距 epoch 的时间(以毫秒为单位). 我认为 Zookeeper 以某种方式同步了 ZK 集群中所有节点的(内部)真实时钟,以使时间戳保持一致,无论客户端连接到哪个节点.是这样吗?如果是,它是如何工作的? 我发现的是: ..
发布时间:2021-11-15 00:04:29 其他开发

高级主选举算法与欺凌算法相比有什么好处?

我阅读了当前的主选举算法(如 Raft、Paxos 或 Zab)如何在集群上选举主,但不明白为什么他们使用复杂的算法而不是简单的欺凌算法. 我正在开发一个集群库并使用 UDP 多播来处理心跳消息.每个节点加入一个多播地址,并定期向该地址发送数据报包.如果节点发现有一个新节点向该多播地址发送数据包,则该节点会被简单地添加到集群中,类似地,当集群中的节点没有从某个节点获取任何包时,它们会将其从集 ..

Zookeeper 如何管理其他集群中的节点角色?

我的理解是Zookeeper经常用来解决分布式系统中“跟踪哪个节点扮演特定角色"的问题(例如DB中的主节点或MapReduce中的主节点)集群等). 为简单起见,假设我们有一个包含一个主节点和多个副本的数据库,并且数据库中的当前主节点出现故障.在这种情况下,原则上,可以使副本节点之一成为新的主节点.此时我的理解是: 如果我们没有 Zookeeper 应用服务器可能不知道我们有一个 ..

如何重置 Kafka 偏移量以匹配尾部位置?

我们将 Storm 与 Kafka 和 ZooKeeper 一起使用.我们遇到过必须删除一些主题并使用不同名称重新创建它们的情况.除了现在读取新主题名称之外,我们的 Kafka 喷口保持不变.但是现在,当尝试从新主题读取时,spout 正在使用旧主题分区的偏移量.因此,my-topic-name 分区 0 的尾部位置将为 500,但偏移量将类似于 10000. 有没有办法重置偏移位置,使其与 ..
发布时间:2021-11-15 00:04:16 Java开发

在 ZooKeeper 中,有没有办法在不自己实现分布式锁的情况下原子地编写层次结构?

假设我想把这棵树写给动物园管理员 .一种./\.乙丙./\.德 在我创建节点 b 之后,但在我能够编写节点“d"或“e"之前,其他一些客户端可能会出现并删除它. 有没有办法可以原子地编写这个层次结构,或者可能锁定某个路径? 解决方案 您可以使用新的 multi() API 它完成所有操作或中止所有操作. ..
发布时间:2021-11-15 00:04:12 Java开发

ZooKeeper 集成集群中的最大服务器数?

用例:池中有 100 台服务器;我想在每个服务器上启动一个 ZooKeeper 服务,服务器应用程序(ZooKeeper 客户端)将使用 ZooKeeper 集群(读/写).那么就没有单点故障. 此解决方案是否适用于此用例?性能怎么样? 如果池中有 1000 台服务器怎么办? 解决方案 如果您只是想避免单点故障,那么您只需要 3 个服务器.在 3 节点集合中,可以容忍单个故障, ..
发布时间:2021-11-15 00:04:06 其他开发

Solr 云分片

目前我有一个 zookeeper 实例控制 3 台服务器上的复制.它是solr集成的zookeeper.它在我的基于 Web 的应用程序中运行良好. 我有一个新要求,需要在云中进行分片,但我不确定如何实现.基本上,我想将只能由我更新的数据分片 1 与用户可以更新的数据分片 2 分开.有时我会完全替换分片 1 中的数据目录 - 但我不这样做想要打扰用户在分片 2 中创建的数据. 分片 1 ..
发布时间:2021-11-15 00:04:02 其他开发

消费者和生产者因错误而失败:“在读取响应之前断开了与 0 的连接"

我有一个由 3 个 Kafka 代理组成的集群,所有主题的复制因子为 3.由于最近几天我面临这个问题,突然(一天几次)消费者和生产者在得到响应时卡住了,即使 Kafka 在所有 3 个服务器上运行,直到我检查代理日志(“连接到 0 已断开连接在响应被读取之前")并找出罪魁祸首节点为 0(在本例中为第一个节点)并在该节点上重新启动 zookeeper 和 broker. 根据日志,这是由于重新 ..

一旦进入 Kubernetes/Minikube,Kafka 就无法访问

我需要在本地 Kubernetes 实例(使用 Minikube)中运行 Kafka,并使 Minikube VM 之外的客户端应用程序(发布者和订阅者)可以访问生成的 Kafka 服务. 我已经在 Minikube 中启动并运行了所有东西,但我想我犯了一个配置错误,因为我无法从外部访问 Kafka.我已经阅读了类似的问题并尝试了建议的解决方案,但没有一个为我解决了问题. 我已将我的 ..
发布时间:2021-11-15 00:03:58 其他开发

Java客户端连接Zookeeper和HBase失败

我编写了一个简单的 HBase 客户端程序来在我的 HBase 集群(1 个主服务器和 3 个区域服务器)中执行 CRUD 操作.Zookeeper 实例仅在主服务器中运行,仲裁包括所有 4 个服务器.集群运行良好,可以使用 YCSB 客户端进行读/写(意味着服务器/zookeeper 端没有任何问题). 现在在 eclipse 类路径中,我添加了所有 HBase 库和 hbase-0.94 ..
发布时间:2021-11-15 00:03:42 Java开发

Solr:在 SolrCloud 设置中使用 configSet 添加内核不起作用

我的 SolrCloud (v5.2) 设置有 2 个不同的内核 [users, docs] 正常工作. 现在我需要能够动态添加新的内核,这些内核在配置上与已经存在的 docs 内核相同.我不想复制配置(我试过它工作正常),因为我需要实际共享 synonyms.txt 和其他一些不断变化的文件. 我认为我需要“配置集",但我无法让它们工作.我使用以下命令上传了“模板"配置: sh z ..
发布时间:2021-11-15 00:03:38 其他开发

动物园管理员和错误风暴

我正在为 Storm 开发代码,这是开发人员的一个例子.我的问题是,当您从 IDE Eclipse 运行此代码时,没有建立 Storm 和 Zookeeper 之间的连接.Zookeeper运行在2181,也是设置在storm.yaml中. 我的例外是: 72992 [NIOServerCxn.Factory:0.0.0.0/0.0.0.0:2000] WARN o.a.s.s.o.a.z ..
发布时间:2021-11-15 00:03:35 其他开发

多台服务器上的 Kafka

我关注了这个链接以安装 Kafka + Zookeeper.一切正常,但我正在 2 台服务器上设置 Kafka + Zookeeper. 我已经设置了kafka/config/server.properties: 服务器 1:broker.id = 0 服务器 1:zookeeper.connect = localhost:2181,99.99.99.91:2181 服务器 2:b ..
发布时间:2021-11-15 00:03:33 其他开发

debezium/zookeeper 端口 2181 关闭

我有一个来自 https://hub.docker.com/r/debezium/zookeeper:1.2 图像和我的 Compose 文件的正在运行的 Zookeeper 实例: 版本:“3.7"服务:动物园管理员:图片:debezium/zookeeper:1.2端口:- “2181:2181"- “2888:2888"- “3888:3888"网络:常见的:卷:- “~/dev/dock ..
发布时间:2021-11-15 00:03:29 其他开发

主备分布式系统中共识协议的理论结果

我正在学习分布式系统中的共识协议.这样的分布式系统做数据库的主备. 我了解到“每个共识协议都可以永远循环".从基于paxos的复制键值存储的leader选举 “每个共识协议都可以永远循环"的信息来源在哪里? 状态更新: 问题已回答.rystsov 和 另一个帖子. 能否分享更多的理论成果和相应的信息来源? 解决方案 “每个共识协议都可以永远循环"声明被称为 FLP ..