logstash相关内容

如何将mongo-kafka连接器作为kafka的源运行,并将其与logstash输入集成以将elasticsearch用作接收器?

我已经创建了 https://github.com/mongodb/mongo-kafka 但这如何与我正在运行的kafka实例连接. 这个问题听起来多么愚蠢.但是似乎没有可用的文档来使此代码与在本地运行的 mongodb 的 replicaset 一起使用. 所有博客都指向使用mongo地图集. 如果您有足够的资源,请指导我. 更新1- 使用的maven插件- ..
发布时间:2021-04-08 19:07:32 其他开发

在Logstash中分解json数组字符串

我有一个RabbitMQ以JSON格式发送3个字段,Logstash rabbitmq输入插件正在使用它. 其中一个字段是一个JSON字符串数组,如下所示: "content": [ "1111", "2222222", "Test 06", "3", "3232", "SomeValue1" ] 如何将每个字符串输入字段,以便可以从可用字段中快速发现Kib ..
发布时间:2021-02-15 18:49:48 其他开发

弹性搜索索引模板中可以使用变量吗?

我有很多的弹性搜索索引,它们是由logstash每天创建的,格式为: "logstash-%{cluster_type}-%{cluster_name}-jobaccounting-v2-%{+YYYY.MM.dd}" 我想在elasticsearch中创建一个别名,该别名将从索引名称中删除版本号.我打算将我的kibana实例指向别名索引而不是版本索引,以便我可以更改版本号而不影响kib ..
发布时间:2021-02-15 18:48:29 其他开发

将旧日志从Filebeat重新发送到Logstash

在此先感谢您的帮助.我想重新加载一些日志以自定义其他字段.我注意到filebeat配置中的注册表文件会跟踪已经选择的文件.但是,如果删除该文件中的内容,则不会恢复旧的日志.我也尝试过更改注册表文件中源的时间戳,但不成功.将旧的日志从Filebeat发送到logstash需要进行哪些更改? 我该如何找回日志? 更新: 这是tomcat容器中的最后一次登录: 2019-03-1 ..
发布时间:2021-02-15 18:48:23 其他开发

Elasticsearch基于公共字段合并多个索引

我正在使用ELK从两个不同的数据库的数据中生成视图.一种是mysql,另一种是PostgreSQL.在这两个数据库实例之间无法编写联接查询.但是我有一个通用的现场呼叫"nic".以下是每个索引的文档. MySQL 索引:user_detail "_id": "871123365V", "_source": { "type": "db-poc-user", "fna ..
发布时间:2021-02-15 18:48:01 其他开发

Elasticsearch put角色API

我开始使用创建角色API,它按预期工作:我获得了Elasticsearch中默认角色的列表,/_security/role,但是我不知道要创建以下角色,也无法为其找到合适的文档. 我想根据以下需求对用户进行隔离, 角色,该角色有权在Elastic Search中的所有索引中仅执行READ/WRITE(该角色不应具有创建/删除索引的特权 有权在基巴纳州上仅执行操作的角色 有权在Log ..
发布时间:2021-02-15 18:47:55 其他开发

Logstash解析来自两个不同文件拍输入的数据

我有一台机器上设置了Elasticsearch和Logstash,并通过Filebeat从另一台机器上发送了日志.我想添加一台新机器,可以从中将日志发送到Logstash,对其进行解析并存储在相同的Elasticsearch索引中. 我试图用相同的Logstash输出在新计算机上配置filebeat,但似乎logstash无法从多个来源接收数据... logstash配置文件: ..

为什么在kibana中没有logstash索引

按照digitalocean教程,我将我的ELK节点作为RedHat服务器设置了ELK堆栈和filebeat。 Kibana已启动并正在运行,但是当我将索引模式配置为logstash- *时,我看不到任何logstash索引: 无法获取映射。您是否有与模式匹配的索引? 当我卷曲查看所拥有的索引时,它们只是filebeat索引。 Filebeat应该将数据推送到正在监听504 ..
发布时间:2020-10-28 18:43:52 其他开发

聚合多个递归logstash

我正在将logstash与输入jdbc一起使用,并希望通过聚合将一个对象嵌入另一个对象。 如何使用添加递归? 是否在另一个对象内添加对象? 这是一个示例: { “ _index”:“ my-index”, “ _type”:“ test”, “ _id”:“ 1”, “ _version”:1, “ _score”:1, “ _source”:{ ” id”:“ 1”, “ ..
发布时间:2020-10-28 18:43:36 其他开发