logstash相关内容

我是否可以使用nginx对logstash群集进行负载均衡

我有2个logstash服务器,它们监听来自多个文件节拍的5000个。只有一台日志存储服务器获得流量。我可以用nginx进行负载均衡吗?我是否可以对ElasticSearch服务器群集执行相同的操作? 推荐答案 这听起来不像是问题。 不过,我可能建议在这两种情况下使用haproxy作为反向代理。Nginx在快速服务数据方面有很好的表现,但与反向代理开箱即用时就没有那么好了-与hapr ..
发布时间:2022-02-27 13:50:24 其他开发

使用logstash将整个数据库保存到ElasticSearch

我是ELK新手,目前正在做的是: 使用configuration.conf文件设置logstash中的jdbc(输入>过滤>输出) 对于在logstash配置文件中具有单独input{}的每个MySQL查询 或使用pipilines.yml让单独的配置文件在单独的线程中运行(即每个MySQL查询都有(存储在)不同的配置文件中) 为管道运行命令logstash -f config.con ..
发布时间:2022-02-27 13:47:34 数据库

引导索引设置为写入索引,但日志将写入旧索引

容器日志在Kubernetes上运行Elastic+Fluentbit+Kibana堆栈,基于日期(NEW-YYYY-MM-DD)的每日翻转正常,但在大容量时会导致分片过大问题,所以创建了下文提到的ILM策略,以便快速翻转。引导索引是可写的,但仍在写入旧索引(NEW-YYYY-MM-DD),而不是新索引NEW-YYYY-MM-DD-000001。我已经提过尝试过的事情,但还没有成功。 Cre ..
发布时间:2022-02-27 13:44:10 其他开发

用于全局变化子索引模式的Logstash配置

我有一个ELK堆栈,带有一些已配置的索引模式。作为内部需求的一部分,我需要将一个json对象(它是该索引模式的一部分)全局编辑为";string";。 到目前为止,这样的json对象是由许多子字段随机填充的,比如";date";、";temps";以及更多的子字段。 所有这些都由ELK自动管理,但我需要将它们全部处理并转换(强制转换)为&q;字符串& ..
发布时间:2022-02-27 13:39:19 其他开发

Fluentd SSL/TLS 保护 TCP 输出插件到通用接收器(Logstash)?

我一直在寻找用于 tcp 的 fluentd 输出插件,它也是 ssl 安全的,不会强制我的接收器来自特定类型.就我而言,我的接收者是 logstash. 以下是一些接近的插件(接近但没有雪茄): 转发输出 - 不支持 ssl 连接. 安全转发输出 - 仅将数据发送到另一个 fluentd 接收器. 有些是 https 插件,有些是特定的服务插件(需要某种令牌/用户/密码) ..
发布时间:2022-01-18 17:54:55 其他开发

如何将 gem 添加到 Logstash

我正在运行 Logstash 1.4.1,与最新版本相比,我在安装文件夹中找不到包含 gem 信息的任何地方(而 github 中的最新代码有那些 gembag.rb、Gemfile 等) 我当前的问题是我需要使用 Logstash 没有开箱即用的几个 gem,只是 require 'gemname' 似乎不起作用.谁能指导我阅读解释如何添加这些 3rd 方宝石或向我展示一些可以做到这一点的 ..
发布时间:2022-01-18 17:45:59 其他开发