logstash相关内容

如何使用Logstash&设置内容类型rabbitmq输出?

我想用logstash解析日志,并通过rabbitmq发送结果.使用这些结果的应用程序正在等待content_type设置为"application/json"的消息.目前,我的消息没有任何属性,我的应用程序无法处理该消息. 您能告诉我logstash如何将属性"content_type"设置为"application/json"的消息发送到rabbitmq吗? 预先感谢&最好的问候, ..
发布时间:2020-05-04 03:37:09 其他开发

Logstash Grok过滤器每次匹配获取多个值

我有一台服务器,它以自定义日志格式将访问日志发送到logstash,并正在使用logstash过滤这些日志并将其发送到Elastisearch. 日志行看起来像这样: 0.0.0.0 - GET / 200 - 29771 3 ms ELB-HealthChecker/1.0\n 并使用此grok过滤器进行解析: grok { match => [ "messa ..
发布时间:2020-05-04 03:37:06 其他开发

使用时间表时Elasticsearch/Logstash复制输出

我将Elasticsearch与Logstash结合使用. 我想在数据库更改时更新索引.因此,我决定使用LS schedule .但是每隔1分钟输出将附加到数据库表记录中. 示例:合同表有2行. 前1分钟总计:2,总输出后1分钟是:4; 我该如何解决? 有我的配置文件.命令是 bin/logstash -f contract.conf input { jdbc { ..
发布时间:2020-05-04 03:37:04 其他开发

如何处理Logstash中的空白字段

我面临Logstash KV过滤器的问题: 下面是示例事件: 2016-08-15T12:43:04.478Z 103.240.35.216 date=2016-08-15 time=18:13:16 timezone="IST" device_name="CR25iNG" device_id=C2222-123 log_id=010302602002 log_type="F ..
发布时间:2020-05-04 03:37:02 其他开发

我的日志文件中几行中的结构不同

我的日志文件在几行中包含不同的结构,我无法理解它,我不知道我们是否可以按行或属性进行测试,我仍然是一个初学者. 如果您不了解我,我可以举几个例子: 输入: id=firewall action=bloc type=web id=firewall fw="ER" type=filter id=firewall fw="Az" tz="loo" action=bloc 模式: i ..
发布时间:2020-05-04 03:36:58 其他开发

动态模板不能短时,字节&漂浮

我正在尝试创建一个模板,在我的模板中,我试图实现动态映射. 这就是我写的内容,如 6.2.1 一样,系统会自动检测到唯一的布尔值,日期,双精度型,长型,对象,字符串,这对于映射float,short和amp;字节. 如果我在其中索引 127 ,它将被从 short_fields 映射到 short ,这很好,但是当我索引一些325566时,我收到的异常数值数值(325566)超出了Ja ..
发布时间:2020-05-04 03:36:51 其他开发

logstash:错误,无法检索cgroup信息

我正在尝试使用特定的配置文件运行logstash: $ /usr/share/logstash/bin/logstash --debug -f $HOME/conf.d/conf2.conf --path.settings /etc/logstash 我收到此错误: [2018-06-26T15:00:41,046][DEBUG][logstash.pipeline ..
发布时间:2020-05-04 03:36:47 其他开发

使用红宝石过滤器将历元时间转换为Logstash中的日期

我的配置中有一个字段名称"timestamp".它以纪元时间(毫秒)保存数据数组.我想使用Ruby过滤器转换数组中的每个纪元时间,并将其转换为Kibana消耗的Date格式.我正在尝试转换每个日期字段并以数组形式存储在新字段中.我收到语法错误.谁能帮我吗 ?我是Ruby的新手. ruby { code => {' event.get("timestamp").each do |x| { ..
发布时间:2020-05-04 03:36:39 其他开发

查询多个单词时,通配符无法正常工作

如果我在“邮件"字段中搜索包含例如“被叫"的文档,则会得到预期的结果,但是当我搜索“被叫",“被叫*"或 "*was called*" 我什么也没得到,尽管我有很多文档,其消息字段包含以下内容"REST API调用了应用程序". 这是我发送的查询的一部分: "wildcard": { "message": { "wildcard": "was call ..
发布时间:2020-05-04 03:36:30 其他开发

logstash解析日志字段

我正在尝试从Postfix日志中解析@message字段并将其提取到多个字段中. 消息: Sep 17 19:12:14 postfix/smtp[18852]: 28D40A036B: to=, relay=192.244.100.25[192.244.100.25]:25, delay=0.13, delays=0.01/0.01/0.09/ ..
发布时间:2020-05-04 03:36:28 其他开发

使用Filebeat传输CSV文件

案例 从客户端PC推送csv文件到服务器端的弹性文件 松紧带已经安装好了.我可以从我的电脑访问它并使用演示数据.现在,我想学习如何使用自己的数据进行推送.我已经从kaggle准备了数据. 客户端 我已经在客户端下载了文件拍并提取了它. 我已将filebeat.yml编辑为 filebeat.inputs: - input_type: log paths: ..
发布时间:2020-05-04 03:36:18 其他开发

有没有一种方法可以使用Logstash将两个不同数据源(即Mysql和Postgres SQL)的数据库连接起来并对其进行索引以进行弹性搜索?

我对ELK还是很陌生,想知道是否有一种方法可以将来自不同来源(例如MYSQL和Postgres)的两个数据库联接起来,并在使用logstash的Elasticsearch中将其索引到单个索引. 因为我能够在pyspark的帮助下实现相同的目标.但是如果可能的话,我想使用日志存储实现相同的目的! 此外,请提出一些其他可行的方法来实现相同的目标,而不是火花和对数. 预先感谢! ..
发布时间:2020-05-04 03:36:16 数据库

Logstash:根据某些条件重命名嵌套字段

我试图在迁移到Amazonelasticsearch时重命名Elasticsearch中的嵌套字段 在文档中,我想更改 1.如果 value 字段具有JSON类型.将值字段更改为值关键字,并删除"value-whitespace"和"value-standard"(如果存在) 2.如果value字段的大小大于15.将 value 字段更改为 value-standard ..
发布时间:2020-05-04 03:36:09 其他开发