草庐IT

$Logstash

全部标签

redis - 多个 Logstash 实例导致行重复

我们使用具有以下配置的Logstash接收日志:input{udp{type=>"logs"port=>12203}}filter{grok{type=>"tracker"pattern=>'%{GREEDYDATA:message}'}date{type=>"tracker"match=>["timestamp","yyyy-MM-ddHH:mm:ss,SSS"]}}output{tcp{type=>"logs"host=>"host"port=>12203}}然后,我们使用以下设置在机器“主机”上获取日志:input{tcp{type=>"logs"port=>12203}}out

elasticsearch - 带有 elasticsearch_http 的 logstash

当我想发布问题时,显然logstashOnDemand帐户不起作用。无论如何,我有一个带有redis、elasticsearch和kibana的logstash设置。我的logstash正在从几个文件中收集日志并放入redis就好了。Logstash版本1.3.3Elasticsearch版本1.0.1我在用于logstash的elasticsearch_http中唯一拥有的是主机名。所有这些设置似乎都很好地粘合在一起。问题是elasticsearch_http没有消耗redis条目。通过在Debug模式下运行它,我看到它每1分钟刷新大约100个条目(flush_size和idle_f

开发一个二方包,优雅地为系统接入ELK(elasticsearch+logstash+kibana)

去年公司由于不断发展,内部自研系统越来越多,所以后来搭建了一个日志收集平台,并将日志收集功能以二方包形式引入各个自研系统,避免每个自研系统都要建立一套自己的日志模块,节约了开发时间,管理起来也更加容易。这篇文章主要介绍如何编写二方包,并整合到各个系统中。先介绍整个ELK日志平台的架构。其中xiaobawang-log就是今天的主角。xiaobawang-log主要收集三种日志类型:系统级别日志:收集系统运行时产生的各个级别的日志(ERROR、INFO、WARN、DEBUG和TRACER),其中ERROR级别日志是我们最关心的。用户请求日志:主要用于controller层的请求,捕获用户请求信息

ssl - logstash 可以通过 ssl 访问 redis 输入吗?

我正在Azure上设置云服务,并希望在Redis中缓冲日志。然而,在Azure上将Redis作为Web服务运行意味着我的请求必须离开我的虚拟网络,这意味着必须进行加密。我已经搜索了几个小时,但没有找到任何线索是否可以通过ssl从redis读取logstash。这根本不可能吗? 最佳答案 似乎redis无法使用ssl并且azure的redisweb服务似乎带有自定义ssl支持,这似乎是redis输入不支持ssl的原因。但是这个解决方案(stunnel)帮助我解决了我的问题:http://bencane.com/2014/02/18/s

logstash修改es创建索引的时间为凌晨00:00;

问题描述因公司目前业务量不大,故把elk部在了虚机上,给予的硬盘空间少的离谱,需一天清一次开测环境的日志,当写完脚本定时执行发现每天的定时任务日志是正常的但是第二天发现索引还在!起初以为是脚本或定时任务的问题,最后发现是索引的生成时间有问题,索引默认的生成时间是凌晨八点;而脚本的定时任务是凌晨四点,肯定是生效了,但是由于还有数据写入就又会生成这个索引;原因分析:因为logstash默认使用的UTC时间,我们现在处于的是东八区CST(CST=UTC+8h),也就是UTC时间是比我们慢8个小时的,当UTC时间到00:00的时候,会触发生成新的索引,这时候我们就已经到了08:00;解决方案:1、索引

redis - 同一个 Docker 容器上的两个 Logstash 实例

我想知道是否有一种方法可以在单个Docker容器上运行具有不同配置的两个logstash进程。我的设置有一个Logstash进程,使用文件作为输入,将事件发送到Redis,然后从那里发送到第二个Logstash进程,然后再发送到自定义http进程。所以,Logstash-->Redis-->Logstash-->Http。希望将两个Logstash实例和Redis保留在同一个Docker容器中。我仍然是Docker的新手,非常感谢任何关于相同的输入/反馈。 最佳答案 这会比需要的更复杂。在Docker世界中,运行三个容器来做三件事比

mongodb - 无法配置 mongodb 和 logstash

您好,我是新的logstash和mongodb。我不太确定这里是否适合提问,但我真的需要帮助。我也在logstash-usersgooglegroup中发布了同样的问题,但我没有收到任何答案。此外,我浏览了google组的所有帖子,但似乎没有一个解决方案有效。我需要使用mongodb进行输出,所以我运行了以下命令:./plugininstallcontrib之后我运行了这个命令./logstashagent--configlogstash-shipper.conf我的logstash-shipper.conf是input{file{path=>"/var/log/alternative

mongodb - 连接 mongoDB 和 Logstash Elasticsearch

我需要帮助在logstash中安装MongoDB输入插件和连接MongoDB的配置文件。我在Windows操作系统中使用ElasticSearch-Logstash。IhavetheLogstash-input-MongoDBpluginzipfile.whatarethestepsformanualinstallation. 最佳答案 首先你应该知道logstash没有官方的mongodb输入插件。请看logstash'sofficialpluginlist.我不知道你从哪里得到你的zip文件,但你应该使用logstash'sbu

LogStash~LogStash8的安装(包含jdk17的安装)

一、Java的安装卸载虚拟机自带的Javarpm-qa|grep-ijava|xargs-n1rpm-e--nodeps上传java安装包到/export/server/目录下解压java压缩包tar-zxvf/export/server/jdk-17_linux-x64_bin.tar.gz删除安装包rm-rf/export/server/jdk-17_linux-x64_bin.tar.gz重命名文件夹mvjdk-17.0.2/jdk配置环境变量vim/etc/profile#Java_PathexportJAVA_HOME=/export/server/jdkexportPATH=$PA

logstash输出到es模式action实践

文章目录logstash输出es模块配置命令logstash输出es模块logstash一共有input,filter,output三个模块配置conf示例input{jdbc{jdbc_connection_string=>"jdbc:mysql:/XXXjdbc_user=>"XXX"jdbc_password=>"XXX"jdbc_driver_library=>"/data/logstash-7.1.1/logstash-core/lib/jars/mysql-connector-java-8.0.19.jar"jdbc_driver_class=>"com.mysql.cj.jdbc