草庐IT

logstash-forwarder

全部标签

redis - 多个 Logstash 实例导致行重复

我们使用具有以下配置的Logstash接收日志:input{udp{type=>"logs"port=>12203}}filter{grok{type=>"tracker"pattern=>'%{GREEDYDATA:message}'}date{type=>"tracker"match=>["timestamp","yyyy-MM-ddHH:mm:ss,SSS"]}}output{tcp{type=>"logs"host=>"host"port=>12203}}然后,我们使用以下设置在机器“主机”上获取日志:input{tcp{type=>"logs"port=>12203}}out

elasticsearch - 带有 elasticsearch_http 的 logstash

当我想发布问题时,显然logstashOnDemand帐户不起作用。无论如何,我有一个带有redis、elasticsearch和kibana的logstash设置。我的logstash正在从几个文件中收集日志并放入redis就好了。Logstash版本1.3.3Elasticsearch版本1.0.1我在用于logstash的elasticsearch_http中唯一拥有的是主机名。所有这些设置似乎都很好地粘合在一起。问题是elasticsearch_http没有消耗redis条目。通过在Debug模式下运行它,我看到它每1分钟刷新大约100个条目(flush_size和idle_f

开发一个二方包,优雅地为系统接入ELK(elasticsearch+logstash+kibana)

去年公司由于不断发展,内部自研系统越来越多,所以后来搭建了一个日志收集平台,并将日志收集功能以二方包形式引入各个自研系统,避免每个自研系统都要建立一套自己的日志模块,节约了开发时间,管理起来也更加容易。这篇文章主要介绍如何编写二方包,并整合到各个系统中。先介绍整个ELK日志平台的架构。其中xiaobawang-log就是今天的主角。xiaobawang-log主要收集三种日志类型:系统级别日志:收集系统运行时产生的各个级别的日志(ERROR、INFO、WARN、DEBUG和TRACER),其中ERROR级别日志是我们最关心的。用户请求日志:主要用于controller层的请求,捕获用户请求信息

ssl - logstash 可以通过 ssl 访问 redis 输入吗?

我正在Azure上设置云服务,并希望在Redis中缓冲日志。然而,在Azure上将Redis作为Web服务运行意味着我的请求必须离开我的虚拟网络,这意味着必须进行加密。我已经搜索了几个小时,但没有找到任何线索是否可以通过ssl从redis读取logstash。这根本不可能吗? 最佳答案 似乎redis无法使用ssl并且azure的redisweb服务似乎带有自定义ssl支持,这似乎是redis输入不支持ssl的原因。但是这个解决方案(stunnel)帮助我解决了我的问题:http://bencane.com/2014/02/18/s

logstash修改es创建索引的时间为凌晨00:00;

问题描述因公司目前业务量不大,故把elk部在了虚机上,给予的硬盘空间少的离谱,需一天清一次开测环境的日志,当写完脚本定时执行发现每天的定时任务日志是正常的但是第二天发现索引还在!起初以为是脚本或定时任务的问题,最后发现是索引的生成时间有问题,索引默认的生成时间是凌晨八点;而脚本的定时任务是凌晨四点,肯定是生效了,但是由于还有数据写入就又会生成这个索引;原因分析:因为logstash默认使用的UTC时间,我们现在处于的是东八区CST(CST=UTC+8h),也就是UTC时间是比我们慢8个小时的,当UTC时间到00:00的时候,会触发生成新的索引,这时候我们就已经到了08:00;解决方案:1、索引

redis - 同一个 Docker 容器上的两个 Logstash 实例

我想知道是否有一种方法可以在单个Docker容器上运行具有不同配置的两个logstash进程。我的设置有一个Logstash进程,使用文件作为输入,将事件发送到Redis,然后从那里发送到第二个Logstash进程,然后再发送到自定义http进程。所以,Logstash-->Redis-->Logstash-->Http。希望将两个Logstash实例和Redis保留在同一个Docker容器中。我仍然是Docker的新手,非常感谢任何关于相同的输入/反馈。 最佳答案 这会比需要的更复杂。在Docker世界中,运行三个容器来做三件事比

ubuntu - Vagrant 中的 Redis(Ubuntu): how to forward redis port?

我尝试在Vagrantbox(带有Ubuntu镜像)中运行redis,将端口6379转发到主机的端口16379,但由于某些原因我不能这样做。所以,我像这样使用Vagrantfile:VAGRANTFILE_API_VERSION="2"Vagrant.configure(VAGRANTFILE_API_VERSION)do|config|config.vm.box="ubuntu/trusty64"config.vm.network"forwarded_port",guest:6379,host:16379config.vm.provision"ansible"do|ansible|a

SRS流媒体服务器——Forward集群搭建和源码分析

目录Forward集群原理RTMP流转发(Forward)部署实例Forward集群源码分析1.Forward集群原理Forward表示向前、前头的、发送等意思。在SRS中可以理解为把Master节点获得直播流⼴播(转发)给所有的Slave节点,master节点由多少路直播流,那么在每个slave节点也会多少路直播流。注:在SRS中还有另外⼀种集群⽅式,edge⽅式。注意两种⽅式的⽤词不同。a.在Forward模式中,中⼼节点叫Master,边缘节点叫Slave。b.在edge模式中,中⼼节点叫origin(源站),边缘节点叫做edge。1.适用场景Forward适合与搭建小型集群。推流者推流

git push 到gitlib提示! [rejected] master -> master (non-fast-forward) error: failed to push some refs t

一、gitpush到gitlab提示,大概意思是本地库和远程库没有同步导致无法提交合并,冲突导致无法push。![rejected]master->master(non-fast-forward)error:failedtopushsomerefsto'git@172.16.1.13:Software/xxxxxxxxxxxxxxxxxx.git'hint:Updateswererejectedbecausethetipofyourcurrentbranchisbehind二、解决方案gitbranch--set-upstream-to=origin/mastergitpulloriginma

mongodb - 无法配置 mongodb 和 logstash

您好,我是新的logstash和mongodb。我不太确定这里是否适合提问,但我真的需要帮助。我也在logstash-usersgooglegroup中发布了同样的问题,但我没有收到任何答案。此外,我浏览了google组的所有帖子,但似乎没有一个解决方案有效。我需要使用mongodb进行输出,所以我运行了以下命令:./plugininstallcontrib之后我运行了这个命令./logstashagent--configlogstash-shipper.conf我的logstash-shipper.conf是input{file{path=>"/var/log/alternative