草庐IT

【SpringBoot】整合Kafka集群

全部标签

php - Symfony2 的 FOSElasticaBundle。如何配置连接到集群?

我通过FOSElasticaBundle在系统中使用Elasticsearch和Symfony2。虽然我只使用一台服务器,但可以像这样配置clients配置:https://github.com/FriendsOfSymfony/FOSElasticaBundle#basic-configurationfos_elastica:clients:default:{host:localhost,port:9200}但是当涉及到集群时,我尝试以某些方式进行配置但它不起作用,如下所示:fos_elastica:clients:default:[{host:localhost,port:9200

docker 部署 ES集群

docker部署ES集群1.安装docker在/opt/software目录下新建docker目录,上传docker_build.sh脚本并执行shdocker_build.sh#!/bin/bashyum-yinstallgccyum-yinstallgcc-c++##验证gcc版本gcc-v##卸载老版本yumremovedockerdocker-clientdocker-client-latestdocker-commondocker-latestdocker-latest-logrotatedocker-logrotatedocker-selinuxdocker-engine-seli

ELK 日志框架搭建 (springboot 接入 elk)

什么是ELK?ELK是一个开源的实时日志分析平台,它主要由Elasticsearch、Logstash和Kiabana三部分组成。LogstashLogstash主要用于收集日志,它是一个开源数据收集引擎,具有实时管道功能。Logstash可以动态地将来自不同数据源的数据统一起来,并将数据标准化到您所选择的目的地。Logstash收集数据的过程主要分为以下三个部分:输入:数据(包含但不限于日志)往往都是以不同的形式、格式存储在不同的系统中,而Logstash支持从多种数据源中收集数据(File、Syslog、https://cloud.tencent.com/product/cdb?from=

java - Spring Batch - 集群环境 - 故障转移机制

问题:springbatch最支持的failover策略是什么?必须关注资源使用,故障转移机制。有什么建议吗?用例-必须运行Spring批处理以从服务器读取文件(将由另一个应用程序放在服务器上)并处理它。环境是集群的。因此,可能有多个服务器实例会触发批处理作业,以在到达时尝试读取同一文件。我的想法:可以进行轮询以检查文件是否到达并调用spring批处理作业。由于它是集群的,我们可以使用主动/被动策略来轮询。也可以使用其他类型,例如循环法或时间片。如果我不清楚,请原谅我。如果有什么不清楚,我可以解释。 最佳答案 据我了解http://

java - Kafka 客户端连接池

执行kafka客户端的生产者/消费者连接池是否有意义?kafka是否在内部维护一个已初始化并准备好使用的连接对象列表?我们希望最大限度地减少连接创建时间,以便在发送/接收消息时没有额外的开销。目前我们正在使用apachecommons-pool库GenericObjectPool来保持连接。任何帮助将不胜感激。 最佳答案 Kafka客户端维护自己与集群的连接。生产者和消费者都保持与他们正在交互的代理的连接。如果他们停止交互,在connections.max.idle.ms之后连接将被关闭。此设置也存在于代理上,因此您可能需要与您的管

java - Kafka 流 API 示例 KStream 无法解析为类型

我正在学习这个Kafka流教程https://kafka.apache.org/0110/documentation/streams/tutorial在运行JRE8+和Kafka0.11.0.1的Centos7机器上这是抛出编译错误的行KStreamsource=builder.stream("streams-plaintext-input");尝试编译LineSplit示例时出现Java异常KStreamcannotberesolvedtoatype作为一个Java菜鸟,我不确定如何解决这个问题。仔细检查进口报关单,甚至复制粘贴样本也是徒劳。任何关于如何解决这个问题的线索都非常感谢。

java - Lagom 服务使用来自 Kafka 的输入

我正在尝试弄清楚如何使用Lagom来消费来自通过Kafka通信的外部系统的数据。我遇到过这个sectionofLagomdocumentation,它描述了Lagom服务如何通过订阅其主题与另一个Lagom服务进行通信。helloService.greetingsTopic().subscribe//但是,当您想订阅包含由某个随机外部系统产生的事件的Kafka主题时,什么是合适的配置?此功能是否需要某种适配器?澄清一下,我现在有这个:objectAggregator{valTOPIC_NAME="my-aggregation"}traitAggregatorextendsService

实现自定义SpringBoot的Starter组件

一、前言想要自定义starter组件,首先要了解springboot是如何加载starter的,也就是springboot的自动装配机制原理。1.1、starter加载原理springboot通过一个@SpringBootApplication注解启动项目,springboot在项目启动的时候,会将项目中所有声明为Bean对象(注解、xml)的实例信息全部加载到ioc容器当中。除此之外也会将所有依赖到的starter里的bean信息加载到ioc容器中,从而做到所谓的零配置,开箱即用。1.1.1、加载starter首先通过通过注解@SpringBootApplication找到@EnableAu

java - 在 Apache Kafka 中存储图像?

Kafka的大用户(例如LinkedIn)是否将上传的图像存储在Kafka中?我喜欢将所有内容放入日志的架构简单性,但我担心它在实践中可能行不通。 最佳答案 理论上没有限制,因为您可以轻松地将图像以二进制形式存储在Kafka队列中。但是可能还有其他问题..我会尝试对此进行一些思考消费者配置中有一个message.max.bytes参数,默认值为1000000。这样做实际上是为了防止代理耗尽内存,因为消费者没有流式传输消息的选项,必须分配内存才能读取消息。一种解决方法是压缩Kafka中的消息以节省空间。我能找到的最合适的条件是通过发送

java - Apache Kafka 是否提供异步订阅回调 API?

我的项目将ApacheKafka视为老化的基于JMS的消息传递方法的潜在替代品。为了让这个过渡尽可能的顺利,如果替换队列系统(Kafka)有一个异步订阅机制就更理想了,类似于我们当前项目的JMS机制使用MessageListener。和MessageConsumer订阅主题并接收异步通知。我不太关心Kafka是否严格遵守JMSAPI,但相反,如果不需要,我宁愿不重新设计我们的整个发布-订阅-通知类套件。我可以找到各种KafkaConsumerpollingexamples,但到目前为止还没有找到任何通过异步通知向客户端通知新消息的示例。有谁知道当前版本的Kafka(截至本文发布时为0.