草庐IT

apache-kafka

全部标签

go - 在 pkg-config 搜索路径中找不到包 rdkafka

在pkg-config搜索路径中找不到包rdkafka。Confluentgopackage抛出这样的错误#pkg-config--cflags--rdkafkaPackagerdkafkawasnotfoundinthepkg-configsearchpath.Perhapsyoushouldaddthedirectorycontaining`rdkafka.pc'tothePKG_CONFIG_PATHenvironmentvariableNopackage'rdkafka'foundpkg-config:exitstatus1我该如何解决这个问题?我尝试将它添加到路径但没有骰子!

go - Golang Consumer连接Kafka后延迟接收Kafka消息

我是Golang和Kafa的新手,所以这似乎是一个愚蠢的问题。在我的Kafka消费者首次连接到Kafka服务器后,为什么在与Kafka服务器建立连接和接收第一条消息之间存在延迟(约20秒)?它在consumer.Messages()之前打印一条消息,并为收到的每条消息打印另一条消息。大约20秒的延迟在第一个fmt.Println和第二个fmt.Println之间。packagemainimport("fmt""github.com/Shopify/sarama"cluster"github.com/bsm/sarama-cluster")funcmain(){//Createtheco

Golang segmentio/kafka-go 消费者不工作

我正在使用segmentio/kafka-go连接到卡夫卡。//toproducemessagestopic:="my-topic"partition:=0conn,_:=kafka.DialLeader(context.Background(),"tcp","localhost:9092",topic,partition)conn.SetWriteDeadline(time.Now().Add(10*time.Second))conn.WriteMessages(kafka.Message{Value:[]byte("one!")},kafka.Message{Value:[]byt

regex - 使用正则表达式解析 Apache 日志文件

这个问题在这里已经有了答案:SplitastringonwhitespaceinGo?(4个答案)关闭3年前。我正在解析一个我自定义的Apache日志,它只给我两个值:“time”和“memory”(值是毫秒数和字节数),它们都是int64或float64,但我是使用正则表达式和Go来解析文件,所以当我匹配文件的内容时,它返回“[]”(空括号)并且不填充slice,我的代码是:for_,line:=rangelines{varbufferbytes.Bufferbuffer.WriteString(`\[0-9]+\s`)buffer.WriteString(`[0-9]+\s`)re

go - 使用 kafka go 读取 __consumer_offsets

我想使用这个库阅读主题__consumer_offsets:https://github.com/segmentio/kafka-go我的问题是,除非我指定一个分区,否则似乎什么都不会发生。默认情况下,这个主题有100个分区,向kafka查询分区列表然后循环读取它们似乎是不合理的,我希望库中有一个预先存在的方法来读取所有分区的消息在主题中。在我用kafkacat验证__consumer_offsets主题的分区15中有消息后,目前有以下工作:r:=kafka.NewReader(kafka.ReaderConfig{Brokers:[]string{"kafka:9092"},Topi

go - 使用 Jaeger 在分布式应用程序中跟踪 Kafka 总线

我分发了包含多个Go服务的应用程序。其中一些使用Kafka作为数据总线。我能够使用Jaeger的opentracing追踪服务之间的调用。我在图表上绘制Kafka跨度时遇到问题,它们显示为间隙。这是我能做的。初始跨度由gRPC中间件创建。生产方:...kafkaMsg:=kafka.Message{Key:[]byte(key),Value:msgBytes}headers:=make(map[string]string)ifspan:=opentracing.SpanFromContext(ctx);span!=nil{opentracing.GlobalTracer().Injec

go - 重消费Kafka消息的可能原因

昨天从日志中发现,kafkagroupcoordinator发起grouprebalance后,kafka重新消费了一些消息。这些消息已在两天前使用(从日志中确认)。日志中报告了另外两个重新平衡,但它们不再重新使用消息。那么为什么第一次reblancing会导致重新消费消息呢?有什么问题?我使用的是golangkafka客户端。这是代码config:=sarama.NewConfig()config.Version=versionconfig.Consumer.Offsets.Initial=sarama.OffsetOldest而且我们在声明消息之前处理消息,因此我们似乎正在为kaf

java - 带有数据流的 Apache Beam Go SDK

我一直在使用GoBeamSDK(v2.13.0),但无法获得wordcountexample致力于GCP数据流。它进入崩溃循环以尝试启动org.apache.beam.runners.dataflow.worker.DataflowRunnerHarness。该示例在使用Directrunner在本地运行时正确执行。该示例与上面给出的原始示例完全没有修改。堆栈跟踪是:org.apache.beam.vendor.grpc.v1p13p1.com.google.protobuf.InvalidProtocolBufferException:Protocolmessagehadinvali

go - 如何修复 `kafka: client has run out of available brokers to talk to (Is your cluster reachable?)` 错误

我正在开发一个应用程序,该应用程序从sqs队列中读取一条消息,对该数据执行一些操作,然后获取结果并将其发布到kafka主题。为了在本地进行测试,我想在我的docker构建中设置一个kafka图像。我目前能够使用docker-compose在本地启动aws-cli、localstack和我的应用程序的容器。另外,我也可以毫无问题地启动kafka和zookeper。我无法让我的应用程序与kafka通信。我试过使用两个单独的撰写文件,也尝试过网络。最后,我引用了:https://rmoff.net/2018/08/02/kafka-listeners-explained/。这是我的docke

go - Apache Beam Golang Dataflow 运行暂停

我正在使用ApacheBeamGoSDK,并将运行器用作数据流。然而,还是卡在了failedto\"StartContainer\"for\"sdk\"withCrashLoopBackOff:我尝试按照ApacheBeam[建议]重建容器:https://github.com/apache/beam/blob/master/sdks/CONTAINERS.md我将新的构建容器推送到Google容器注册表。但是,这个问题依然存在。有人可以提供相关信息吗? 最佳答案 Dataflow不正式支持ApacheBeamGoSDK。不过,一些