草庐IT

操作Kafka的Topic

全部标签

go - 使用 Jaeger 在分布式应用程序中跟踪 Kafka 总线

我分发了包含多个Go服务的应用程序。其中一些使用Kafka作为数据总线。我能够使用Jaeger的opentracing追踪服务之间的调用。我在图表上绘制Kafka跨度时遇到问题,它们显示为间隙。这是我能做的。初始跨度由gRPC中间件创建。生产方:...kafkaMsg:=kafka.Message{Key:[]byte(key),Value:msgBytes}headers:=make(map[string]string)ifspan:=opentracing.SpanFromContext(ctx);span!=nil{opentracing.GlobalTracer().Injec

go - 重消费Kafka消息的可能原因

昨天从日志中发现,kafkagroupcoordinator发起grouprebalance后,kafka重新消费了一些消息。这些消息已在两天前使用(从日志中确认)。日志中报告了另外两个重新平衡,但它们不再重新使用消息。那么为什么第一次reblancing会导致重新消费消息呢?有什么问题?我使用的是golangkafka客户端。这是代码config:=sarama.NewConfig()config.Version=versionconfig.Consumer.Offsets.Initial=sarama.OffsetOldest而且我们在声明消息之前处理消息,因此我们似乎正在为kaf

go - 如何修复 `kafka: client has run out of available brokers to talk to (Is your cluster reachable?)` 错误

我正在开发一个应用程序,该应用程序从sqs队列中读取一条消息,对该数据执行一些操作,然后获取结果并将其发布到kafka主题。为了在本地进行测试,我想在我的docker构建中设置一个kafka图像。我目前能够使用docker-compose在本地启动aws-cli、localstack和我的应用程序的容器。另外,我也可以毫无问题地启动kafka和zookeper。我无法让我的应用程序与kafka通信。我试过使用两个单独的撰写文件,也尝试过网络。最后,我引用了:https://rmoff.net/2018/08/02/kafka-listeners-explained/。这是我的docke

Go 支持 Scatter-Gather IO 操作

我想在Go中开发基于Unix域套接字的高性能客户端-服务器通信协议(protocol)。具体来说,我正在考虑采用Vector-IO操作(writev/readv系统调用)以避免结构化数据序列化的开销。但是,我认为Go并不完全支持使用scatter-gatherio操作。我发现了一些为writev操作提供Go支持但不支持readv的尝试。有没有一种方法可以在Go中实现它和/或在性能方面有什么替代方案? 最佳答案 使用net.Buffers使用writev或类似的优化批量写入。对于读取,将数据放入单个缓冲区和slice根据需要缓冲。

go - 使用 kafka-go 计划在 Kafka 中创建消费者

我是kafka的新手,目前正在研究它。我在golang中使用kafka-go来创建生产者和消费者。目前我能够创建一个生产者,但我希望一旦创建了一个主题的生产者而不是每次都创建消费者。意味着对于每个主题,只创建一次消费者。此外,当需要为主题创建更多消费者以平衡负载时,它会被创建。有没有办法通过goroutines或Faktory来安排它? 最佳答案 你不应该有耦合的生产者/消费者,Kafka让你有完全解耦的生产者/消费者。即使主题不存在,您也可以运行您的消费者(Kafka将创建它,您只会收到一个领导者不可用警告),并在您需要时运行您的

go - Go 编译文件如何在不同的操作系统或 CPU 架构上工作?

由于我从昨天开始学习Golang:)我对编译后的文件有疑问。假设我编译我的项目。它在/bin文件夹中生成一个.exec文件。现在我的问题是,既然该文件是在基于IntelCPU的Mac上编译的,那么如果我想将它公开发布,它是否应该在其他操作系统和其他CPU架构(如AMD、ARM等)上编译?如果我在服务器上运行GOlang作为我的后端,我想这应该不是问题。但是,如果我发布我的.exec文件会发生什么,比方说在AWS上,有很多实例会根据负载自动增加/减少?有问题吗?编辑:对于那些正在寻找Go交叉编译工具的人来说,这是一个很好的解决方案https://github.com/mitchellh/

go - 对项目集合执行操作

在我的实际代码中,我正在使用encoding/xml解析一个XML文档,我基本上有一堆如下形式的嵌套结构——所有这些都可能出现多次,除了顶级statements元素:statementsstatementopcodeargsprepost我是Go的新手,我显然误解了interface{}(空接口(interface))的工作原理:.\stmtgen.go:58:cannotuseprint_name(typefunc(Statement))astypefunc(interface{})inargumenttoperformAction.\stmtgen.go:58:cannotuses

Golang Kafka 不消耗所有消息 offsetnewest

第一批:-我正在尝试从100个平面文件中提取数据并将其加载到一个数组中,然后将它们作为字节数组一个一个地插入到kafka生产者中。第二批:-我从kafka消费者消费,然后将它们插入NoSQL数据库。我在Kafka的shopifysaramagolang包的配置文件中使用了Offsetnewset。我可以接收消息并将消息插入到kafka,但在消费时我只收到第一条消息。因为我在sarama配置中提供了最新的Offset。我怎样才能得到这里的所有数据。 最佳答案 如果没有任何代码或关于如何配置kafka的更深入的解释(即:主题、分区等),

memory - 为什么使用单独的线程原子操作更快?

我有两段代码,桌面上有32个内核。代码A使用32个线程并执行以下操作,1)将值写入内存中的一些随机位置2)原子地向全局变量添加一个值。代码B使用16个线程将值写入随机位置,并使用另外16个线程以原子方式将值添加到全局变量。我想知道为什么代码B在每秒对全局变量执行多少原子操作方面更快。这里是代码Avarauint64=0constN=10*1024*1024vardata[N]uint64funcmain(){fori:=0;i这里是代码Bvarauint64=0constN=10*1024*1024vardata[N]uint64funcmain(){fori:=0;i

regex - 是否可以在 Golang 中提取字符串的一部分并在一次操作中替换这些部分?

假设我想从一个字符串中提取所有数字(很可能使用正则表达式匹配)并且我还想用通用占位符(如“#”)替换这些数字匹配。这很容易分两部分完成,先使用FindAll,然后使用ReplaceAll。但是,我对执行此类操作的性能成本深表怀疑。所以取一个字符串"sdasd3.2%sadas6...+8.9"替换为"sdasd#%sadas#...+#"得到一片[3.2,6.0,8.9]以尽可能高效的方式。编辑:我实现了regexp.FindAllString+regexp.ReplaceAllString并且对我的应用程序的性能影响非常小。我希望有空时尝试ElliotChance的方法并比较两者。