草庐IT

kafka-clients

全部标签

go - 如何修复 `kafka: client has run out of available brokers to talk to (Is your cluster reachable?)` 错误

我正在开发一个应用程序,该应用程序从sqs队列中读取一条消息,对该数据执行一些操作,然后获取结果并将其发布到kafka主题。为了在本地进行测试,我想在我的docker构建中设置一个kafka图像。我目前能够使用docker-compose在本地启动aws-cli、localstack和我的应用程序的容器。另外,我也可以毫无问题地启动kafka和zookeper。我无法让我的应用程序与kafka通信。我试过使用两个单独的撰写文件,也尝试过网络。最后,我引用了:https://rmoff.net/2018/08/02/kafka-listeners-explained/。这是我的docke

go - 使用 kafka-go 计划在 Kafka 中创建消费者

我是kafka的新手,目前正在研究它。我在golang中使用kafka-go来创建生产者和消费者。目前我能够创建一个生产者,但我希望一旦创建了一个主题的生产者而不是每次都创建消费者。意味着对于每个主题,只创建一次消费者。此外,当需要为主题创建更多消费者以平衡负载时,它会被创建。有没有办法通过goroutines或Faktory来安排它? 最佳答案 你不应该有耦合的生产者/消费者,Kafka让你有完全解耦的生产者/消费者。即使主题不存在,您也可以运行您的消费者(Kafka将创建它,您只会收到一个领导者不可用警告),并在您需要时运行您的

sockets - 如何找到 IP :Port of incoming client in TCP Connection

收到来自conn,err:=listener.Accept()的连接后,我想在conn的另一端找到客户端的地址。我已经尝试使用conn.LocalAddr()和conn.RemoteAddr()(Documentation)来执行此操作。.LocalAddr()只是给出服务器进程的地址。.RemoteAddr()为客户端提供了正确的IP,但与我所知道的客户端绑定(bind)的端口号截然不同。如果它有什么不同,我用在同一台机器上运行的两个独立进程来做这件事。一个是客户端,一个是服务器。关于如何找到客户端的正确IP:Port的任何想法?我是要使用LocalAddr还是RemoteAddr?

go - 使用 code.google.com/p/google-api-go-client/youtube/v3 的 YouTube v3 api

尝试从我的channel获取上传列表,但出现错误“ChannelContentDetails没有上传字段或方法”apiCall:=youtube.Channels.List("contentDetails").Mine(true)response,err:=apiCall.Do()iferr!=nil{log.Fatalf("ErrormakingAPIcall:%v",err.Error())}fmt.Println(response.Items[0].ContentDetails.uploads) 最佳答案 response.I

api - 如何使用 Golang 的 github.com/google/google-api-go-client/customsearch/v1

我已经完成了人们说不需要的Oauth回调,只需要cx代码,但我还没有弄清楚如何将cx参数添加到调用中。packagemainimport("fmt""log""github.com/vinniyo/authCallback""github.com/google/google-api-go-client/customsearch/v1")funcmain(){client,err:=authCallback.BuildOAuthHTTPClient()iferr!=nil{log.Fatalf("ErrorbuildingOAuthclient:%v",err)}service,err:

Golang Kafka 不消耗所有消息 offsetnewest

第一批:-我正在尝试从100个平面文件中提取数据并将其加载到一个数组中,然后将它们作为字节数组一个一个地插入到kafka生产者中。第二批:-我从kafka消费者消费,然后将它们插入NoSQL数据库。我在Kafka的shopifysaramagolang包的配置文件中使用了Offsetnewset。我可以接收消息并将消息插入到kafka,但在消费时我只收到第一条消息。因为我在sarama配置中提供了最新的Offset。我怎样才能得到这里的所有数据。 最佳答案 如果没有任何代码或关于如何配置kafka的更深入的解释(即:主题、分区等),

http - 在 Golang 中使用 http.Client.Do 的空 HTTP 响应

我正在使用Go向外部Web服务发出HTTPGET请求。由于某种原因,响应的主体总是空的;内容长度始终为零字节。但是,响应状态代码始终为200,并且对Client.Do的调用不会返回任何错误。该请求需要一个Authorizationheader,因此我使用http.NewRequest/http.Client.Do模式来提交请求,如下所示。我过去曾做过类似的请求,但从未使用过需要header的GET。这似乎不太可能是原因,但我想知道这是否相关。如果有人能发现所用模式的任何潜在问题,或者可能有过类似的经历,我将不胜感激。谢谢。ifreq,err:=http.NewRequest("GET"

go - 错误 : invalid_request Missing required parameter: client_id in golang

我在使用GoogleOAuth2进行身份验证时遇到困难。我从谷歌开发者控制台获得了客户端ID和密码,我想出了这段代码:packagemainimport("fmt""golang.org/x/oauth2""golang.org/x/oauth2/google""io/ioutil""net/http""os")consthtmlIndex=`LoginwithGoogle`funcinit(){//SetupGoogle'sexampletestkeysos.Setenv("CLIENT_ID","somrestring-otherstring.apps.googleusercont

go - Kafka 0.11/Golang Sarama 版本支持

我花了一些时间发现连接到Kafka0.11集群的Go应用程序使用的是旧的0.8.2版本的库,它在响应中缺少时间戳值。然后我发现不支持Kafka0.11.xAPI/版本(但他们正在努力)。我现在有两个解决方案。首先是在我的应用程序中明确设置所需的版本。其次是“调整”Sarama代码以使用版本0.10.x作为最低版本,使我能够使用所有0.10.xAPI/功能。我还在想为什么版本不是从我正在连接的Kafka代理中获取的?我无法从代码中理解它应该如何工作...我清楚地看到在sarama.Config.Version中设置或定义的版本,但我无法在连接后找到任何更新此值的内容给经纪人?我知道Pyt

google-app-engine - 云数据存储 client.GetAll 类型不匹配但 client.Get 有效

我正在appengine中编写一个go应用程序,它连接并返回来自datastore实体的一些信息。我遇到了一个问题,其中client.Get正在使用预定义结构,但client.GetAll抛出类型不匹配(反之亦然)。我对两者都使用以下结构:typemyStructstruct{IDint64Field1stringField2stringRelease_Datetime.Time}这在Release_Date被定义为time.Time时起作用(如果int则失败):k:=db.datastoreKey(id)myStruct:=&myStruct{}iferr:=db.client.Ge