草庐IT

K8S的Kafka监控(Prometheus+Grafana)

程序员欣宸 2023-03-28 原文

欢迎访问我的GitHub

这里分类和汇总了欣宸的全部原创(含配套源码)：https://github.com/zq2599/blog_demos

  • 对于部署在K8S上的Kafka来说， Prometheus+Grafana 是常用的监控方案，今天就来实战通过Prometheus+Grafana监控K8S环境的Kafka；

准备工作

  • 今天聚焦的是Kafka监控，因此需要K8S、Helm、Kafka、Prometheus、Grafana等服务都已就绪，下面提供了一些链接，在您做相关部署时可以作为参考：
  1. 搭建K8S：《kubespray2.11安装kubernetes1.15》
  2. 搭建Helm：《部署和体验Helm(2.16.1版本)》
  3. 搭建Prometheus和Grafana：《kubernetes1.15极速部署prometheus和grafana》
  4. 部署Kafka：《K8S环境快速部署Kafka(K8S外部可访问)》

版本信息

  1. Kubernetes：1.15
  2. Kubernetes宿主机：CentOS Linux release 7.7.1908
  3. NFS服务：IP地址192.168.50.135，文件夹/volume1/nfs-storageclass-test
  4. Helm：2.16.1
  5. Kafka：2.0.1
  6. Zookeeper：3.5.5
  7. Prometheus：2.0.0
  8. Grafana：5.0.0
  • 准备完毕就可以开始实战了；

确认kafka-exporter参数

  • 即将部署的kafka-exporter要从kafka取得数据，因此要准备kafka-exporter参数；
  • 查看kafka的服务中TYPE是ClusterIP的那个，如下图红框所示：
  • 上述红框中的服务名字是 kafka 、端口是 9092 ，因此稍后在kafka-exporter中配置的kafka信息就是 kafka:9092

实际操作

  • 添加Helm仓库(该仓库中有我们需要的kafka-exporter)： helm repo add gkarthiks https://gkarthiks.github.io/helm-charts
  • 下载kafka-exporter： helm fetch gkarthiks/prometheus-kafka-exporter
  • 解压下载的chart文件： tar -zxvf prometheus-kafka-exporter-0.1.0.tgz
  • 进入解压后的目录： cd prometheus-kafka-exporter
  • 修改values.yaml文件，如下图红框， ** kafka:9092 就是同一namespace下访问kafka的地址：
  • 在values.yaml文件所在目录执行： helm install --name-template kafka-exporter -f values.yaml . --namespace kafka-test （kafka的namespace是kafka-test，这里的namespace要和kafka保持一致）
  • 查看服务和pod是否就绪：
  • 此时我们部署好了 kafka-exporter ，能给prometheus提供监控数据了，但prometheus并不知道要来这里采集数据，因此接下来要配置prometheus；
  • 确认 kafka-exporter 服务的访问地址，prometheus采集数据要用到，名字和端口如下图红框所示，因此可以拼接处跨namespace的访问地址： kafka-exporter-prometheus-kafka-exporter.kafka-test.svc.cluster.local:9308
  • 如果您是参照《kubernetes1.15极速部署prometheus和grafana》部署的prometheus，请打开部署时下载的 configmap.yaml 文件，里面是prometheus的配置，如果是其他途径部署的，请按照自己的部署情况找到prometheus.yml的位置；
  • configmap.yaml 中增加下图红框中的内容，这样prometheus就可以采集kafka-exporter的数据了：
  • 使得配置生效： kubectl apply -f configmap.yaml
  • 此时的prometheus容器用的还是旧配置，为了让配置生效，要把prometheus的pod删除，这样K8S自动创建的新pod就用上了新的配置，找出prometheus的pod： kubectl get pods -n kube-system
  • 删除旧的pod： kubectl delete pod prometheus-68545d4fd8-f5q2w -n kube-system
  • 等待新的pod被自动创建；
  • 接下来登录Grafana，配置监控页面，如下图，做模板导入操作：
  • 在导入模板的页面输入编号7589：
  • 选择数据源的时候，要选prometheus，如下图：
  • 此时如果您的kafka有消息的收发，就可以立即看到数据了：
  • 至此，K8S环境下的kafka监控已经部署完成，希望本文能给您一些参考；

欢迎关注51CTO博客：程序员欣宸

学习路上，你不孤单，欣宸原创一路相伴...

PrometheusGrafanastronglikafka数据云平台云计算yyds干货盘点

有关K8S的Kafka监控(Prometheus+Grafana)的更多相关文章

  1. Observability：从零开始创建 Java 微服务并监控它 （二） - 2

    这篇文章是继上一篇文章“Observability：从零开始创建Java微服务并监控它（一）”的续篇。在上一篇文章中，我们讲述了如何创建一个Javaweb应用，并使用Filebeat来收集应用所生成的日志。在今天的文章中，我来详述如何收集应用的指标，使用APM来监控应用并监督web服务的在线情况。源码可以在地址 https://github.com/liu-xiao-guo/java_observability 进行下载。摄入指标指标被视为可以随时更改的时间点值。当前请求的数量可以改变任何毫秒。你可能有1000个请求的峰值，然后一切都回到一个请求。这也意味着这些指标可能不准确，你还想提取最小/

  2. ruby-on-rails - 监控多个 Rails 应用程序 - 2

    是否可以在我的服务器上运行任何工具来监控多个Rails应用程序？我需要监控每个应用程序收到的请求数、每个应用程序使用了多少内存、使用了多少CPU以及其他类似的统计信息。我需要查看每个单独的Rails应用程序的统计信息。 最佳答案 我建议你试试NewRelicRPM.免费版:RPMLiteisthemostwidelyusedsolutionforbasicwebapplicationmonitoring.RPMLiteprovidesapplicationmonitoringforunlimitedJava,RubyorJRubya

  3. k8s-污点 (Taint)和容忍 (Tolerations) - 2

    文章目录一、污点（Taint）1、污点简介2、污点的组成3、污点的设置和去除二、容忍（Tolerations）1、容忍简介2、容忍的基本用法3、示例4、多污点与多容忍配置三、警戒(cordon)和转移(drain)四、Pod启动阶段（相位phase）五、故障排除步骤一、污点（Taint）节点亲和性，是Pod的一种属性（偏好或硬性要求），它使Pod被吸引到一类特定的节点Taint则相反，它使节点能够排斥一类特定的PodTaint和Toleration相互配合，可以用来避免Pod被分配到不合适的节点上。每个节点上都可以应用一个或多个taint，这表示对于那些不能容忍这些taint的Pod，是不会被

  4. kafka如何动态消费新增topic主题 - 2

    一、解决痛点使用spring-kafka客户端，每次新增topic主题，都需要硬编码客户端并重新发布服务，操作麻烦耗时长。kafkaListener虽可以支持通配符消费topic，缺点是并发数需要手动改并且重启服务。对于业务逻辑相似场景，创建新主题动态监听可以用kafka-batch-starter组件二、组件能力1、新增topic名称为：auto.topic1（由于配置spring.kafka.consumer.prefix为auto，因此只有auto前缀的topic，才会被组件动态监听。）2、应用输出日志，监听到新增auto.topic1，并初始化客户端(主题刷新间隔为10s)3、发新的消

  5. ruby-on-rails - 监控 RTMP 流，如果可用则记录 - 2

    我正在寻找一种方法来监视流上的事件，以便我可以确定是否有任何内容通过流。如果有，我将开始使用rtmpdump进行录制。我想象这是通过运行一个每60秒检查一次流的cron任务来实现的。如果它确定流正在通过，则调用rtmpdump开始记录它。如果没有，则什么都不做，并在60秒后再次检查。由于rtmpdump只是在没有流数据时出现错误，因此尝试使用它来监视流似乎不是一个好主意，但也许我错了。如果我在逐个案例的基础上手动执行此操作会很容易，但我正在尝试自动执行自动录制流的任务(如果它们可用)。有没有人遇到过这样做的方法？也许我可以在命令行(linux)中使用其他一些工具？如果有帮助，我正在使用

  6. 云原生（十八） | Kubernetes篇之Kubernetes（k8s）工作负载 - 2

    文章目录Kubernetes（k8s）工作负载一、Workloads二、Pod三、Deployment四、RC、RS、DaemonSet、StatefulSet五、Job、CronJob1、Job2、CronJob六、GCKubernetes（k8s）工作负载一、Workloads什么是工作负载（Workloads）工作负载是运行在Kubernetes上的一个应用程序。一个应用很复杂，可能由单个组件或者多个组件共同完成。无论怎样我们可以用一组Pod来表示一个应用，也就是一个工作负载Pod又是一组容器（Containers）所以关系又像是这样工作负载（Workloads）控制一组PodPod控制

  7. K8s部署PHP项目 - 2

    前言    前端时间PHP项目部署升级需要，需要把Laravel开发的项目部署K8s上，下面以laravel项目为例，讲解采用yaml文件方式部署项目。一、部署步骤1.创建Dockerfile文件Dockerfile是一个用来构建镜像的文本文件，在容器运行时，需要把项目文件和项目运行所必须的组件安装其中。#基础镜像FROMphp:7.4-fpm#时区ARGTZ=Asia/Shanghai#更换容器时区RUNcp"/usr/share/zoneinfo/$TZ"/etc/localtime&&echo"$TZ">/etc/timezone#替换成阿里apt-get源RUNsed-i"s@http

  8. ruby - 如何在 Node.js/RoR 中监控 20 个网站(Ping 或 HTTP)的正常运行时间 - 2

    每5分钟(例如)ping20个网站的列表以了解该网站是否响应HTTP202的最佳方法是什么？最简单的想法是将20个URLS保存在数据库中，然后运行数据库并对每个URL执行ping操作。但是，当一个人不回答时会发生什么？之后的人会怎样？此外，是否有更好但更简单的解决方案？恐怕该列表会增长到20000个网站，然后没有足够的时间在我需要ping的5分钟内全部ping通它们。基本上，我是在描述PingDom、UptimeRobot等的工作原理。我正在使用node.js和RubyonRails构建这个系统。我也倾向于使用MongoDB来保存所有ping和监控结果的历史记录。建议？非常感谢!

  9. ruby-on-rails - Rails 中的用户监控 - 2

    我们有一个带有广泛管理部分的应用程序。我们对功能有点满意(就像您一样)，并且正在寻找一些快速简便的方法来监控“谁使用什么”。理想情况下，一个简单的gem将允许我们在每个用户的基础上跟踪Controller/操作，以构建使用的功能和未使用的功能的图片。任何你会推荐的..谢谢主场 最佳答案 我不知道有什么流行的gem或插件可以解决这个问题；过去，我在ApplicationController中将这种审计实现为before_filter:从内存中:classApplicationControllercurrent_user,:contro

  10. 【k8s】二、containerd的安装 - 2

    目录前言安装containerd解压安装配置成systemd任务安装runc​编辑安装cni配置containerd镜像源containerd基本使用拓展阅读nerdctl工具安装及使用整体脚本总结写在后面前言上一篇文章，我们介绍了虚拟机的基础环境以及基础的网络配置，还有一些k8s节点要用到基础环境配置。本文将带领大家把containerd给安装了containerd的项目官方地址https://github.com/containerd/containerdcontainerd的发布版本地址如下https://github.com/containerd/containerd/releases

随机推荐