草庐IT

Flink 积压问题排查

Hackergin 2023-03-28 原文

Flink 作业运行时，最常见的问题就是积压问题， 当作业出现积压时，如何才能快速定位到积压原因，并针对性解决呢？

积压的发现

通过我们会通过配置作业的积压报警来及时发现作用的积压情况，下面是一些常用的积压监控指标：

freshness

freshness 一般代表当前消费的消息体时间和当前时刻的差值，如果差值越大，说明积压也就越严重。
无论是消息队列还是数据湖，消息体本身就带有时间戳，因此可以非常方便计算当前消费的消息时间戳和当前时间的差值。

offsetLag

积压的条目数，适用于消息队列， 一般指当前消费的位点和相比消息队列的头节点的 offset 差值。

snapshotLag

snapshot 积压的个数，适用于数据湖，代表当前消费的 snapshot 和最新的 snapshot 版本的差异数量

splitLag

剩余的 split 数量，适用于数据湖， 代表剩余待消费的分片数量

积压问题的排查

反压排查时，一般分为两步：

  1. 发现存在积压的 task
  2. 结合 jstack 造成积压的具体原因

发现积压的 task

通常有多种手段来找到积压的 task

inpoolUsage/outpoolUsage
An estimate of the input/output buffers usage. (ignores LocalInputChannels)

一般情况下， 有这个一个原则：

  1. inpool 高的 task 处理比较慢 (可能原因：1. 自身处理慢 2. 下游处理慢导致反压)
  2. outpool 高的 task 下游处理比较慢

反压
If you see a back pressure warning (e.g. High) for a task, this means that it is producing data faster than the downstream operators can consume. Records in your job flow downstream (e.g. from sources to sinks) and back pressure is propagated in the opposite direction, up the stream.

通常如果 task 存在反压，并不是这个 task 处理慢了， 而是他的下游太慢，因此当作业存在多个 task 时， 反压是连续的，直到慢节点
如下图所示：一般情况是 task1, task2, task3 的反压比较高，从 task4 开始降低，则基本可以判断 task4 处理比较慢

checkpoint

数据积压通常会导致 checkpoint 超时， 因此通过 checkpoint 的耗时情况，也能反映出作业处理速度的快慢，从而能够定位到处理比较耗时的 task 。

结合 stack 分析原因

当找到了可能存在积压的 task 之后，再结合 stack 进一步确定原因。

常见的原因：

状态访问比较慢(rocksdb)

常见于使用 Rocksdb 的作业， 状态量比较大，作业的 stack 经常

GC 严重

针对不同的 statebackend， 常见的原因大不相同

  1. 使用 Rocksdb 的作业，确定主要占用在哪里(业务逻辑占用，broadcast state 占用)，结合实际的需求，扩充堆内内存。

  2. 使用 Filesystem 的作业， 有较大概率是状态量增加，导致堆内内存不足，导致频繁 GC，及时扩内存即可

外部系统访问比较慢

在 Flink 作业中， 一般使用三种方式访问外部系统：source，sink，维度表

source
常见两种提速手段：

  1. 扩 source partition的个数
  2. 扩 source task 的并发数

sink
常见三种提速手段：

  1. 扩 sink 表的 partition
  2. 扩 sink task 的并发
  3. sink 修改逻辑， 使用异步 io

维度表
常见两种提速手段

  1. 扩 join 算子的并发
  2. 采用异步 join方式，提升 join 速度

作业处理达到瓶颈
一般 Flink 的 task 处理速度在 2～3w， 处理快的5～6w， 因此如果单个 task 的处理速度在预期范围， 但依然出现了积压， 则可以需要考虑扩容。

Flink积压blockquotetaskli云计算

有关Flink 积压问题排查的更多相关文章

  1. ruby - 在 64 位 Snow Leopard 上使用 rvm、postgres 9.0、ruby 1.9.2-p136 安装 pg gem 时出现问题 - 2

    我想为Heroku构建一个Rails3应用程序。他们使用Postgres作为他们的数据库，所以我通过MacPorts安装了postgres9.0。现在我需要一个postgresgem并且共识是出于性能原因你想要pggem。但是我对我得到的错误感到非常困惑当我尝试在rvm下通过geminstall安装pg时。我已经非常明确地指定了所有postgres目录的位置可以找到但仍然无法完成安装:$envARCHFLAGS='-archx86_64'geminstallpg--\--with-pg-config=/opt/local/var/db/postgresql90/defaultdb/po

  2. ruby - 通过 rvm 升级 ruby​​gems 的问题 - 2

    尝试通过RVM将RubyGems升级到版本1.8.10并出现此错误:$rvmrubygemslatestRemovingoldRubygemsfiles...Installingrubygems-1.8.10forruby-1.9.2-p180...ERROR:Errorrunning'GEM_PATH="/Users/foo/.rvm/gems/ruby-1.9.2-p180:/Users/foo/.rvm/gems/ruby-1.9.2-p180@global:/Users/foo/.rvm/gems/ruby-1.9.2-p180:/Users/foo/.rvm/gems/rub

  3. ruby - 通过 RVM (OSX Mountain Lion) 安装 Ruby 2.0.0-p247 时遇到问题 - 2

    我的最终目标是安装当前版本的RubyonRails。我在OSXMountainLion上运行。到目前为止，这是我的过程:已安装的RVM$\curl-Lhttps://get.rvm.io|bash-sstable检查已知(我假设已批准)安装$rvmlistknown我看到当前的稳定版本可用[ruby-]2.0.0[-p247]输入命令安装$rvminstall2.0.0-p247注意:我也试过这些安装命令$rvminstallruby-2.0.0-p247$rvminstallruby=2.0.0-p247我很快就无处可去了。结果:$rvminstall2.0.0-p247Search

  4. ruby - Fast-stemmer 安装问题 - 2

    由于fast-stemmer的问题，我很难安装我想要的任何ruby​​gem。我把我得到的错误放在下面。Buildingnativeextensions.Thiscouldtakeawhile...ERROR:Errorinstallingfast-stemmer:ERROR:Failedtobuildgemnativeextension./System/Library/Frameworks/Ruby.framework/Versions/2.0/usr/bin/rubyextconf.rbcreatingMakefilemake"DESTDIR="cleanmake"DESTDIR=

  5. ruby - 安装 Ruby 时遇到问题(无法下载资源 "readline--patch") - 2

    当我尝试安装Ruby时遇到此错误。我试过查看this和this但无济于事➜~brewinstallrubyWarning:YouareusingOSX10.12.Wedonotprovidesupportforthispre-releaseversion.Youmayencounterbuildfailuresorotherbreakages.Pleasecreatepull-requestsinsteadoffilingissues.==>Installingdependenciesforruby:readline,libyaml,makedepend==>Installingrub

  6. java - 从 JRuby 调用 Java 类的问题 - 2

    我正在尝试使用boilerpipe来自JRuby。我看过guide从JRuby调用Java，并成功地将它与另一个Java包一起使用，但无法弄清楚为什么同样的东西不能用于boilerpipe。我正在尝试基本上从JRuby中执行与此Java等效的操作:URLurl=newURL("http://www.example.com/some-location/index.html");Stringtext=ArticleExtractor.INSTANCE.getText(url);在JRuby中试过这个:require'java'url=java.net.URL.new("http://www

  7. ruby-on-rails - 简单的 Ruby on Rails 问题——如何将评论附加到用户和文章？ - 2

    我意识到这可能是一个非常基本的问题，但我现在已经花了几天时间回过头来解决这个问题，但出于某种原因，Google就是没有帮助我。(我认为部分问题在于我是一个初学者，我不知道该问什么......)我也看过O'Reilly的RubyCookbook和RailsAPI，但我仍然停留在这个问题上.我找到了一些关于多态关系的信息，但它似乎不是我需要的(尽管如果我错了请告诉我)。我正在尝试调整MichaelHartl'stutorial创建一个包含用户、文章和评论的博客应用程序(不使用脚手架)。我希望评论既属于用户又属于文章。我的主要问题是:我不知道如何将当前文章的ID放入评论Controller。

  8. 【高数】用拉格朗日中值定理解决极限问题 - 2

    首先回顾一下拉格朗日定理的内容：函数f(x)是在闭区间[a,b]上连续、开区间(a,b)上可导的函数，那么至少存在一个，使得:通过这个表达式我们可以知道，f(x)是函数的主体，a和b可以看作是主体函数f(x)中所取的两个值。那么可以有，  也就意味着我们可以用来替换 这种替换可以用在求某些多项式差的极限中。方法： 外层函数f(x)是一致的，并且h(x)和g(x)是等价无穷小。此时，利用拉格朗日定理，将原式替换为 ，再进行求解，往往会省去复合函数求极限的很多麻烦。使用要注意：1.要先找到主体函数f(x)，即外层函数必须相同。2.f(x)找到后，复合部分是等价无穷小。3.要满足作差的形式。如果是加

  9. SPI接收数据异常问题总结 - 2

    SPI接收数据左移一位问题目录SPI接收数据左移一位问题一、问题描述二、问题分析三、探究原理四、经验总结最近在工作在学习调试SPI的过程中遇到一个问题——接收数据整体向左移了一位（1bit）。SPI数据收发是数据交换，因此接收数据时从第二个字节开始才是有效数据，也就是数据整体向右移一个字节（1byte）。请教前辈之后也没有得到解决，通过在网上查阅前人经验终于解决问题，所以写一个避坑经验总结。实际背景：MCU与一款芯片使用spi通信，MCU作为主机，芯片作为从机。这款芯片采用的是它规定的六线SPI，多了两根线：RDY和INT，这样从机就可以主动请求主机给主机发送数据了。一、问题描述根据从机芯片手

  10. git使用常见问题（提交代码，合并冲突） - 2

    文章目录git常用命令（简介，详细参数往下看）Git提交代码步骤gitpullgitstatusgitaddgitcommitgitpushgit代码冲突合并问题方法一：放弃本地代码方法二：合并代码常用命令以及详细参数gitadd将文件添加到仓库：gitdiff比较文件异同gitlog查看历史记录gitreset代码回滚版本库相关操作远程仓库相关操作分支相关操作创建分支查看分支：gitbranch合并分支：gitmerge删除分支：gitbranch-ddev查看分支合并图：gitlog–graph–pretty=oneline–abbrev-commit撤消某次提交git用户名密码相关配置g

随机推荐