草庐IT

《RPC实战与核心原理》学习笔记Day15

技术修行者 2023-04-17 原文

21 | 流量回放:保障业务技术升级的神器

什么是流量回放?

流量就是指在某个时间段内的所有请求,我们通过某种手段把发送到A应用的所有请求录制下来,然后把这些请求统一转发到B应用,让B应用接收到的请求参数和A应用保持一致,从而实现A接收到的请求在B应用里面重新请求了一遍,这个过程,我们称为“流量回放”。

当我们对应用逻辑有改动,但在做了单元测试和回归测试之后,因为线上环境更加复杂,为了降低出错的概率,可以尝试使用流量回放。

传统QA测试不能满足要求的根本原因就是在于改造后的应用在上线后出现跟应用上线前不一致的行为。我们测试的目的就是为了保证改造后的应用跟改造前应用的行为一致,我们测试Case也应该尽力去模拟应用在线上的行为,这时最好的方式就是用线上流量来验证,但是又不能把新的应用直接上线,所以我们可以考虑流量回放。也就是说我们可以把线上一段时间内的请求参数和响应结果保存下来,然后把这些请求参数在新改造的应用里面重新请求一遍,对比一下改造前后的响应结果是否一致,这样就间接达到了使用线上流量进行测试的效果。

我们常用的流量回放方案包括TcpCopy、Nginx等。

在RPC框架中,因为所有的请求都经过RPC,我们可以在RPC中拿到这些请求参数,将这些参数旁录下来,并将旁录结果用异步的方式发送到一个固定的地方保存起来,这样就完成了流量录制功能。

在完成录制功能后,我们需要模拟一个应用调用方,将录制好的请求参数重新发送一遍到要回归测试的应用里面,然后对比录制拿到的请求结果和新请求的结果,这样就完成了请求回放的过程。

流量回放不是RPC框架的核心功能,但是有了这个功能以后,用户可以更放心的升级自己的应用了。

使用流量回放,对请求有一些限制:

  1. 请求是否依赖底层数据,如果依赖,那么需要保证底层数据是一致的。
  2. 请求是否与当前系统状态或者系统时间有关系,如果相关,那么相关依赖也需要保持一致。
  3. 请求所执行的方法是否幂等,如果不幂等,很可能会影响验证结果。

实现流量回放的设计思路:

  1. 使用动态代理,切面拦截对应的方法,获取出入参。
  2. 把拦截信息异步转存到线上验证系统。
  3. 通过线上验证系统调用待验证的防范。
  4. 收集结果对比信息,设置报警功能。

22 | 动态分组:超高效实现秒级扩缩容

我们之前学习过服务分组,在调用方复杂的情况下,如果让所有调用方都调用同一个集群,那么很可能会因为非核心业务调用量的突增,造成整个集群都不可用了,为了避免这种情况,我们需要把整个打击群根据不同的调用方划分出不同的小集群,从而实现调用方流量隔离的效果,保证不同业务之间不会相互影响。

在给集群分组的时候,我们一般会选择性的合并一些调用方到同一个分组里,至于如何合并,并没有统一标准,一般来说,我们可以按照应用的重要级别来划分,让非核心业务应用和核心业务应用不要共用一个分组,并且非核心应用之间也最好别用一个分组。

那么我们如何为每个分组配置合适的机器数量呢?一般会通过压测来评估服务提供方单台机器所能承受的QPS,然后再计算出每个分组里面的所有调用方的调用总量,考虑到可能的不确定性因素,我们可以在现有调用总量的基础上,添加一个百分比作为buffer,这个百分比一般来自经验总结。

我们计算每个分组所需要的机器数量时,会额外增加一些机器,这样让每个小集群可以有一定的抗压能力,而抗压能力取决于预留机器的数量,这就需要在成本和可用性之间做权衡。

当某个分组的调用方流量突增,而分组所预留的空间不能满足当前流量要求时,我们可以看一下其他分组的服务提供方是否有富余能力来帮忙处理请求,这也就是动态分组的含义。

因为服务提供方的分组信息以及机器节点都保存在注册中心里面,我们可以在注册中心里面将部分实例的别名改成我们想要的别名,然后通过服务发现进而影响到不同调用方能够调用的服务提供方实例集合,换句话说,我们可以通过控制注册中心,来管理服务调用方可以触达的服务提供方以及分组节点的信息。

通过直接修改注册中心数据,我们可以让任何一个分组瞬间拥有不同规模的集群能力。我们不仅可以实现把某个实例的分组名改成另一个分组名,还可以让某个实例分组名变成多个分组名,这就是我们在动态分组里面最常见的两种动作:追加和替换。

我们还可以利用动态分组解决分组后的每个分组预留机器冗余的问题,我们没有必要把所有冗余的机器都分配到分组里面,我们可以把这些机器做成一个共享的池子,从而减少整理预留的实例数量。

有关《RPC实战与核心原理》学习笔记Day15的更多相关文章

  1. LC滤波器设计学习笔记(一)滤波电路入门 - 2

    目录前言滤波电路科普主要分类实际情况单位的概念常用评价参数函数型滤波器简单分析滤波电路构成低通滤波器RC低通滤波器RL低通滤波器高通滤波器RC高通滤波器RL高通滤波器部分摘自《LC滤波器设计与制作》,侵权删。前言最近需要学习放大电路和滤波电路,但是由于只在之前做音乐频谱分析仪的时候简单了解过一点点运放,所以也是相当从零开始学习了。滤波电路科普主要分类滤波器:主要是从不同频率的成分中提取出特定频率的信号。有源滤波器:由RC元件与运算放大器组成的滤波器。可滤除某一次或多次谐波,最普通易于采用的无源滤波器结构是将电感与电容串联,可对主要次谐波(3、5、7)构成低阻抗旁路。无源滤波器:无源滤波器,又称

  2. CAN协议的学习与理解 - 2

    最近在学习CAN,记录一下,也供大家参考交流。推荐几个我觉得很好的CAN学习,本文也是在看了他们的好文之后做的笔记首先是瑞萨的CAN入门,真的通透;秀!靠这篇我竟然2天理解了CAN协议!实战STM32F4CAN!原文链接:https://blog.csdn.net/XiaoXiaoPengBo/article/details/116206252CAN详解(小白教程)原文链接:https://blog.csdn.net/xwwwj/article/details/105372234一篇易懂的CAN通讯协议指南1一篇易懂的CAN通讯协议指南1-知乎(zhihu.com)视频推荐CAN总线个人知识总

  3. 深度学习部署:Windows安装pycocotools报错解决方法 - 2

    深度学习部署:Windows安装pycocotools报错解决方法1.pycocotools库的简介2.pycocotools安装的坑3.解决办法更多Ai资讯:公主号AiCharm本系列是作者在跑一些深度学习实例时,遇到的各种各样的问题及解决办法,希望能够帮助到大家。ERROR:Commanderroredoutwithexitstatus1:'D:\Anaconda3\python.exe'-u-c'importsys,setuptools,tokenize;sys.argv[0]='"'"'C:\\Users\\46653\\AppData\\Local\\Temp\\pip-instal

  4. 微信小程序开发入门与实战(Behaviors使用) - 2

    @作者:SYFStrive @博客首页:HomePage📜:微信小程序📌:个人社区(欢迎大佬们加入)👉:社区链接🔗📌:觉得文章不错可以点点关注👉:专栏连接🔗💃:感谢支持,学累了可以先看小段由小胖给大家带来的街舞👉微信小程序(🔥)目录自定义组件-behaviors    1、什么是behaviors    2、behaviors的工作方式    3、创建behavior    4、导入并使用behavior    5、behavior中所有可用的节点    6、同名字段的覆盖和组合规则总结最后自定义组件-behaviors    1、什么是behaviorsbehaviors是小程序中,用于实现

  5. ruby - 我正在学习编程并选择了 Ruby。我应该升级到 Ruby 1.9 吗? - 2

    我完全不是程序员,正在学习使用Ruby和Rails框架进行编程。我目前正在使用Ruby1.8.7和Rails3.0.3,但我想知道我是否应该升级到Ruby1.9,因为我真的没有任何升级的“遗留”成本。缺点是什么?我是否会遇到与普通gem的兼容性问题,或者甚至其他我不太了解甚至无法预料的问题? 最佳答案 你应该升级。不要坚持从1.8.7开始。如果您发现不支持1.9.2的gem,请避免使用它们(因为它们很可能不被维护)。如果您对gem是否兼容1.9.2有任何疑问,您可以在以下位置查看:http://www.railsplugins.or

  6. ruby - 我如何学习 ruby​​ 的正则表达式? - 2

    如何学习ruby​​的正则表达式?(对于假人) 最佳答案 http://www.rubular.com/在Ruby中使用正则表达式时是一个很棒的工具,因为它可以立即将结果可视化。 关于ruby-我如何学习ruby​​的正则表达式?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/1881231/

  7. ruby-on-rails - rails : Find tasks that were created on a certain day? - 2

    我有一个任务列表(名称、starts_at),我试图在每日View中显示它们(就像iCal)。deftodays_tasks(day)Task.find(:all,:conditions=>["starts_atbetween?and?",day.beginning,day.ending]end我不知道如何将Time.now(例如“2009-04-1210:00:00”)动态转换为一天的开始(和结束),以便进行比较。 最佳答案 deftodays_tasks(now=Time.now)Task.find(:all,:conditio

  8. 深度学习12. CNN经典网络 VGG16 - 2

    深度学习12.CNN经典网络VGG16一、简介1.VGG来源2.VGG分类3.不同模型的参数数量4.3x3卷积核的好处5.关于学习率调度6.批归一化二、VGG16层分析1.层划分2.参数展开过程图解3.参数传递示例4.VGG16各层参数数量三、代码分析1.VGG16模型定义2.训练3.测试一、简介1.VGG来源VGG(VisualGeometryGroup)是一个视觉几何组在2014年提出的深度卷积神经网络架构。VGG在2014年ImageNet图像分类竞赛亚军,定位竞赛冠军;VGG网络采用连续的小卷积核(3x3)和池化层构建深度神经网络,网络深度可以达到16层或19层,其中VGG16和VGG

  9. 机器学习——时间序列ARIMA模型(四):自相关函数ACF和偏自相关函数PACF用于判断ARIMA模型中p、q参数取值 - 2

    文章目录1、自相关函数ACF2、偏自相关函数PACF3、ARIMA(p,d,q)的阶数判断4、代码实现1、引入所需依赖2、数据读取与处理3、一阶差分与绘图4、ACF5、PACF1、自相关函数ACF自相关函数反映了同一序列在不同时序的取值之间的相关性。公式:ACF(k)=ρk=Cov(yt,yt−k)Var(yt)ACF(k)=\rho_{k}=\frac{Cov(y_{t},y_{t-k})}{Var(y_{t})}ACF(k)=ρk​=Var(yt​)Cov(yt​,yt−k​)​其中分子用于求协方差矩阵,分母用于计算样本方差。求出的ACF值为[-1,1]。但对于一个平稳的AR模型,求出其滞

  10. Unity Shader 学习笔记(5)Shader变体、Shader属性定义技巧、自定义材质面板 - 2

    写在之前Shader变体、Shader属性定义技巧、自定义材质面板,这三个知识点任何一个单拿出来都是一套知识体系,不能一概而论,本文章目的在于将学习和实际工作中遇见的问题进行总结,类似于网络笔记之用,方便后续回顾查看,如有以偏概全、不祥不尽之处,还望海涵。1、Shader变体先看一段代码......Properties{ [KeywordEnum(on,off)]USL_USE_COL("IsUseColorMixTex?",int)=0 [Toggle(IS_RED_ON)]_IsRed("IsRed?",int)=0}......//中间省略,后续会有完整代码 #pragmamulti_c

随机推荐