草庐IT

聊一聊自成长智能运维模型

白鳝 2023-03-28 原文
大部分AIOPS厂家主要是面向算法来提供智能化的分析能力,无论是异常检测、趋势评估还是自动分类,都是基于对无法完全认知的数据的算法实现。其智能化的能力完全依赖于算法、数据、训练与标注。

这种方式的智能化运维对于实际的日常AIOPS来说,可能都过于“重”了,每个项目都需要有比较高成本的实施过程,无法让AIOPS的能力开箱即用,在缺乏算法专家的长期协助下,算法的能力也无法持续自成长和自动进化。而算法专家是十分稀缺和昂贵的资源,这使得采用此类方法的智能运维项目变成了有钱人的游戏。

造成这种局面的主要原因还是此类智能运维系统的基础架构问题导致的,传统的软件是基于“目标”的软件,其逻辑都是根据目标预先编制好的,为实现某个已知的特定目标而设定好具体的目标,设计出具体的实现路径,完成软件基础能力框架的设定,最后开发出软件系统。

在实际应用场景中,为了适应不同用户的特定场景,顶多是修改配置、调整参数参数、按照目标去清理数据,从而可以实现一定的差异化化定制化。但是这种差异化与智能化之间还是存在巨大的差距的,这种差异化仅仅被限制在有限的范围内,不能图谱系统预先设定的能力极限。

智能化运维工具应该是能够根据不同的运维对象、不同的运维场景、不同的运行负载、不同的故障场景,实现差异化的分析诊断,实现较为准确的故障定位。智能化诊断工具应该具有极强的抽象能力,能够通过不断的自我学习或者在一定的外部辅助下自己发展自己的能力,以应对不同运维环境的需求。也就是说,AIOPS分析工具应该具备自我感知、自我调整、自我学习、自我成长的能力。

神经网络实际上也是一种对传统程序的高度抽象,将软件中的应用逻辑高度抽象为神经网络。通过深度学习,可以实现异常诊断需求到神经网络的自动化的翻译。通过不同的数据经过训练生成的神经网络模型来实现对于不同输入的智能化感知,从而完成分析。因此在理论上,只要有充足的历史数据,进行充分的训练,是能够完成抽象的。看到这里我们还不要高兴的太早了,因为充分的训练需要极高的成本,无法低成本的获得这种能力。

通过神经网络的智能化分析算法可以解决AIOPS领域的一部分问题,但是无法解决所有的问题。更加复杂的运维环境需要更复杂的知识抽象后通过知识推理才能够实现。这种知识抽象模型无法从混沌的数据中自动形成,必须依托于一个初始推动力才能够形成。因此我们需要两个关键因素来实现这种初始化的推动力的产生。

其中之一是知识组织形态的确定,我们需要一种具有很强知识抽象能力的技术手段来存储被抽象出来的知识。从目前的实践来看,图数据库是比较好的基础载体,知识图谱是知识抽象和描述的较好的实现方式。

第二个关键因素是已有的领域知识的导入,哪怕我们已经有了一个十分强大的知识抽象模型,在一个空白的知识库里自动产生知识,或者说发展知识,在初期阶段是十分困难的。因为缺少足够的基础知识,使得知识推理无法完成,同样,自动学习和自生长也无从谈起。如果能够导入一定量的质量比较高的知识图谱,以此为基础去积累、自学习、自生长知识库,其知识库的生长过程会相对简单。就像一个婴儿一样,最初的能力成长是相当缓慢的,随着智力的发展,知识增长的速度会越来越快,知识库的生长也是如此。

我们如果以上面的框架来构建一个智能化分析系统,其中蓝色部分的代码框架基本上是固定的,不太变化的稳定框架。里面包含了高度抽象的模型和算法。知识图谱是动态生长的部分,知识图谱的变化,将会改变蓝色部分计算框架产生的结果, 最终决定了整个系统的能力。

指标数据集是动态的,个性化的输入参数。知识图谱中存储的是通过高度抽象后的知识数据。这部分内容是今后要不断扩展,甚至自动生长的。黄色部分是最终实现的智能化分析能力。核心框架代码维持稳定的情况下,随着指标数据的持续输入,模型抽象模块依靠知识图谱不断的对数据进行加工,不断动态调整和优化在线分析引擎和离线分析引擎,同时根据已知的分析结果,自动调整知识图谱,生成新的顶点和边。

分析引擎通过标准化的框架,根据问题感知输入的参数数据,通过知识推理衍生图谱,裁剪图谱,形成与当前场景相适应的子图,再通过标准框架转换为已知的指标与规则的集合。输入到异常检测模块进行探测,发现可能存在的异常,然后通过标准的智能裁剪框架,根据问题收敛知识图谱对问题进行归类,通过迭代生成诊断结论。再根据诊断结论进行二次发散,找到可以定位问题的工具,通过自动化执行这些工具,进行故障路径二次裁剪,最终获得诊断结果。

知识成长的方法除了不断由人工注入新知识外,还可以通过模型抽象器自动发现知识,自动生成知识点。该知识点被称为智能知识点,加入到知识图谱之后,可以根据标准接口自动与现有的知识网络的其他知识点建立关联。从而优化整个知识网络。

有关聊一聊自成长智能运维模型的更多相关文章

  1. ruby-on-rails - Rails - 子类化模型的设计模式是什么? - 2

    我有一个模型:classItem项目有一个属性“商店”基于存储的值,我希望Item对象对特定方法具有不同的行为。Rails中是否有针对此的通用设计模式?如果方法中没有大的if-else语句,这是如何干净利落地完成的? 最佳答案 通常通过Single-TableInheritance. 关于ruby-on-rails-Rails-子类化模型的设计模式是什么?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.co

  2. ruby-on-rails - Rails - 一个 View 中的多个模型 - 2

    我需要从一个View访问多个模型。以前,我的links_controller仅用于提供以不同方式排序的链接资源。现在我想包括一个部分(我假设)显示按分数排序的顶级用户(@users=User.all.sort_by(&:score))我知道我可以将此代码插入每个链接操作并从View访问它,但这似乎不是“ruby方式”,我将需要在不久的将来访问更多模型。这可能会变得很脏,是否有针对这种情况的任何技术?注意事项:我认为我的应用程序正朝着单一格式和动态页面内容的方向发展,本质上是一个典型的网络应用程序。我知道before_filter但考虑到我希望应用程序进入的方向,这似乎很麻烦。最终从任何

  3. ruby-on-rails - 在混合/模块中覆盖模型的属性访问器 - 2

    我有一个包含模块的模型。我想在模块中覆盖模型的访问器方法。例如:classBlah这显然行不通。有什么想法可以实现吗? 最佳答案 您的代码看起来是正确的。我们正在毫无困难地使用这个确切的模式。如果我没记错的话,Rails使用#method_missing作为属性setter,因此您的模块将优先,阻止ActiveRecord的setter。如果您正在使用ActiveSupport::Concern(参见thisblogpost),那么您的实例方法需要进入一个特殊的模块:classBlah

  4. ruby-on-rails - 如何验证非模型(甚至非对象)字段 - 2

    我有一个表单,其中有很多字段取自数组(而不是模型或对象)。我如何验证这些字段的存在?solve_problem_pathdo|f|%>... 最佳答案 创建一个简单的类来包装请求参数并使用ActiveModel::Validations。#definedsomewhere,atthesimplest:require'ostruct'classSolvetrue#youcouldevencheckthesolutionwithavalidatorvalidatedoerrors.add(:base,"WRONG!!!")unlesss

  5. ruby-on-rails - form_for 中不在模型中的自定义字段 - 2

    我想向我的Controller传递一个参数,它是一个简单的复选框,但我不知道如何在模型的form_for中引入它,这是我的观点:{:id=>'go_finance'}do|f|%>Transferirde:para:Entrada:"input",:placeholder=>"Quantofoiganho?"%>Saída:"output",:placeholder=>"Quantofoigasto?"%>Nota:我想做一个额外的复选框,但我该怎么做,模型中没有一个对象,而是一个要检查的对象,以便在Controller中创建一个ifelse,如果没有检查,请帮助我,非常感谢,谢谢

  6. ruby-on-rails - 如何将验证与模型分开 - 2

    我有一些非常大的模型,我必须将它们迁移到最新版本的Rails。这些模型有相当多的验证(User有大约50个验证)。是否可以将所有这些验证移动到另一个文件中?说app/models/validations/user_validations.rb。如果可以,有人可以提供示例吗? 最佳答案 您可以为此使用关注点:#app/models/validations/user_validations.rbrequire'active_support/concern'moduleUserValidationsextendActiveSupport:

  7. ruby-on-rails - Rails 模型——非持久类成员或属性? - 2

    对于Rails模型,是否可以/建议让一个类的成员不持久保存到数据库中?我想将用户最后选择的类型存储在session变量中。由于我无法从我的模型中设置session变量,我想将值存储在一个“虚拟”类成员中,该成员只是将值传递回Controller。你能有这样的类(class)成员吗? 最佳答案 将非持久属性添加到Rails模型就像任何其他Ruby类一样:classUser扩展解释:在Ruby中,所有实例变量都是私有(private)的,不需要在赋值前定义。attr_accessor创建一个setter和getter方法:classUs

  8. ruby-on-rails - Rails - 从另一个模型中创建一个模型的实例 - 2

    我有一个正在构建的应用程序,我需要一个模型来创建另一个模型的实例。我希望每辆车都有4个轮胎。汽车模型classCar轮胎模型classTire但是,在make_tires内部有一个错误,如果我为Tire尝试它,则没有用于创建或新建的activerecord方法。当我检查轮胎时,它没有这些方法。我该如何补救?错误是这样的:未定义的方法'create'forActiveRecord::AttributeMethods::Serialization::Tire::Module我测试了两个环境:测试和开发,它们都因相同的错误而失败。 最佳答案

  9. ruby-on-rails - Ruby 中的内存模型 - 2

    ruby如何管理内存。例如:如果我们在执行过程中采用C程序,则以下是内存模型。类似于这个ruby如何处理内存。C:__________________|||stack|||------------------||||------------------|||||Heap|||||__________________|||data|__________________|text|__________________Ruby:? 最佳答案 Ruby中没有“内存”这样的东西。Class#allocate分配一个对象并返回该对象。这就是程序

  10. ruby-on-rails - Rails 3.1 中具有相同形式的多个模型? - 2

    我正在使用Rails3.1并在一个论坛上工作。我有一个名为Topic的模型,每个模型都有许多Post。当用户创建新主题时,他们也应该创建第一个Post。但是,我不确定如何以相同的形式执行此操作。这是我的代码:classTopic:destroyaccepts_nested_attributes_for:postsvalidates_presence_of:titleendclassPost...但这似乎不起作用。有什么想法吗?谢谢! 最佳答案 @Pablo的回答似乎有你需要的一切。但更具体地说...首先改变你View中的这一行对此#

随机推荐