这是一篇综述文章，本文将简单介绍该论文的主要内容。
论文链接：https://arxiv.org/pdf/2302.07842v1.pdf因此，越来越多的研究都在以解决这些问题为目标，而稍微偏离了上述的纯统计语言建模范式。例如，有一项工作是通过增加大型语言模型的相关性来规避有限的上下文大小，通过添加从相关外部文档中提取的信息来实现。通过为大型语言模型配备从给定上下文的数据库中检索此类文档的模块，可以在参数较少的情况下匹配一些最大语言模型的某些功能。注意，得到的模型现在是非参数的，因为它可以查询外部数据源。总体来说，语言模型还可以通过推理策略改善其上下文，以便在生成答案之前生成相关度更高的上下文，省去更多的计算。另一种策略是允许语言模型利用外部工具，用语言模型权重中不包含的重要缺失信息来增强当前上下文。尽管这些工作中的大部分是为了减轻上面提到的语言模型的缺陷，但也直接说明了，更系统地使用推理和工具来增强语言模型可能会催生更强大的智能体。这些模型称为增强语言模型 (ALM)。随着这一趋势的加速，相关的研究数量急剧增长，此时需要对作品进行分类，并定义不同用途的技术术语。 本论文中使用的术语的定义如下：推理。在增强语言模型的上下文中，推理是将一个潜在的复杂任务分解成更简单的子任务，语言模型可以更容易地通过自身或使用工具来解决。存在各种分解子任务的方法，如递归或迭代。从这个意义上讲，推理类似于 LeCun 2022 那篇论文《A Path Towards Autonomous Machine Intelligence》所定义的「规划」。在本文中，推理将经常涉及到提高语言模型推理技能的各种策略，例如使用少样本示例逐步（step-by-step）推理。目前还不完全清楚语言模型是否真的在推理，或者只是生成一个更大的上下文，从而增加正确预测缺失 token 的可能性。不妨参考其他研究人员（Huang and Chang (2022)）关于这一主题的讨论：尽管基于当前的 SOTA 结果，推理可能是一种语言滥用，但该术语已经在社区中使用。在增强语言模型中，上下文推理的一个更实用的定义是，在生成针对 prompt 的答案之前，给模型更多的计算步骤。工具。对于增强语言模型，工具是一个外部模块，通常使用规则或特殊 token 调用，其输出包含在增强语言模型的上下文中。该工具可以收集外部信息，或者对虚拟或物理世界产生影响（通常由增强语言模型感知）。获取外部信息的工具的一个例子是文档检索器，而具有外部效果的工具是机械臂。工具可以在训练或推理时调用。总体而言，学习与工具交互可能包括学习调用它的 API。行为。对于增强语言模型，行为是指调用对虚拟世界或物理世界有影响的工具并观察结果，通常是通过将其包含在增强语言模型的当前上下文中。例如，本文中提到的一些作品讨论了网络搜索或通过语言模型操纵机械臂。如果略微过度地使用术语一下，研究人员有时也会将增强语言模型对工具的调用表示为一种行为，即使它没有外部效果。为什么要将推理和工具放在一起讨论？语言模型中的推理和工具的组合用来解决大批复杂任务，而不需要启发式，因此具有更好的泛化能力。通常，推理将促进语言模型将给定的问题分解为可能更简单的子任务，而工具将帮助使每一步都正确，例如从数学运算中获得结果。换句话说，推理是语言模型组合不同工具以解决复杂任务的一种方式，而工具是一种使用有效分解避免推理失败的方法。二者都应该从对方身上受益。此外，推理和工具可以放在同一个「罩」下，因为二者都增强了语言模型的上下文以更好地预测缺失的 token，尽管是以不同的方式。为什么要将工具和行动放在一起讨论？语言模型可以用同样的方式调用收集额外信息的工具和对虚拟世界或物理世界有影响的工具。例如，语言模型输出用于求解数学运算的 Python 代码与语言模型输出用于操作机械臂的 Python 代码似乎没有区别。该论文中讨论的一些工作已经使用了对虚拟或物理世界有影响的语言模型。在这种观点下，可以说语言模型具有行为的潜力，其作为自动化智能体方向所取得的重要进展也值得期待。本文将调查包含的研究分为三个部分来展开。第二节研究了上述定义的增强语言模型推理能力的工作。第三节重点介绍允许语言模型与外部工具交互并采取行动的工作。最后，第四节探讨了推理和工具的使用是通过启发式实现的还是通过学习实现的，例如通过监督或强化。调查还包括其他部分，作者在第五节中进行了讨论。简洁起见，调查集中于将推理或工具与语言模型结合起来的工作。最后，虽然本文的关注点在大型语言模型上，但并不是所有考虑到的研究都采用了大模型，因此为确保准确性，在其余的调查中也会坚持使用语言模型。推理以前的工作表明，大型语言模型可以解决简单的推理问题，而非复杂的推理问题：因此，本节重点介绍增强语言模型推理技能的各种策略。对于线性模型来说，复杂推理问题的挑战之一是通过将其预测的正确答案组合到子问题中来正确地获得解。例如，语言模型可以准确预测名人的出生和死亡日期，但可能无法准确预测年龄。部分研究人员将这种差异称为语言模型的组合性差距。本节的其余部分将讨论与语言模型中诱导推理的三种流行范式相关的工作。由于目前的工作重点是结合工具的推理，这里建议读者参考其他研究人员对大型语言模型推理的工作所进行的更深入的探讨。工具和行为的使用最近的语言模型研究路线允许模型访问不一定存储在其权重中的知识，例如事实性知识。更准确地说，诸如精确计算或信息检索之类的任务可以卸载到外部模块，如 Python 解释器或被模型查询的搜索引擎模块，在这些方面，这些模块会使用工具。此外，当工具对外部世界产生影响时，我们可以说语言模型执行了一个行为。以特殊 token 的形式轻松地包含工具和行为，这是结合了 Transformer 语言建模的一个方便特性。在回顾了语言模型可以如何增强以锻炼自身的推理及应用工具的能力之后，这篇调查研究还介绍了如何教模型应用这些能力。更多研究细节，可参考原论文。 我试图在一个项目中使用rake，如果我把所有东西都放到Rakefile中，它会很大并且很难读取/找到东西，所以我试着将每个命名空间放在lib/rake中它自己的文件中，我添加了这个到我的rake文件的顶部:Dir['#{File.dirname(__FILE__)}/lib/rake/*.rake'].map{|f|requiref}它加载文件没问题，但没有任务。我现在只有一个.rake文件作为测试，名为“servers.rake”，它看起来像这样:namespace:serverdotask:testdoputs"test"endend所以当我运行rakeserver:testid时
我有一个模型:classItem项目有一个属性“商店”基于存储的值，我希望Item对象对特定方法具有不同的行为。Rails中是否有针对此的通用设计模式？如果方法中没有大的if-else语句，这是如何干净利落地完成的？ 最佳答案 通常通过Single-TableInheritance. 关于ruby-on-rails-Rails-子类化模型的设计模式是什么？，我们在StackOverflow上找到一个类似的问题： https://stackoverflow.co
我正在寻找执行以下操作的正确语法(在Perl、Shell或Ruby中):#variabletoaccessthedatalinesappendedasafileEND_OF_SCRIPT_MARKERrawdatastartshereanditcontinues. 最佳答案 Perl用__DATA__做这个:#!/usr/bin/perlusestrict;usewarnings;while(){print;}__DATA__Texttoprintgoeshere 关于ruby-如何将脚
我需要从一个View访问多个模型。以前，我的links_controller仅用于提供以不同方式排序的链接资源。现在我想包括一个部分(我假设)显示按分数排序的顶级用户(@users=User.all.sort_by(&:score))我知道我可以将此代码插入每个链接操作并从View访问它，但这似乎不是“ruby方式”，我将需要在不久的将来访问更多模型。这可能会变得很脏，是否有针对这种情况的任何技术？注意事项:我认为我的应用程序正朝着单一格式和动态页面内容的方向发展，本质上是一个典型的网络应用程序。我知道before_filter但考虑到我希望应用程序进入的方向，这似乎很麻烦。最终从任何
我有一个包含模块的模型。我想在模块中覆盖模型的访问器方法。例如:classBlah这显然行不通。有什么想法可以实现吗？ 最佳答案 您的代码看起来是正确的。我们正在毫无困难地使用这个确切的模式。如果我没记错的话，Rails使用#method_missing作为属性setter，因此您的模块将优先，阻止ActiveRecord的setter。如果您正在使用ActiveSupport::Concern(参见thisblogpost)，那么您的实例方法需要进入一个特殊的模块:classBlah
我有一个表单，其中有很多字段取自数组(而不是模型或对象)。我如何验证这些字段的存在？solve_problem_pathdo|f|%>... 最佳答案 创建一个简单的类来包装请求参数并使用ActiveModel::Validations。#definedsomewhere,atthesimplest:require'ostruct'classSolvetrue#youcouldevencheckthesolutionwithavalidatorvalidatedoerrors.add(:base,"WRONG!!!")unlesss
我想向我的Controller传递一个参数，它是一个简单的复选框，但我不知道如何在模型的form_for中引入它，这是我的观点:{:id=>'go_finance'}do|f|%>Transferirde:para:Entrada:"input",:placeholder=>"Quantofoiganho?"%>Saída:"output",:placeholder=>"Quantofoigasto?"%>Nota:我想做一个额外的复选框，但我该怎么做，模型中没有一个对象，而是一个要检查的对象，以便在Controller中创建一个ifelse，如果没有检查，请帮助我，非常感谢,谢谢
我有一些非常大的模型，我必须将它们迁移到最新版本的Rails。这些模型有相当多的验证(User有大约50个验证)。是否可以将所有这些验证移动到另一个文件中？说app/models/validations/user_validations.rb。如果可以，有人可以提供示例吗？ 最佳答案 您可以为此使用关注点:#app/models/validations/user_validations.rbrequire'active_support/concern'moduleUserValidationsextendActiveSupport:
对于Rails模型，是否可以/建议让一个类的成员不持久保存到数据库中？我想将用户最后选择的类型存储在session变量中。由于我无法从我的模型中设置session变量，我想将值存储在一个“虚拟”类成员中，该成员只是将值传递回Controller。你能有这样的类(class)成员吗？ 最佳答案 将非持久属性添加到Rails模型就像任何其他Ruby类一样:classUser扩展解释:在Ruby中，所有实例变量都是私有(private)的，不需要在赋值前定义。attr_accessor创建一个setter和getter方法:classUs
我有一个正在构建的应用程序，我需要一个模型来创建另一个模型的实例。我希望每辆车都有4个轮胎。汽车模型classCar轮胎模型classTire但是，在make_tires内部有一个错误，如果我为Tire尝试它，则没有用于创建或新建的activerecord方法。当我检查轮胎时，它没有这些方法。我该如何补救？错误是这样的:未定义的方法'create'forActiveRecord::AttributeMethods::Serialization::Tire::Module我测试了两个环境:测试和开发，它们都因相同的错误而失败。 最佳答案
