草庐IT

sql - 在 MySQL 中，连接谓词之间具有多对多关系的大型表的最有效查询设计是什么？

coder 2023-10-02 原文

在我们的应用程序中，我们收集有关汽车发动机性能的数据 - 基本上是根据发动机类型、运行它的车辆和发动机设计的发动机性能源数据。目前，新行插入的基础是发动机开关周期；我们根据发动机状态从事件状态到非事件状态的变化来监控性能变量，反之亦然。相关的 engineState 表如下所示:

+---------+-----------+---------------+---------------------+---------------------+-----------------+
| vehicle | engine    | engine_state  | state_start_time    | state_end_time      | engine_variable |
+---------+-----------+---------------+---------------------+---------------------+-----------------+
| 080025  | E01       | active        | 2008-01-24 16:19:15 | 2008-01-24 16:24:45 |             720 | 
| 080028  | E02       | inactive      | 2008-01-24 16:19:25 | 2008-01-24 16:22:17 |             304 |
+---------+-----------+---------------+---------------------+---------------------+-----------------+

对于具体的分析，我们希望以分钟为单位的行粒度来分析表格内容，而不是基于当前活跃/不活跃的引擎状态。为此，我们正在考虑创建一个简单的 productionMinute 表，在我们分析和加入 productionMinute 和 engineEvent 期间的每一分钟都有一行> 每个表中日期时间列的表。因此，如果我们的分析时间段是从 2009 年 12 月 1 日到 2010 年 2 月 28 日，我们将创建一个包含 129,600 行的新表，在这三个月的时间段内，每天每一分钟一行。 productionMinute 表的前几行:

+---------------------+ 
| production_minute   |
+---------------------+
| 2009-12-01 00:00    |
| 2009-12-01 00:01    |
| 2009-12-01 00:02    |     
| 2009-12-01 00:03    |
+---------------------+

表之间的连接将是:

     FROM engineState AS es 
LEFT JOIN productionMinute AS pm ON pm.production_minute >= es.state_start_time 
                                AND pm.production_minute <= es.event_end_time

但是，这种连接带来了多个环境问题:

  1. engineState 表有 500 万行，productionMinute 表有 130,000 行
  2. 当 engineState 行跨越一分钟以上(即 es.state_start_time 和 es.state_end_time 之间的差异大于一分钟), 如上例所示，有多个 productionMinute 表行连接到单个 engineState 表行
  3. 当在任何给定分钟内有多个引擎在运行时，同样按照上面的示例，多个 engineState 表行连接到单个 productionMinute 行

在测试我们的逻辑并仅使用一个小表提取(一天而不是 3 个月，对于 productionMinute 表)时，查询需要一个多小时才能生成。在研究这个项目以提高性能以便查询三个月的数据是可行的，我们的想法是从 engineEvent 中创建一个临时表，删除任何不重要的表数据用于分析，并将临时表连接到 productionMinute 表。我们还计划试验不同的连接——特别是内部连接——看看这是否会提高性能。

如上文所述，连接谓词之间具有多对多关系的表的最佳查询设计是什么？什么是最佳连接类型(左/右、内)？

最佳答案

我同意 vy32。您需要执行此查询一次且仅一次，以便以适合分析的格式获取数据。您应该使用适当的 ETL 工具(或者见鬼，只是 perl 或其他简单工具)从 engineState 表中获取数据，计算生产时间，然后将其加载到另一个为分析类型查询正确建模的数据库中。

如果您认为您的问题是通过非规范化您的数据并将分钟数分配为代理键。这是一个相对简单(且常见)的 ETL 问题，它在直接 SQL 中表现不佳，但对于其他语言和工具来说很简单。

真正的 ETL 流程可以轻松处理您的生产量。

关于sql - 在 MySQL 中，连接谓词之间具有多对多关系的大型表的最有效查询设计是什么？，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/2439697/

大型MySQLcodeproductionMinuteengineStatesqlperformancejoin

有关sql - 在 MySQL 中，连接谓词之间具有多对多关系的大型表的最有效查询设计是什么？的更多相关文章

  1. ruby - 为什么我可以在 Ruby 中使用 Object#send 访问私有(private)/ protected 方法？ - 2

    类classAprivatedeffooputs:fooendpublicdefbarputs:barendprivatedefzimputs:zimendprotecteddefdibputs:dibendendA的实例a=A.new测试a.foorescueputs:faila.barrescueputs:faila.zimrescueputs:faila.dibrescueputs:faila.gazrescueputs:fail测试输出failbarfailfailfail.发送测试[:foo,:bar,:zim,:dib,:gaz].each{|m|a.send(m)resc

  2. ruby-on-rails - Rails - 子类化模型的设计模式是什么？ - 2

    我有一个模型:classItem项目有一个属性“商店”基于存储的值，我希望Item对象对特定方法具有不同的行为。Rails中是否有针对此的通用设计模式？如果方法中没有大的if-else语句，这是如何干净利落地完成的？ 最佳答案 通常通过Single-TableInheritance. 关于ruby-on-rails-Rails-子类化模型的设计模式是什么？，我们在StackOverflow上找到一个类似的问题： https://stackoverflow.co

  3. ruby - 具有身份验证的私有(private) Ruby Gem 服务器 - 2

    我想安装一个带有一些身份验证的私有(private)Rubygem服务器。我希望能够使用公共(public)Ubuntu服务器托管内部gem。我读到了http://docs.rubygems.org/read/chapter/18.但是那个没有身份验证-如我所见。然后我读到了https://github.com/cwninja/geminabox.但是当我使用基本身份验证(他们在他们的Wiki中有)时，它会提示从我的服务器获取源。所以。如何制作带有身份验证的私有(private)Rubygem服务器？这是不可能的吗？谢谢。编辑:Geminabox问题。我尝试“捆绑”以安装新的gem..

  4. ruby - 什么是填充的 Base64 编码字符串以及如何在 ruby​​ 中生成它们？ - 2

    我正在使用的第三方API的文档状态:"[O]urAPIonlyacceptspaddedBase64encodedstrings."什么是“填充的Base64编码字符串”以及如何在Ruby中生成它们。下面的代码是我第一次尝试创建转换为Base64的JSON格式数据。xa=Base64.encode64(a.to_json) 最佳答案 他们说的padding其实就是Base64本身的一部分。它是末尾的“=”和“==”。Base64将3个字节的数据包编码为4个编码字符。所以如果你的输入数据有长度n和n%3=1=>"=="末尾用于填充n%

  5. ruby - 解析 RDFa、微数据等的最佳方式是什么，使用统一的模式/词汇(例如 schema.org)存储和显示信息 - 2

    我主要使用Ruby来执行此操作，但到目前为止我的攻击计划如下:使用gemsrdf、rdf-rdfa和rdf-microdata或mida来解析给定任何URI的数据。我认为最好映射到像schema.org这样的统一模式，例如使用这个yaml文件，它试图描述数据词汇表和opengraph到schema.org之间的转换:#SchemaXtoschema.orgconversion#data-vocabularyDV:name:namestreet-address:streetAddressregion:addressRegionlocality:addressLocalityphoto:i

  6. ruby - 为什么 4.1%2 使用 Ruby 返回 0.0999999999999996？但是 4.2%2==0.2 - 2

    为什么4.1%2返回0.0999999999999996？但是4.2%2==0.2。 最佳答案 参见此处:WhatEveryProgrammerShouldKnowAboutFloating-PointArithmetic实数是无限的。计算机使用的位数有限(今天是32位、64位)。因此计算机进行的浮点运算不能代表所有的实数。0.1是这些数字之一。请注意，这不是与Ruby相关的问题，而是与所有编程语言相关的问题，因为它来自计算机表示实数的方式。 关于ruby-为什么4.1%2使用Ruby返

  7. ruby-on-rails - Rails 应用程序之间的通信 - 2

    我构建了两个需要相互通信和发送文件的Rails应用程序。例如，一个Rails应用程序会发送请求以查看其他应用程序数据库中的表。然后另一个应用程序将呈现该表的json并将其发回。我还希望一个应用程序将存储在其公共(public)目录中的文本文件发送到另一个应用程序的公共(public)目录。我从来没有做过这样的事情，所以我什至不知道从哪里开始。任何帮助，将不胜感激。谢谢! 最佳答案 无论Rails是什么，几乎所有Web应用程序都有您的要求，大多数现代Web应用程序都需要相互通信。但是有一个小小的理解需要你坚持下去，网站不应直接访问彼此

  8. ruby - 续集在添加关联时访问many_to_many连接表 - 2

    我正在使用Sequel构建一个愿望list系统。我有一个wishlists和itemstable和一个items_wishlists连接表(该名称是续集选择的名称)。items_wishlists表还有一个用于facebookid的额外列(因此我可以存储opengraph操作)，这是一个NOTNULL列。我还有Wishlist和Item具有续集many_to_many关联的模型已建立。Wishlist类也有:selectmany_to_many关联的选项设置为select:[:items.*,:items_wishlists__facebook_action_id].有没有一种方法可以

  9. ruby - ruby 中的 TOPLEVEL_BINDING 是什么？ - 2

    它不等于主线程的binding，这个toplevel作用域是什么？此作用域与主线程中的binding有何不同？>ruby-e'putsTOPLEVEL_BINDING===binding'false 最佳答案 事实是，TOPLEVEL_BINDING始终引用Binding的预定义全局实例，而Kernel#binding创建的新实例>Binding每次封装当前执行上下文。在顶层，它们都包含相同的绑定(bind)，但它们不是同一个对象，您无法使用==或===测试它们的绑定(bind)相等性。putsTOPLEVEL_BINDINGput

  10. ruby - Infinity 和 NaN 的类型是什么？ - 2

    我可以得到Infinity和NaNn=9.0/0#=>Infinityn.class#=>Floatm=0/0.0#=>NaNm.class#=>Float但是当我想直接访问Infinity或NaN时:Infinity#=>uninitializedconstantInfinity(NameError)NaN#=>uninitializedconstantNaN(NameError)什么是Infinity和NaN？它们是对象、关键字还是其他东西？ 最佳答案 您看到打印为Infinity和NaN的只是Float类的两个特殊实例的字符串

随机推荐