在日常开发工作中，我经常会遇到需要统计总数的场景，比如：统计订单总数、统计用户总数等。一般我们会使用MySQL的count函数进行统计，但是随着数据量逐渐增大，统计耗时也越来越长，最后竟然出现慢查询的情况，这究竟是什么原因呢？本篇文章带你一下学习一下。1.MyISAM存储引擎计数为什么这么快？我们总有个错觉，就是感觉MyISAM引擎的count计数要比InnoDB引擎更快，实际这不是错觉。MyISAM引擎把表的总行数单独记录在磁盘上，查询的时候可以直接返回，不需要再累加统计。但是当SQL查询中有where条件的时候，就无法再使用表的总行数了，还是需要乖乖的进行累加统计，查询性能也就跟InnoD
在日常开发工作中，我经常会遇到需要统计总数的场景，比如：统计订单总数、统计用户总数等。一般我们会使用MySQL的count函数进行统计，但是随着数据量逐渐增大，统计耗时也越来越长，最后竟然出现慢查询的情况，这究竟是什么原因呢？本篇文章带你一下学习一下。1.MyISAM存储引擎计数为什么这么快？我们总有个错觉，就是感觉MyISAM引擎的count计数要比InnoDB引擎更快，实际这不是错觉。MyISAM引擎把表的总行数单独记录在磁盘上，查询的时候可以直接返回，不需要再累加统计。但是当SQL查询中有where条件的时候，就无法再使用表的总行数了，还是需要乖乖的进行累加统计，查询性能也就跟InnoD
1导引我们在博客《Hadoop:单词计数(WordCount)的MapReduce实现》中学习了如何用Hadoop-MapReduce实现单词计数，现在我们来看如何用Spark来实现同样的功能。2.Spark的MapReudce原理Spark框架也是MapReduce-like模型，采用“分治-聚合”策略来对数据分布进行分布并行处理。不过该框架相比Hadoop-MapReduce，具有以下两个特点：对大数据处理框架的输入/输出，中间数据进行建模，将这些数据抽象为统一的数据结构命名为弹性分布式数据集(ResilientDistributedDataset)，并在此数据结构上构建了一系列通用的数据
1导引我们在博客《Hadoop:单词计数(WordCount)的MapReduce实现》中学习了如何用Hadoop-MapReduce实现单词计数，现在我们来看如何用Spark来实现同样的功能。2.Spark的MapReudce原理Spark框架也是MapReduce-like模型，采用“分治-聚合”策略来对数据分布进行分布并行处理。不过该框架相比Hadoop-MapReduce，具有以下两个特点：对大数据处理框架的输入/输出，中间数据进行建模，将这些数据抽象为统一的数据结构命名为弹性分布式数据集(ResilientDistributedDataset)，并在此数据结构上构建了一系列通用的数据
原文链接：https://www.zhoubotong.site/post/76.html最近发现一个文档类网站，编写教程很合适，特地查了一下叫ReadtheDocs，可以使用Sphinx生成文档，GitHub托管文档，然后导入到ReadtheDocs进行展示，这里顺便记录一下搭建过程。环境：Sphinx+ReadtheDocs+宝塔+Github无论是管理技术文档、写书、写笔记，亦或想搭建一个属于你的个人知识库，都是一个不错的选择。废话不多说，进入下面正题吧！1.背景知识1.1ReadtheDocsReadtheDocs是一个基于Sphinx的免费文档托管项目。该项目在2010年由EricH
原文链接：https://www.zhoubotong.site/post/76.html最近发现一个文档类网站，编写教程很合适，特地查了一下叫ReadtheDocs，可以使用Sphinx生成文档，GitHub托管文档，然后导入到ReadtheDocs进行展示，这里顺便记录一下搭建过程。环境：Sphinx+ReadtheDocs+宝塔+Github无论是管理技术文档、写书、写笔记，亦或想搭建一个属于你的个人知识库，都是一个不错的选择。废话不多说，进入下面正题吧！1.背景知识1.1ReadtheDocsReadtheDocs是一个基于Sphinx的免费文档托管项目。该项目在2010年由EricH
1.Map与Reduce过程1.1Map过程首先，Hadoop会把输入数据划分成等长的输入分片(inputsplit)或分片发送到MapReduce。Hadoop为每个分片创建一个map任务，由它来运行用户自定义的map函数以分析每个分片中的记录。在我们的单词计数例子中，输入是多个文件，一般一个文件对应一个分片，如果文件太大则会划分为多个分片。map函数的输入以形式做为输入，value为文件的每一行，key为该行在文件中的偏移量(一般我们会忽视)。这里map函数起到的作用为将每一行进行分词为多个word，并在context中写入以代表该单词出现一次。map过程的示意图如下：mapper代码编写
1.Map与Reduce过程1.1Map过程首先，Hadoop会把输入数据划分成等长的输入分片(inputsplit)或分片发送到MapReduce。Hadoop为每个分片创建一个map任务，由它来运行用户自定义的map函数以分析每个分片中的记录。在我们的单词计数例子中，输入是多个文件，一般一个文件对应一个分片，如果文件太大则会划分为多个分片。map函数的输入以形式做为输入，value为文件的每一行，key为该行在文件中的偏移量(一般我们会忽视)。这里map函数起到的作用为将每一行进行分词为多个word，并在context中写入以代表该单词出现一次。map过程的示意图如下：mapper代码编写
EFCore2.2分页查询,总数Count与分页数据不一致的问题,与解决方案publicPageResult2>PageAdminOrders(stringcustomerId,ListcustomerIds,int?productId,OrderStatus?status,stringuserName,intpageIndex,intpageSize){varquery=_context.Orders.Include(r=>r.Config).Include(r=>r.Config.Product).Include(r=>r.Config.ContractOrder.Contract).As
EFCore2.2分页查询,总数Count与分页数据不一致的问题,与解决方案publicPageResult2>PageAdminOrders(stringcustomerId,ListcustomerIds,int?productId,OrderStatus?status,stringuserName,intpageIndex,intpageSize){varquery=_context.Orders.Include(r=>r.Config).Include(r=>r.Config.Product).Include(r=>r.Config.ContractOrder.Contract).As
