在日常开发工作中，我经常会遇到需要统计总数的场景，比如：统计订单总数、统计用户总数等。一般我们会使用MySQL的count函数进行统计，但是随着数据量逐渐增大，统计耗时也越来越长，最后竟然出现慢查询的情况，这究竟是什么原因呢？本篇文章带你一下学习一下。1.MyISAM存储引擎计数为什么这么快？我们总有个错觉，就是感觉MyISAM引擎的count计数要比InnoDB引擎更快，实际这不是错觉。MyISAM引擎把表的总行数单独记录在磁盘上，查询的时候可以直接返回，不需要再累加统计。但是当SQL查询中有where条件的时候，就无法再使用表的总行数了，还是需要乖乖的进行累加统计，查询性能也就跟InnoD
在日常开发工作中，我经常会遇到需要统计总数的场景，比如：统计订单总数、统计用户总数等。一般我们会使用MySQL的count函数进行统计，但是随着数据量逐渐增大，统计耗时也越来越长，最后竟然出现慢查询的情况，这究竟是什么原因呢？本篇文章带你一下学习一下。1.MyISAM存储引擎计数为什么这么快？我们总有个错觉，就是感觉MyISAM引擎的count计数要比InnoDB引擎更快，实际这不是错觉。MyISAM引擎把表的总行数单独记录在磁盘上，查询的时候可以直接返回，不需要再累加统计。但是当SQL查询中有where条件的时候，就无法再使用表的总行数了，还是需要乖乖的进行累加统计，查询性能也就跟InnoD
1导引我们在博客《Hadoop:单词计数(WordCount)的MapReduce实现》中学习了如何用Hadoop-MapReduce实现单词计数，现在我们来看如何用Spark来实现同样的功能。2.Spark的MapReudce原理Spark框架也是MapReduce-like模型，采用“分治-聚合”策略来对数据分布进行分布并行处理。不过该框架相比Hadoop-MapReduce，具有以下两个特点：对大数据处理框架的输入/输出，中间数据进行建模，将这些数据抽象为统一的数据结构命名为弹性分布式数据集(ResilientDistributedDataset)，并在此数据结构上构建了一系列通用的数据
1导引我们在博客《Hadoop:单词计数(WordCount)的MapReduce实现》中学习了如何用Hadoop-MapReduce实现单词计数，现在我们来看如何用Spark来实现同样的功能。2.Spark的MapReudce原理Spark框架也是MapReduce-like模型，采用“分治-聚合”策略来对数据分布进行分布并行处理。不过该框架相比Hadoop-MapReduce，具有以下两个特点：对大数据处理框架的输入/输出，中间数据进行建模，将这些数据抽象为统一的数据结构命名为弹性分布式数据集(ResilientDistributedDataset)，并在此数据结构上构建了一系列通用的数据
1.Map与Reduce过程1.1Map过程首先，Hadoop会把输入数据划分成等长的输入分片(inputsplit)或分片发送到MapReduce。Hadoop为每个分片创建一个map任务，由它来运行用户自定义的map函数以分析每个分片中的记录。在我们的单词计数例子中，输入是多个文件，一般一个文件对应一个分片，如果文件太大则会划分为多个分片。map函数的输入以形式做为输入，value为文件的每一行，key为该行在文件中的偏移量(一般我们会忽视)。这里map函数起到的作用为将每一行进行分词为多个word，并在context中写入以代表该单词出现一次。map过程的示意图如下：mapper代码编写
1.Map与Reduce过程1.1Map过程首先，Hadoop会把输入数据划分成等长的输入分片(inputsplit)或分片发送到MapReduce。Hadoop为每个分片创建一个map任务，由它来运行用户自定义的map函数以分析每个分片中的记录。在我们的单词计数例子中，输入是多个文件，一般一个文件对应一个分片，如果文件太大则会划分为多个分片。map函数的输入以形式做为输入，value为文件的每一行，key为该行在文件中的偏移量(一般我们会忽视)。这里map函数起到的作用为将每一行进行分词为多个word，并在context中写入以代表该单词出现一次。map过程的示意图如下：mapper代码编写
EFCore2.2分页查询,总数Count与分页数据不一致的问题,与解决方案publicPageResult2>PageAdminOrders(stringcustomerId,ListcustomerIds,int?productId,OrderStatus?status,stringuserName,intpageIndex,intpageSize){varquery=_context.Orders.Include(r=>r.Config).Include(r=>r.Config.Product).Include(r=>r.Config.ContractOrder.Contract).As
EFCore2.2分页查询,总数Count与分页数据不一致的问题,与解决方案publicPageResult2>PageAdminOrders(stringcustomerId,ListcustomerIds,int?productId,OrderStatus?status,stringuserName,intpageIndex,intpageSize){varquery=_context.Orders.Include(r=>r.Config).Include(r=>r.Config.Product).Include(r=>r.Config.ContractOrder.Contract).As
前言今天遇到个有意思的SQL盲注，花了不少功夫，也学到了新姿势，遂记录下来以备后续碰到相同场景使用。题目这是2021虎符杯的一道web题，有一个目标站点且附带了源码。源码内容包括：主要逻辑在login.php与config.php，删去多余代码，主要功能在登陆上。前端登录表单会发送给login.php处理：然后所有的post参数会交给config.php中的array_waf去做处理.array_waf是一个递归检测的waf，检测是否包含sql_waf和num_waf在内的规则，符合规则直接退出。经过检测后会进入config.php中的login函数进行数据库查询。可以看到login函数直接将
前言今天遇到个有意思的SQL盲注，花了不少功夫，也学到了新姿势，遂记录下来以备后续碰到相同场景使用。题目这是2021虎符杯的一道web题，有一个目标站点且附带了源码。源码内容包括：主要逻辑在login.php与config.php，删去多余代码，主要功能在登陆上。前端登录表单会发送给login.php处理：然后所有的post参数会交给config.php中的array_waf去做处理.array_waf是一个递归检测的waf，检测是否包含sql_waf和num_waf在内的规则，符合规则直接退出。经过检测后会进入config.php中的login函数进行数据库查询。可以看到login函数直接将
