前言昨天用ubuntu22.04安装redis-5.0.5服务，因为版本不兼容，导致问题频发，最终在老师帮助下解决了，这又一次提醒了版本兼容的重要性MongoDB安装与部署因为所用ubuntu版本为22.04，所以不能按照老师所给文档进行安装与部署，借鉴了几篇博文才算解决了所要解决的问题首先一定要注意ubuntu版本和所要安装的数据库MongoDB版本的兼容版本展示正式流程安装curl工具相关命令:aptinstallcurl导入MongoDB6.0版的公钥并检查公钥是否导入成功相关命令：curl-fsSLhttps://www.mongodb.org/static/pgp/server-6.
MongoDB是一种流行的NoSQL数据库，广泛用于各种规模的应用程序。为了确保数据的高可用性和灾难恢复能力，构建一个可靠的MongoDB部署架构至关重要。本文将重点介绍如何构建高可用的MongoDB部署架构，以应对故障和灾难恢复。一、复制集（ReplicaSet）复制集是MongoDB高可用性的基础。它由多个MongoDB节点组成，其中一个节点作为主节点，其他节点作为从节点。以下是构建高可用的MongoDB复制集的关键步骤：1、部署节点：根据需求部署多个MongoDB节点，并确保节点之间的网络互通。2、设置复制集配置：指定一个节点作为主节点，将其他节点添加为从节点。通过在主节点上运行rs.i
命令行交互命令行交互一般是学习数据库的第一步，不过这些命令在后续用的比较少，了解即可。角色命令创建角色useadmindb.createUser({"user":"root","pwd":passwordPrompt(),"roles":[{role:"role",db:""}|"root"]})校验用户db.auth("user",passwordPrompt())数据库命令显示所有的数据库showdbs切换到指定的数据库，如果数据库不存在会自动创建数据库use数据库名显示当前所在的数据库db删除当前数据库use库名db.dropDatabase()集合命令创建集合db.createColl
MongoDB分片策略MongoDB分片功能可以在多个服务器上分散存储数据集，实现水平扩展。本文档将介绍MongoDB的分片策略以及如何设置分片环境。目录分片概述分片结构分片策略部署分片集群分片原理及其使用场景分片键选择与分片策略优化分片数据库的操作和管理1.分片概述分片是将一个数据集划分为多个部分（分片）并分布在不同服务器上，通过将数据分布在多个服务器上的策略，以实现水平扩展。分片解决了数据量大、单个节点无法承载的问题。在分片架构中，数据被分成多个片段（shard），每个片段存储在一个独立的服务器或服务器集群上。通过将数据分布在多个服务器上，可以在多个节点（分片）上分散读写负载，提供更大规模
1.1MongoDB的常用命令mongoexport/mongoimportmongodump/mongorestore 有以上两组命令在备份与恢复中进行使用。1.1.1导出工具mongoexportMongodb中的mongoexport工具可以把一个collection导出成JSON格式或CSV格式的文件。可以通过参数指定导出的数据项，也可以根据指定的条件导出数据。 该命令的参数如下：参数参数说明-h指明数据库宿主机的IP-u指明数据库的用户名-p指明数据库的密码-d指明数据库的名字-c指明collection的名字-f指明要导出那些列-o指明到要导出的文件名-q指明导出数据的过滤
一、简介1.1MongodbMongoDb是一个基于分布式文件存储的数据库，官方地址https://www.mongodb.com/1.2数据库数据库(DataBase)是按照数据结构来组织、存储和管理数据的应用程序。作用：数据库的主要作用就是管理数据，对数据进行增(c)、删(d)、改(u)、查(r)。核心概念：数据库（database）数据库是一个数据仓库，数据库服务下可以创建很多数据库，数据库中可以存放很多集合。集合（collection）集合类似于JS中的数组，在集合中可以存放很多文档。文档（document）文档是数据库中的最小单位，类似于JS中的对象。一般情况下：一个项目使用一个数据
一、RedisCluster工作原理在引入哨兵机制后，解决了Redis主从架构Master故障时的主从切换问题，保证了Redis服务可用性。但依旧无法解决单机节点出现的写入性能瓶颈（网卡速率、单机内存容量、并发数量）1、早期为解决单机性能瓶颈问题采用的解决方案：1、客户端分片：由客户端程序进行读写key的redis节点判断和分配，并且由客户端自行处理读写请求分配、高可用管理及故障转移操作2、proxy代理模式：引入第三方代理程序，客户端通过连接proxy代理服务器对数据进行读写，由proxy程序进行读写判断分配，并对集群节点进行管理。但导致proxy又出现单点故障风险，并增加了一层数据处理环节
使用Docker部署MongoDB集群Mongodb集群搭建mongodb集群搭建的方式有三种：主从备份（Master-Slave）模式，或者叫主从复制模式。副本集（ReplicaSet）模式。分片（Sharding）模式。其中，第一种方式基本没什么意义，官方也不推荐这种方式搭建。另外两种分别就是副本集和分片的方式。今天介绍副本集的方式搭建mongodb高可用集群简介以及概述首先我们先来了解一下Mongo集群的概念，Mongo集群有3个主要组件ConfigServer：在集群中扮演存储整个集群的配置信息，负责配置存储，如果需要高可用的ConfigServer那么需要3个节点。Shard：分片，
背景用户需求:需要将mongodb的数据同步到hive表，共2亿+条数据，总数据量约30G查阅一些博客后，大致同步方法有以下几种手动+离线对于比较小的数据，可以先通过mongoexport将数据导出到本地json文件，再将json直接上传到hdfs，创建hive表关联到这个文件即可这种方式非常简单直接，但需要两次读取到写入的过程，而且如果mongodb中的数据很大，需要先导到本地的方式将会导致本地磁盘占用升高，不是很适合参考:Mongoexport同步数据到Hive工具+离线通过datax/seatunnel之类的数据同步服务，数据在内存中完成同步datax-mongodbreaderdata
引入MongoDB：在面对高并发，高效率存储和访问，高扩展性和高可用性等的需求下，我们之前所学习过的关系型数据库(MySql,sqlserver…)显得有点力不从心，而这些需求在我们的生活中也是随处可见的，例如在社交中，使用它存储用户信息，以及用户发表的朋友圈信息，通过地理位置索引实现附近的人，地点等功能。在游戏中，使用它存储游戏用户信息，用户的装备，积分等直接以内嵌文档的形式存储，方便查询，高效率存储和访问。还有我们熟悉的物流，使用它存储订单信息，订单状态在运送过程中会不断的更新，以内嵌数组的形式来存储，一次查询就能将订单所有的变更读取出来等等。这些场景中，数据操作都有共同的特点，数据量大，
