目录 HDFS的基础架构VMware虚拟机部署HDFS集群HDFS集群启停命令HDFSShell操作hadoop命令体系：创建文件夹-mkdir 查看目录内容-ls 上传文件到hdfs-put查看HDFS文件内容-cat下载HDFS文件-get复制HDFS文件-cp追加数据到HDFS文件中-appendToFileHDFS文件移动-mv 删除HDFS文件-rm HDFS存储原理存储原理 修改副本数量fsck检查文件副本状态NameNode元数据edits和fsimage文件元数据合并参数 SecondaryNameNode的作用HDFS数据的读写请求HDFS的基础架构Hadoop由三个部分组成
目录一、将HDFS副本数设置为31、什么是HDFS副本数？2.将副本数设置为3二、基于MapReduce框架开发wordcount程序1、什么是MapReduce框架？2、启动idea，新建一个maven项目3、将HDFS相关的jar包引入到项目中 4、代码开发5、本地环境搭建 三、打包项目四、在ssh运行MapReduce提供的wordcount例子 五、总结一、将HDFS副本数设置为31、什么是HDFS副本数？HDFS数据副本概念：HDFS数据副本存放策略，副本的存放是HDFS可靠性和高性能的关键。优化的副本存放策略是HDFS区分于其他大部分分布式文件系统的重要特性。这种特性需要做大量的调
文章目录一.配置说明1.hadoop各进程环境配置2.hadoop各进程配置2.1.etc/hadoop/core-site.xml2.2.etc/hadoop/hdfs-site.xml2.2.1.NameNode2.2.2.datanode2.3.etc/hadoop/yarn-site.xml2.3.1.ResourceManagerandNodeManager2.3.2.ResourceManager2.3.3.NodeManager2.3.4.HistoryServer2.4.etc/hadoop/mapred-site.xml2.4.1.MapReduceApplications2
一、现象hdfs删除后，3天了还不删除，故排查排查问题二、排查过程及原理Trash机制，叫做回收站或者垃圾桶，默认情况下是不开启的。启用Trash功能后，从HDFS中删除某些内容时，文件或目录不会立即被清除，它们将被移动到回收站Current目录中(/user/{username}/.Trash/current)。TrashCheckpoint检查点仅仅是用户回收站下的一个目录，用于存储在创建检查点之前删除的所有文件或目录。如果你想查看回收站目录，可以在/user/{username}/.Trash/{timestamp_of_checkpoint_creation}处看到:最近删除的文件被移
目录一、HDFSJavaAPI的了解1、HDFS常见类与接口 二、编写Java程序访问HDFS1、在IEDA上创建Maven项目2、添加相关依赖3、创建日志属性文件4、启动集群HDFS服务5、在HDFS上创建文件 6、写入HDFS文件 7、读取HDFS文件 8、重命名目录或文件9、显示文件列表 9.1、显示指定目录下文件全部信息9.2、显示指定目录下文件路径和长度信息10、获取文件块信息11、创建目录12、判断目录或文件是否存在13、判断Path指向目录还是文件14、删除目录或文件 14.1、删除文件14.2、删除目录 14.3、删除目录或文件 三、课后复习一、HDFSJavaAPI的了解HD
一：控制平面组件。控制平面组件会为集群做出全局决策，比如资源的调度。以及检测和响应集群事件，例如当不满足部署的replicas字段时，要启动新的pod）。1.kube-apiserver。该组件负责公开了KubernetesAPI，负责处理接受请求的工作。API服务器是Kubernetes控制平面的前端。2.kube-controller-manager。负责运行控制器进程。从逻辑上讲，每个控制器都是一个单独的进程，但是为了降低复杂性，它们都被编译到同一个可执行文件，并在同一个进程中运行。3.cloud-controller-manager。嵌入了特定于云平台的控制逻辑。云控制器管理器（Clo
目录1、文件系统SQL连接器2、如何指定文件系统类型3、如何指定文件格式4、读取文件系统4.1开启 目录监控 4.2 可用的Metadata5、写出文件系统5.1创建分区表5.2滚动策略、文件合并、分区提交5.3指定SinkParallelism6、示例_通过FlinkSQL读取kafka在写入hive表6.1、创建kafkasource表用于读取kafka6.2、创建hdfssink表用于写出到hdfs6.3、insertinto写入到 hdfs_sink_table6.4、查询 hdfs_sink_table6.5、创建hive表，指定local1、文件系统SQL连接器文件系统连接器允许从
文章目录（143）NameNode内存配置（144）NN心跳并发配置（145）开启回收站参考文献（143）NameNode内存配置每个文件块（的元数据等）在内存中大概占用150byte，一台服务器128G内存的话，大概能存储9.1亿个文件块。在Hadoop2.x里，如何配置NameNode内存？NameNode默认内存2000M。如果你的服务器内存是4G，那一般可以把NN内存设置成3G，留1G给服务器维持基本运行（如系统运行需要、DataNode运行需要等）所需就行。在hadoop-env.sh文件中设置：HADOOP_NAMENODE_OPTS=-Xmx3072mHadoop3.x系列，如何
目录一、为什么需要分布式存储？二、分布式的基础架构分析 三、HDFS基础架构1.HDFS简介四、HDFS集群启停命令1.一键启停脚本2.单进程启停五、HDFS基本操作命令1.创建文件夹 2.查看指定目录下内容 3.上传文件到HDFS指定目录下 4.查看HDFS文件内容5.下载HDFS文件 6.拷贝HDFS文件 7.追加数据到HDFS文件中8.HDFS数据移动操作 9.HDFS数据删除操作六、HDFS权限不足解决方法1.超级用户2.修改权限(和Linu一致)一、为什么需要分布式存储？ ①数据量太大，单机存储能力有上限，需要靠数量来解决问题。 ②数量的提升带来的是网络传输、磁盘读写、
文章目录1.创建Maven项目2.添加相关依赖3.创建日志属性文件4.启动集群HDFS服务5.在HDFS上创建文件6.写入HDFS文件6.1将数据直接写入HDFS文件6.2将本地文件写入HDFS文件7.读取HDFS文件7.1读取HDFS文件直接在控制台显示7.2读取HDFS文件，保存为本地文件8.重命名目录或文件8.1重命名目录8.2重命名文件9.显示文件列表9.1显示指定目录下文件全部信息9.2显示指定目录下文件路径和长度信息10.获取文件块信息11.创建目录12.判断目录或文件是否存在13.判断Path指向目录还是文件14.删除目录或文件14.1删除文件14.2删除目录14.3删除目录或文
