Elasticsearch系列文章1、介绍lucene的功能以及建立索引、搜索单词、搜索词语和搜索句子四个示例实现2、Elasticsearch7.6.1基本介绍、2种部署方式及验证、head插件安装、分词器安装及验证3、Elasticsearch7.6.1信息搜索示例（索引操作、数据操作-添加、删除、导入等、数据搜索及分页）4、Elasticsearch7.6.1Javaapi操作ES（CRUD、两种分页方式、高亮显示）和ElasticsearchSQL详细示例5、Elasticsearch7.6.1filebeat介绍及收集kafka日志到es示例6、Elasticsearch7.6.1、
前景回顾：上一篇文章中我们安装配置完hadoop后启动发现没有namenode节点，而且无法访问对应网站，该篇中将解决上篇的问题针对前篇没有namenode节点解决方案：先关闭hadoop：sbin/./stop-all.sh删除文件夹（hadoop2.7.3/下）的tmp/文件夹里边所有的东西删除日志：删除logs文件夹下所有的东西：rm-rflogs/mkdirlogs重新格式化：bin/hadoopnamenode-format格式化完成启动hadoop：启动成功：访问：http://localhost:50070至此hadoop安装完毕。
2.5HDFS环境搭建下载jdk和hadoop放到~/software目录下然后解压到~/app目录下tar-zxvf压缩包名字-C~/app/配置环境变量vi~/.bash_profileexportJAVA_HOME=/home/hadoop/app/jdk1.8.0_91exportPATH=$JAVA_HOME/bin:$PATHexportHADOOP_HOME=/home/hadoop/app/hadoop......exportPATH=$HADOOP_HOME/bin:$PATH#保存退出后source~/.bash_profile进入到解压后的hadoop目录修改配置文件配置
问题：最近出现的一次HDFS报错问题，查看一个文件是报错Couldn'tpreviewthefile.造成原因配置文件hdfs-site.xml配置有误windows下的C:\Windows\System32\drivers\etc\hosts与linux下的etc/hosts下的hadoop映射地址不一致解决方法在hdfs-site.xml配置如下依赖dfs.webhdfs.enabledtrue修改windows下的C:\Windows\System32\drivers\etc\hosts文件与linux下的etc/hosts下的hadoop映射地址保持一致我的是C:\Windows\Sy
以下是基于HadoopAPI和Java实现更改HDFS文件权限的示例代码：//第一种方法importorg.apache.hadoop.conf.Configuration;importorg.apache.hadoop.fs.FileSystem;importorg.apache.hadoop.fs.Path;importorg.apache.hadoop.fs.permission.FsAction;importorg.apache.hadoop.fs.permission.FsPermission;importjava.io.IOException;publicclassChangeHd
以下是基于HadoopAPI和Java实现更改HDFS文件权限的示例代码：//第一种方法importorg.apache.hadoop.conf.Configuration;importorg.apache.hadoop.fs.FileSystem;importorg.apache.hadoop.fs.Path;importorg.apache.hadoop.fs.permission.FsAction;importorg.apache.hadoop.fs.permission.FsPermission;importjava.io.IOException;publicclassChangeHd
Hadoop系列文章目录1、hadoop3.1.4简单介绍及部署、简单验证2、HDFS操作-shell客户端3、HDFS的使用（读写、上传、下载、遍历、查找文件、整个目录拷贝、只拷贝文件、列出文件夹下文件、删除文件及目录、获取文件及文件夹属性等）-java4、HDFS-java操作类HDFSUtil及junit测试（HDFS的常见操作以及HA环境的配置）5、HDFSAPI的RESTful风格–WebHDFS6、HDFS的HttpFS-代理服务7、大数据中常见的文件存储格式以及hadoop中支持的压缩算法8、HDFS内存存储策略支持和“冷热温”存储9、hadoop高可用HA集群部署及三种方式验证
namenode解析：维护整个文件系统目录结构树，文件、目录的各种信息（相当于ls-l），还有文件（对应的数据块列表）存放在hdfs各个节点的信息；接受客户端（用户）的访问（操作）请求；Namenode（存储的信息主要存储在以下4个文件）主要有以下4个文件控制它的配置【错误，记忆的偏差点】：fsimage,edits,seed_txid,version...（上述文件所在路径有一个参数（dfs.namenode.name.dir）去控制：）配置文件：hdfs-default.xml-配置namenode的各种属性是hdfs-site.xml的派生（会覆盖hdfs-default.xml），当没
使用JavaAPI操作hdfs文件的常用操作代码1.创建目录@Testpublicvoidmkdir()throwsException{fileSystem.mkdir(newPath("/hdfsapi/test"));}2.创建文件@Testpublicvoidcreate()throwsException{FSDataOutputStreamoutput=fileSystem.create(newPath("/hdfsapi/test/a.txt"));output.write("helloworld".getBytes());output.flush();output.close
一、同步环境1.mongodb版本：3.6.3。（有点老了，后来发现flinkcdc都只能监控一张表，多张表无法监控）2.datax版本：自己编译的DataX-datax_v2022103.hdfs版本：3.1.34.hive版本：3.1.2二、同步思路1.增量数据：需要每隔1小时将mongodb中17个集合的数据同步至hive，因为有数据生成时间，才用datax查询方式，将上一个小时的数据依次循环调用datax同步至hdfs，利用shell脚本和调度器定时装载至hive中形成ods层，并和其他表关联处理形成dwd层，提供给需求方。2.全量数据：历史数据才用datax编写脚本循环读取+调度+h
