草庐IT

ENV_NAME

全部标签

r - 避免在运行时在 HDP 上修改 mapred.child.env,以便 R 可以使用 RHive 建立与 hiveserver2 的连接

我正在尝试让R的RHive包与hiveserver2很好地通信。我在尝试使用以下方式连接到hiveserver2时收到错误消息:>rhive.connect(host="localhost",port=10000,hiveServer2=TRUE,user="root",password="hadoop")初始运行的输出:SLF4J:ClasspathcontainsmultipleSLF4Jbindings.SLF4J:Foundbindingin[jar:file:/usr/hdp/2.2.0.0-2041/hadoop/client/slf4j-log4j12-1.7.5.jar

$ env:偶尔丢失的Homedrive

我用$env:homedrive在Azure的CustomScripTextension中的脚本中。奇怪的是,有时候我从这个变量中得到了空白,但有时还可以。这个环境变量不可靠吗?看答案如果不查看脚本,很难说。但是,您可以在继续前进行$无效检查。if($env:HOMEDRIVE-eq$null){$env:HOMEDRIVE="H:"#Whateveryouwant}else{Do-WhatYouWant}您可以设置的替代方案$env:HOMEDRIVE直接在脚本或功能开头的所需位置。但是,我仍然希望始终放置$NULL检查条件。@DaveWu

hadoop - 我如何避免 Hive 表的第一个 "NULL"中的 "Field Name"

首先,我使用以下命令在Hive中创建了表“emp”:createtableemp(idINT,nameSTRING,addressSTRING)ROWFORMATDELIMITEDFIELDSTERMINATEDBY'\t';然后通过以下命令将数据加载到这个“emp”表中:LOADDATALOCALINPATH'\home\cloudera\Desktop\emp.txt'覆盖到表emp;当我从“emp”表中选择数据时:它显示了表Null的第一个字段像这样: 最佳答案 您的文件中有一个标题行,第一个值id无法转换为INT,因此被替换

hadoop - hadoop-env.sh 文件中的语法错误

我决定使用hadoop2.5.0我设置了HADOOP_PREFIX,但是当我想查看版本或格式namenode时,发生了这个错误:[hdfs@master1bin]$./hadoopversion:commandnotfound.5.0/etc/hadoop/hadoop-env.sh:line16::commandnotfound.5.0/etc/hadoop/hadoop-env.sh:line18::commandnotfound.5.0/etc/hadoop/hadoop-env.sh:line23::commandnotfound.5.0/etc/hadoop/hadoop-e

【Hadoop】集群配置之主要配置文件(hadoop-env.sh、yarn-env.sh、core-site.xml、hdfs-site.xml、mapred-site.xml...)

Hadoop配置文件模板core-site.xmlhadoop-env.shhdfs-site.xmlyarn-env-shyarn-site.xmlmapred-site.xmlslavesHadoop配置文件模板参考官方配置文档:https://hadoop.apache.org/docs/stable/hadoop-project-dist/hadoop-common/ClusterSetup.html#Configuring_Environment_of_Hadoop_DaemonsHadoop的配置文件都在$HADOOP_HOME/etc/hadoop下面。比如我这里是:Hadoop

Hadoop 2.9.0 - hadoop namenode -format 和 hdfs-site.xml dfs.namenode.name.dir

我的第一个问题,我会尽量不把事情搞砸:)出于学习目的,我正在4节点集群上安装Hadoop2.9.0。我已经按照官方ApacheHadoop2.9.0文档和一些谷歌页面开始安装/配置名称节点。我像这样编辑了位于$HADOOP_HOME/etc/hadoop目录下的hdfs-site.xml:dfs.namenode.name.dirfile:///apps/hdfs/namenode/datadfs.datanode.data.dirfile:///apps/hdfs/datanode/datadfs.namenode.checkpoint.dirfile:///apps/hdfs/na

scala - Hadoop 端口 : fs. default.name

我有点懵。我看到的几乎所有Hadoop安装“如何”指定的core-site.xml都将fs.default.name设置为9000fs.default.namehdfs://192.168.0.141:9000但是,下面的代码valconf=neworg.apache.hadoop.conf.Configuration()valfs=org.apache.hadoop.fs.FileSystem.get(newjava.net.URI("hdfs://192.168.0.141/"),conf)给我一​​个java.net.ConnectException:指定无法连接到端口8020。

hadoop - Hive 没有完全遵守 core-site.xml 中的 fs.default.name/fs.defaultFS 值

我在一台名为hadoop的机器上安装了NameNode服务。core-site.xml文件的fs.defaultFS(等同于fs.default.name)设置如下:fs.defaultFShdfs://hadoop:8020我有一个名为test_table的非常简单的表,它当前存在于HDFS上的Hive服务器中。即存放在/user/hive/warehouse/test_table下。它是在Hive中使用一个非常简单的命令创建的:CREATETABLEnew_table(record_idINT);如果我尝试将数据加载到本地表中(即使用LOADDATALOCAL),一切都会按预期进行

amazon-ec2 - 使用 s3 作为 fs.default.name 或 HDFS?

我正在EC2上设置Hadoop集群,我想知道如何进行DFS。我所有的数据目前都在s3中,所有map/reduce应用程序都使用s3文件路径来访问数据。现在我一直在研究Amazon的EMR是如何设置的,它似乎为每个作业流设置了一个名称节点和数据节点。现在我想知道我是否真的需要那样做,或者我是否可以只使用s3(n)作为DFS?如果这样做,有什么缺点吗?谢谢! 最佳答案 为了使用S3而不是HDFS,core-site.xml中的fs.name.default需要指向您的存储桶:fs.default.names3n://your-bucke

java - 除了修改 hadoop-env.sh 之外,如何在 hadoop 中指定系统属性?

我想在运行hadoop作业时设置系统属性(不是hadoop属性)。我发现设置系统属性并不容易。即使我在shell中设置属性exportHADOOP_OPTS="$HADOOP_OPTS:-Dproperty=value"还是不行。hadoop命令行的“-D”选项仅用于配置,不用于系统属性。所以“-D”选项也不起作用有人有想法吗?谢谢 最佳答案 为什么不在通过命令行启Action业时直接使用内嵌的-Dfoo.bar=example,如下所示:hadoopjarexample.jarcom.example.ExampleTool-Dfo