草庐IT

user_home

全部标签

java - Hadoop hdfs 显示 ls : `/home/hduser/input/' : No such file or directory error

我已经使用thistutorial在一台机器上安装了Hadoop2.6.我使用的是Ubuntu12.04机器和Java版本1.6.0_27。我已经为Hadoop操作创建了单独的用户hduser。我已经设置了HADOOP_HOME环境变量的值/usr/local/hadoop我已经提取了Hadoop分布。现在我正在关注example.但是当我执行命令时$HADOOP_HOME/bin/hdfsdfs-ls/home/hduser/input/它给出了以下错误-15/01/0218:32:38WARNutil.NativeCodeLoader:Unabletoloadnative-hado

hadoop - Cloudera CDH VM 默认 HADOOP_HOME 位置

ClouderaCDH4VM中的默认HADOOP_HOME位置是什么。echo$HADOOP_HOME返回空白。 最佳答案 /usr/lib/hadoop是CDH4中的默认HADOOP_HOME。关于弃用,HADOOP_PREFIX似乎是HADOOP_HOME的替代品:$HADOOP_HOMEisdeprecated我相信HADOOP_MAPRED_HOME仅用于mapreduce基础设施,如果您直接使用HDFS,那么您可能需要HADOOP_PREFIX。 关于hadoop-Cloude

macos - 在 Mac 上为 Hadoop 设置 JAVA_HOME

我在OSX10.7上为Hadoop正确设置JAVA_HOME时遇到问题这是我所做的:转到/usr/local/Cellar/hadoop/1.0.3/libexec/conf/hadoop-env.sh并更改JAVA_HOME表单,无论它在那里默认为exportJAVA_HOME=/Library/Java/Home/我对Java也很陌生,所以即使JAVA_HOME也可能是错误的。因此,通过转到hadoop的bin文件夹并运行此命令:hadoopjarhadoop-*-examples.jar这是我得到的讨厌的错误:Exceptioninthread"main"java.io.IOEx

HADOOP_HOME 和 hadoop 流

您好,我正在尝试在安装了hadoop的服务器上运行hadoop,但我不知道hadoop所在的目录。服务器由服务器管理员配置。为了加载hadoop,我使用dotkit包中的use命令。可能有几种解决方案,但想知道hadoop包安装在哪里,如何设置$HADOOP_HOME变量,以及如何批准运行hadoop流作业,例如$HADOOP_HOME/bin/hadoopjar$HADOOP_HOME/mapred/contrib/streaming/hadoop-streaming.jar,又名http://wiki.apache.org/hadoop/HadoopStreaming。谢谢!任何帮

apache-spark - 错误 : User did not initialize spark context

记录错误:TestSuccessfull2018-08-2004:52:15INFOApplicationMaster:54-Finalappstatus:FAILED,exitCode:132018-08-2004:52:15ERRORApplicationMaster:91-Uncaughtexception:java.lang.IllegalStateException:Userdidnotinitializesparkcontext!atorg.apache.spark.deploy.yarn.ApplicationMaster.runDriver(ApplicationMas

configuration - HBaseConfiguration 不读取我在 ${HBASE_HOME}/conf/hbase-site.xml 中设置的值

${HBASE_HOME}/conf/hbase-site.xml有下一个值:hbase.zookeeper.quorumhd1“hd1”主机名设置在“/etc/hosts”中,ping正常...使用这个简单的Java程序:importorg.apache.hadoop.conf.Configuration;importorg.apache.hadoop.hbase.HBaseConfiguration;publicclassTestConfigurator{/***@paramargs*/publicstaticvoidmain(String[]args){Configuration

java - Pydoop Java home not set 安装问题

当我回显$JAVA_HOME时,我得到了Java的路径。Hadoop也在运行,但是pydoop安装由于这个错误而失败。Traceback(mostrecentcalllast):File"setup.py",line54,inraiseRuntimeError("javahomenotfound,trysettingJAVA_HOME")RuntimeError:javahomenotfound,trysettingJAVA_HOME我使用sudopythonsetup.pyinstall--skip-build运行设置命令。作为非root用户收到此错误运行安装运行安装库创建/usr/

hadoop - 用户组信息 : No groups available for user

我正尝试在mapreduce中提交远程作业,但出现错误[1]。我什至在远程hadoop的hdfs-site.xml中设置了内容[2],并更改了权限[3],但问题仍然存在。客户端是xeon,super用户是xubuntu。如何在mapreduce中添加远程用户提交权限?如何为xeon设置组?[1]2015-04-2305:57:35,648WARNorg.apache.hadoop.security.UserGroupInformation:Nogroupsavailableforuserxeon[2]dfs.web.ugixeon,webuser,webgroup[3]2041hdfs

hadoop - 为什么我会突然收到 'KerberosName$NoMatchingRule: No rules applied to user@REALM' 错误?

我们一直在多个(较旧的)Cloudera实例中使用Kerberos身份验证而没有出现问题,但现在出现“KerberosName$NoMatchingRule:没有规则应用于user@REALM”错误。我们一直在修改代码以添加功能,但据我所知,没有人触及身份验证代码或集群配置。(我不能排除这种可能性-显然有些东西已经改变了。)我设置了一个简单的单元测试并验证了此行为。在命令行,我可以执行“kinit-ktuser.keytabuser”并获取相应的Kerberos票证。这验证了正确的配置和key表文件。但是我的独立应用程序因提到的错误而失败。更新当我编辑这个时,我一直在调试器中运行测试,

java - $HADOOP_COMMON_HOME 和 $HADOOP_HDFS_HOME 是同一个值吗?

我知道$HADOOP_COMMON_HOME应该设置为Hadoop目录的根路径,但是$HADOOP_HDFS_HOME的值是多少?同一个?它的值应该是多少? 最佳答案 他们不一样..hadoop发行版中有三个主要的子项目:1)hadoop-common-mapreduce和hdfs使用的通用功能,如IPC..2)hadoop-mapred-mapreduce框架jar3)hadoop-hdfs-hdfs分布式文件系统jar它们每个都在不同的目录中。所以在你提取那些子项目之后,设置$HADOOP_COMMON_HOME设置为hadoo