草庐IT

CUDA_TOOLKIT_ROOT_DIR

全部标签

hadoop - oozie - sqoop $SQOOP_CONF_DIR 尚未在环境中设置

我正在尝试使用oozie(霍顿作品)运行sqoop。这是我第一次尝试运行oozie工作流,但出现以下错误InvokingSqoopcommandlinenow1811[main]WARNorg.apache.sqoop.tool.SqoopTool-$SQOOP_CONF_DIRhasnotbeensetintheenvironment.Cannotcheckforadditionalconfiguration.2015-12-2116:58:45,913WARN[main]tool.SqoopTool(SqoopTool.java:loadPluginsFromConfDir(177

hadoop - Hadoop 2.x 系列是否弃用了 `dfs.data.dir` 属性?

dfs.data.dir属性在2.x系列中是否仍然有效?从这个hdfs-site.xmldocumentation大概版本1.2.1和这个hdfs-site.xmldocumentation是什么对于大概2.4.1来说,很明显dfs.data.dir已被弃用。我的推断是真的吗?如果是这样,现在它的等价物是什么?在生产中更改hadoop.tmp.dir并保留它? 最佳答案 请查看此链接Deprecatedproperty,由于该属性被标记为已弃用,您仍然可以利用该属性的功能行为。最好使用Deprecated属性。

scala - 监听器异常 : Mkdirs failed to create/tmp/temporary ( full permission given to the dir. )

当我编写流数据时显示此错误时,我正在学习结构化流CountQuery:org.apache.spark.sql.streaming.StreamingQuery=org.apache.spark.sql.execution.streaming.StreamingQueryWrapper@604770e3org.apache.spark.sql.streaming.StreamingQueryException:QueryCount[id=4ce8572a-24c9-4cde-97e4-051426cbb15e,runId=59c60d53-73ee-43a4-8792-d5907a88

hadoop - SparkR 错误 : The root scratch dir:/tmp/hive on HDFS should be writable

我正在尝试初始化SparkR,但出现权限错误。我的Spark版本是spark-2.2.1-bin-hadoop2.6。我搜索了这个错误以及如何解决它,我发现了几个相关的主题。但是,我无法使用与这些主题相同的方法来解决它,他们提供的解决方案(以及我尝试过的解决方案)是使用以下命令授予/tmp/hive目录权限:sudo-uhdfshadoopfs-chmod-R777/tmp/hive有足够知识的人可以给我另一种可能的解决方案吗?错误堆栈跟踪如下:$sudo./bin/sparkRRversion3.4.2(2017-09-28)--"ShortSummer"Copyright(C)20

hadoop - namenode.NameNode : Could not initialize shared edits dir

您好,我在HA集群配置时间遇到了所有这些错误。请帮助我哪里错了。14/09/0811:13:38INFOnamenode.AclConfigFlag:ACLsenabled?false14/09/0811:13:38INFOcommon.Storage:Lockon/usr/local/hadoop/dfs/tmp/dfs/name/in_use.lockacquiredbynodename1170@n314/09/0811:13:38WARNnamenode.FSNamesystem:Encounteredexceptionloadingfsimagejava.io.IOExcept

java - 尝试以 myuser 身份运行作业时权限被拒绝,但错误提示 root 没有足够的权限

我正在尝试让HadoopMapReduce正常工作,但一直面临访问问题。我不确定是什么问题,是配置问题还是其他问题。例如,当我运行时,这个字数hadoopjar/usr/share/hadoop/hadoop-examples-1.2.1.jarwordcount/user/myuser/input.txt/user/myuser/output.txt我收到以下错误:14/09/1020:15:51INFOinput.FileInputFormat:Totalinputpathstoprocess:114/09/1020:15:51INFOmapred.JobClient:Runnin

hadoop - Sqoop增量导入 "Cannot append files to target dir"

我在使用Sqoop将数据从MySQL导入Hive时遇到问题...这个查询:sqoopimport--connectjdbc:mysql://xx.xx.xx.xx/database\--usernamesqoop--passwordsqoop--tabledatatable\--target-dir/home/cloudera/user/hive/warehouse/database.db/datatable\--as-parquetfile-m1--append返回这个错误:15/01/1416:27:28WARNutil.AppendUtils:Cannotappendfilest

Hadoop 多节点集群,root 权限被拒绝

我们试图在hadoop上创建一个多节点集群,但在主服务器上运行start-dfs.sh文件后,它要求输入root@slave和root@master的密码,然后显示密码被拒绝。sshslave和sshmasterfrommaster运行正常。现在怎么办?screenshotofterminal 最佳答案 以hduser$bin/start-dfs.sh身份启动集群。因为,您必须仅使用hduser创建您的ssh公钥。该用户也应该在您的从机中。此外,不建议使用root。 关于Hadoop多节

hadoop - 查询返回非零代码 : 1, 导致 : hive configuration hive. root.logger 不存在

我正在尝试运行HiveCLI(bin/hive),但以下错误不允许Hive启动:Queryreturnednon-zerocode:1,cause:hiveconfigurationhive.root.loggerdoesnotexists.这是整个调试信息:JavaHotSpot(TM)64-BitServerVMwarning:UsingtheParNewyoungcollectorwiththeSerialoldcollectorisdeprecatedandwilllikelyberemovedinafuturereleaseSLF4J:Classpathcontainsmul

hadoop - Sqoop 中拆分 <column> --target-dir 的目的是什么

当我们在sqoop中编写--split-by时,内部发生了什么?例子:sqoopimport--connectjdbc:mysql://localhost/test--usernameroot--passwordtraining123--query'select*fromtransactionwhere$CONDITIONS'--split-byTxnid--target-dirinput/transaction 最佳答案 HadoopMAPReduce就是分而治之。为了将数据分割成多个独立的切片并行传输,Sqoop需要找到--sp