草庐IT

directory-permissions

全部标签

java - 我正在尝试在 hdfs 中格式化名称节点,但显示 : permission denied

我正在尝试格式化namenode。为此,我已经尝试过了。hduser@Ubuntu:/usr/hadoop/hadoop-2.7.1$bin/hdfsnamenode-format它说:bin/hdfs:line304:/root/software/jdk1.8.0_45/bin/java:Permissiondeniedbin/hdfs:line304:exec:/root/software/jdk1.8.0_45/bin/java:cannotexecute:Permissiondenied 最佳答案 所以,您的安装很奇怪。看起

scala - 星火 SQL : access file in current worker node directory

我需要使用spark-sql读取一个文件,该文件在当前目录中。我使用此命令解压缩存储在HDFS上的文件列表。valdecompressCommand=Seq(laszippath,"-i",inputFileName,"-o","out.las").!!该文件在当前工作节点目录中输出,我知道这一点是因为通过scala执行"ls-a"!!我可以看到该文件在那里。然后我尝试使用以下命令访问它:valdataFrame=sqlContext.read.las("out.las")我假设sql上下文会尝试在当前目录中查找文件,但事实并非如此。此外,它不会抛出错误,而是会发出一条警告,指出找不到

hadoop - 使用 Cloudera Manager 安装 CDH : No such file or directory

使用CM安装并成功下载和分发所有包裹。但是,所有代理都不会在分发100%完成时解压包裹。检查日志,它说:[21/Nov/201809:53:04+0000]30292MainThreadparcelINFOExecutingcommand['chown','root:yarn',u'/opt/cloudera/parcels/CDH-6.0.1-1.cdh6.0.1.p0.590678/lib/hadoop-yarn/bin/container-executor'][21/Nov/201809:53:04+0000]30292MainThreadparcelINFOchmod:/opt

bash - Docker 上的 DataStax Enterprise : fails to start due to/hadoop/conf directory not being writable

我关注了DataStax'sguideonbestpracticesforusingDSEwithDocker,但我在使用DataStax提供的所有默认设置脚本和Dockerfile时遇到了以下错误。错误日志Causedby:java.lang.RuntimeException:FailedtosavecustomDSEHadoopconfigatcom.datastax.bdp.hadoop.mapred.CassandraJobConf.writeDseHadoopConfig(CassandraJobConf.java:310)~[dse-hadoop-5.0.3.jar:5.0

Hadoop : java. io.IOException : No valid local directories in property: mapred. local.dir

当我运行hadoop作业时,它失败并显示以下堆栈跟踪:11/10/0613:12:49INFOmapred.FileInputFormat:Totalinputpathstoprocess:111/10/0613:12:49INFOmapred.JobClient:Cleaningupthestagingareahdfs://localhost:54310/app/hadoop/tmp/mapred/staging/Har/.staging/job_201110051450_000711/10/0613:12:49ERRORstreaming.StreamJob:ErrorLaunch

Hadoop 任务 : "execvp: permission denied"

在多个开发人员工作站(即它们具有不同的本地配置)上设置的小型Hadoop集群中,我有6个TaskTracker中的一个存在问题。每当它收到一个任务时,该任务立即失败并返回ChildError:java.lang.Throwable:ChildErroratorg.apache.hardoop.mapred.TaskRunner.run(TaskRunner.java:242)Causedby:java.io.IOException:Taskprocessexitwithnonzerostatusof1.atorg.apache.hardoop.mapred.TaskRunner.run

import - HBase 导出/导入 : Unable to find output directory

我正在为我的应用程序使用HBase,我正在尝试使用org.apache.hadoop.hbase.mapreduce.Export导出数据,因为它是指示here.我面临的问题是,一旦执行了命令,创建导出时就没有错误。但是指定的输出目录并没有出现在它的位置。我使用的命令是$bin/hbaseorg.apache.hadoop.hbase.mapreduce.Exporttable_namedb_dump/ 最佳答案 我得到了解决方案,因此我正在回复我自己的答案hadoop的conf目录下的hadoop-env.sh必须有如下两行exp

python - Ambari 服务器设置 : OSError: [Errno 2] No such file or directory

我正在尝试使用本教程在我的EC2实例上设置Hadoop。当我收到此错误时,我正在尝试设置ambari服务器:[root@ip-xxx-xxx-xxx-xxxec2-user]#ambari-serversetupUsingpython/usr/bin/python2.6Setupambari-serverCheckingSELinux...WARNING:Couldnotrun/usr/sbin/sestatus:OKAmbari-serverdaemonisconfiguredtorununderuser'root'.Changethissetting[y/n](n)?Adjusti

java - Hadoop FileSystem.mkdirs(path, permission) 忽略权限

我正在尝试以编程方式在hdfs中创建目录。我需要该目录对所有用户都是可写的。所以我尝试像这样将权限传递给mkdirs:Pathdir=newPath("/tmp/mkdir-test");fileSystem.mkdirs(dir,newFsPermission(FsAction.ALL,FsAction.ALL,FsAction.ALL));然而,结果是我获得了具有drwxr-xr-x权限的目录。这似乎不是一些总体权限问题,因为如果我在下一行明确设置它们://ForsomereasontheinitialpermissionsareignoredfileSystem.setPermi

ubuntu - java.io.IOException : All directories in dfs. datanode.data.dir 无效

我试图让hadoop和hive在我的linux系统上本地运行,但是当我运行jps时,我注意到数据节点服务丢失了:vaughn@vaughn-notebook:/usr/local/hadoop$jps2209NameNode2682ResourceManager3084Jps2510SecondaryNameNode如果我运行bin/hadoopdatanode,会出现以下错误:17/07/1319:40:14INFOdatanode.DataNode:registeredUNIXsignalhandlersfor[TERM,HUP,INT]17/07/1319:40:14WARNut