草庐IT

directory-permissions

全部标签

Hadoop copyFromLocal : '.' : No such file or directory

我将Windows8与cloudera-quickstart-vm-5.4.2-0虚拟机一起使用。我下载了一个文本文件words.txt到下载文件夹中。我将目录更改为下载并使用hadoopfs-copyFromLocalwords.txt我收到没有这样的文件或目录错误。谁能向我解释为什么会这样/如何解决这个问题?这是终端的屏幕截图:有人告诉我当Hadoop处于安全模式时会出现此错误,但我已确保安全模式已关闭。 最佳答案 这是因为hdfs:///user/cloudera不存在。运行hdfsdfs-ls可能会出现类似的错误。如果没有指

hadoop fs -ls “no such file or directory”

如果我写命令:[hdfs@nnode~]$hadoopfs-ls我收到消息:ls:`.':Nosuchfileordirectory我知道hadoopfs-ls默认情况下会查找文件夹/home/hdfs,所以我使用它创建了它hadoopfs-mkdir/home然后hadoopfs-mkdir/home/hdfs但是我仍然收到消息:ls:`.':Nosuchfileordirectory 最佳答案 其实是/user/hdfs,不是/home尝试hadoopfs-mkdir-p/user/hdfs

scala - Spark Scala S3 存储 : permission denied

我在Internet上阅读了很多关于如何让Spark与S3一起工作的主题,但仍然没有任何东西可以正常工作。我已经下载了:Spark2.3.2withhadoop2.7andabove.我只从Hadoop2.7.7(匹配Spark/Hadoop版本)复制了一些库到Sparkjars文件夹:hadoop-aws-2.7.7.jarhadoop-auth-2.7.7.jaraws-java-sdk-1.7.4.jar我仍然无法使用S3N或S3A来让spark读取我的文件:对于S3A我有这个异常(exception):sc.hadoopConfiguration.set("fs.s3a.acc

java - Hadoop-级联: Partial directory source tap

我的数据结构如下:+data|-2014080700_00.txt|-2014080700_01.txt|-2014080701_00.txt|-...|-2014080723_00.txt|-2014080800_00.txt|-...|-2014090800_00.txt我知道我可以通过Tap使用数据目录中的所有文件,如下所示:TapinTap=newHfs(newTextLine(),"/path/to/data");但我想要目录的特定部分,例如日期为20140807的文件。因此它将包括所有前缀为20140807的文件。有没有办法用级联来做到这一点?或者有什么方法可以烫一下吗?

hadoop - Hive INSERT OVERWRITE 到 Google Storage 作为 LOCAL DIRECTORY 不起作用

我使用以下Hive查询:hive>INSERTOVERWRITELOCALDIRECTORY"gs://Google/Storage/Directory/Path/Name"rowformatdelimitedfieldsterminatedby','select*from.;我收到以下错误:"Error:FailedwithexceptionWrongFS:"gs://Google/Storage/Directory/PathName",expected:file:///我做错了什么? 最佳答案 从语法中删除Local。参见下面的

hadoop 权限问题 (hdfs-site.xml dfs.permissions.enabled)

我最近在我的机器上安装了Hadoop。我有权限问题。我以用户rahul身份登录并尝试在HDFS中创建目录(hdfsdfs-mkdir/rahul_workspace)。但它给了我一个错误Permissiondenied:user=Rahul,access=WRITE,inode="/user":hdfs:hdfs:drwxr-xr-x。在Google上快速搜索此错误会导致许多响应建议通过将hdfs-site.xml中的dfs.permissions属性设置为false来禁用权限检查的解决方法。现在我可以在HDFS中创建目录。将上述属性设置为false后,我可以访问所有其他hadoop服

hadoop - org.apache.hadoop.fs.ParentNotDirectoryException :/tmp (is not a directory)

我是Hadoop新手,正在运行wordCount2示例。但是我遇到了以下错误Exceptioninthread"main"org.apache.hadoop.fs.ParentNotDirectoryException:/tmp(isnotadirectory)atorg.apache.hadoop.hdfs.server.namenode.FSPermissionChecker.checkIsDirectory(FSPermissionChecker.java:570)atorg.apache.hadoop.hdfs.server.namenode.FSPermissionCheck

Hadoop MapReduce 错误-/bin/bash :/bin/java: is a directory

我正在尝试在macOS10.12上运行一个基本的MapReduce程序,该程序从天气数据的日志文件中检索最高温度。运行作业时,我收到以下堆栈跟踪:Stacktrace:ExitCodeExceptionexitCode=126:atorg.apache.hadoop.util.Shell.runCommand(Shell.java:582)atorg.apache.hadoop.util.Shell.run(Shell.java:479)atorg.apache.hadoop.util.Shell$ShellCommandExecutor.execute(Shell.java:773)

shell - Oozie 和 Hue : Permission Denied while running shell script

我在HDFS/user/user中有一个shell脚本sample_shell.sh,如下所示:source/user/user/params_new.cfgecho"HELLOWORLD"echo$layerparams_new.cfg也位于HDFS/user/user目录中,其内容为:layer="S"我是Oozie的新手,正在尝试在Hue中设置一个Oozie工作流程,它将执行sample_shell.sh脚本。属性如下:${jobTracker}${nameNode}/user/user/sample_shell.sh/user/user/sample_shell.sh#samp

permissions - Hadoop 配置好像没读懂

每次当我尝试启动我的mapreduce应用程序(在独立的Hadoop中)时,它都会尝试将内容放入tmp目录,但它不能:Exceptioninthread"main"java.io.IOException:Failedtosetpermissionsofpath:\tmp\hadoop-username\mapred\staging\username-1524148556\.stagingto0700它与使用无效路径有关(对于cygwin,斜线应该是相反的)。我在core-site.xml中设置了hadoop.tmp.dir(在Hadoop的conf文件夹中),但似乎永远不会读取配置文件