草庐IT

folder_path

全部标签

hadoop - Hive 负载数据 :No files matching path file:/home/hive/sample. 日志

我正在尝试加载HDP-sandbox上的sample.log文件我最初的努力LOADDATALOCALINPATH'sample.log'OVERWRITEINTOTABLElogs;好像路径不匹配Error:Errorwhilecompilingstatement:FAILED:SemanticExceptionLine1:23Invalidpath''sample.log'':Nofilesmatchingpathfile:/home/hive/sample.log(state=42000,code=40000)我注销,移动到/root,然后进入hive0:jdbc:hive2:/

linux - PATH 变量不适用于 hadoop

我在以下路径安装了hadoop,/home/我的名字/hadoop-2.7.2/home/myname/hadoop-2.7.2/bin/hadoop包含可执行文件“hadoop”现在,我在.bashrc中设置了我的$PATH变量,然后我做了一个echo$PATH,我得到了/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/home/myname/hadoop-2.7.2/:/home/myname/hadoop-2.7.2/bin:/home/myname/

hadoop - 创建配置单元表 : no files matching path file. .. 但文件存在于路径中

我正在尝试使用存储在hdfs中的文件创建一个hiveorc表。我有一个表“partsupp.tbl”文件,其中每一行都具有以下格式:1|25002|8076|993.49|venideas.quicklyevenpackagesprint.pendingmultipliersmusthavetoarefluff|我像这样创建一个配置单元表:createtableifnotexistspartsupp(PS_PARTKEYBIGINT,PS_SUPPKEYBIGINT,PS_AVAILQTYINT,PS_SUPPLYCOSTDOUBLE,PS_COMMENTSTRING)STOREDAS

java - Hadoop FileSystem.mkdirs(path, permission) 忽略权限

我正在尝试以编程方式在hdfs中创建目录。我需要该目录对所有用户都是可写的。所以我尝试像这样将权限传递给mkdirs:Pathdir=newPath("/tmp/mkdir-test");fileSystem.mkdirs(dir,newFsPermission(FsAction.ALL,FsAction.ALL,FsAction.ALL));然而,结果是我获得了具有drwxr-xr-x权限的目录。这似乎不是一些总体权限问题,因为如果我在下一行明确设置它们://ForsomereasontheinitialpermissionsareignoredfileSystem.setPermi

java - 如何从 HDFS 中的 Path 获取绝对路径

我是HDFS的新手,遇到了以下问题:org.apache.hadoop.fs.Path没有类似getAbsolutePath的方法返回字符串。toString方法没有正确记录,因此使用它是否可靠? 最佳答案 org.apache.hadoop.fs.Path应该返回完整路径。是的,toString方法几乎没有任何文档,但它可以正常工作!也许这也行:Pathp=fs.getFileStatus(newPath(".")).getPath();URI(p.toString()).getPath();引用:http://lucene.47

hadoop - Hive 安装失败,出现错误 "Relative path in absolute URI"

这是我尝试运行Hive时得到的结果:SLF4J:ClasspathcontainsmultipleSLF4Jbindings.SLF4J:Foundbindingin[jar:file:/usr/local/hive/lib/log4j-slf4j-impl-2.4.1.jar!/org/slf4j/impl/StaticLoggerBinder.class]SLF4J:Foundbindingin[jar:file:/home/techdevabhi/hadoop-2.7.2/share/hadoop/common/lib/slf4j-log4j12-1.7.10.jar!/org/

hadoop - Spark saveAsTextFile 将空文件 - <directory>_$folder$ 写入 S3

rdd.saveAsTextFile("s3n://bucket-name/path)正在创建一个空文件,文件夹名称为-[folder-name]_$folder$似乎hadoop-awsjar(org.apache.hadoop的)使用这个空文件来模仿S3文件系统作为hadoop文件系统。但是,我的应用程序将数千个文件写入S3。当saveAsTextFile创建文件夹(从给定路径)以写入数据(从rdd)时,我的应用程序最终创建了数千个这样的空文件-[directory-name]_$folder$.有没有办法让rdd.saveAsTextFile不写这些空文件?

java - dfs.data.dir : Failed to set permissions of path:\tmp\hadoop-user\dfs\data to 0755 中的无效目录

我是hadoop框架的新手,目前我正在处理大数据项目,在Windows7中使用cygwin、hadoop-0.19.1、eclipse-3.3.1(Europa)。现在我正在尝试从hadoop-0.19进行更改.1到hadoop-1.2.1version.i如下配置hadoop-1.2.1核心站点.xml:fs.default.namehdfs://localhost:9100hdfs.xmldfs.replication1mapred-site.xmlmapred.job.trackerlocalhost:9101但是我在启动数据节点时出错,如下所示$bin/hadoopdatano

Hadoop HDFS : input/output error when creating user folder

我已按照Hadoopthedefinitiveguide,4thedition:AppendixA中的说明进行操作在伪分布式模式下配置Hadoop。一切正常,除了我尝试创建目录时:hadoopfs-mkdir-p/user/$USER命令返回以下消息:mkdir:/user/my_user_name':Input/outputerror。虽然,当我第一次登录到我的根帐户sudo-s然后键入hadoopfs-mkdir-p/user/$USER命令时,目录'user/root'被创建(路径中的所有目录)。我想我遇到了Hadoop权限问题。任何帮助将不胜感激,谢谢。

linux - 修改 hadoop 作业中的 LD_LIBRARY_PATH JAVA_LIBRARY 和 CLASSPATH

在集群上运行hadoop作业之前,我需要修改LD_LIBRARY_PATHJAVA_LIBRARY_PATH和CLASSPATH。在LD_LIBRARY_PATH和JAVA_LIBRARY_PATH中,我需要添加运行作业时所需的一些jar的位置,因为这些jar在我的集群中可用,类似于CLASSPATH。我有一个3节点集群,我需要修改所有3个数据节点的LD_LIBRARY_PATH和CLASSPATH,以便将我的集群节点上可用的jar添加到类路径,以便在运行时可以使用以下jar作业,因为我在运行作业时避免jar分发以使用集群节点上所有可用的jar。我已经尝试了下面给出的选项1.我试过修改