草庐IT

create-directory

全部标签

Hadoop/YARN 作业失败 - "exited with exitCode: -1000 due to: Could not find any valid local directory for nmPrivate..."

我正在尝试使用Hadoop、YARN和Accumulo运行MapReduce作业。我收到以下输出,但我无法找到问题所在。看起来是YARN问题,但我不确定它在寻找什么。我在$HADOOP_PREFIX/grid/hadoop/hdfs/yarn/logs位置有一个nmPrivate文件夹。这是它说找不到的文件夹吗?14/03/3108:48:46INFOmapreduce.Job:Jobjob_1395942264921_0023failedwithstateFAILEDdueto:Applicationapplication_1395942264921_0023failed2times

hadoop - 将 Pig 与 Hadoop 一起使用时出现 "Failed to create DataStorage"错误

我一直在尝试让Pig0.9.0使用ApacheHadoop0.20.203.0运行。我在谷歌和邮件列表中查看了高低,甚至这个问题:cantrunpigwithsinglenodehadoopserver,但我仍然无法让PigshellGrunt在集群设置中运行(当然,我可以在本地模式下正常运行提示符)。我已经尝试了给出的解决方案-在没有hadoop的情况下重新编译,将hadoop库和pig-withouthadoop.jar添加到我的PIG_CLASSPATH变量中......没有任何效果。我刚得到错误2011-08-0210:56:00,709[main]ERRORorg.apach

Java Hadoop : How can I create mappers that take as input files and give an output which is the number of lines in each file?

我是Hadoop的新手,我已经设法运行了wordCount示例:http://hadoop.apache.org/common/docs/r0.18.2/mapred_tutorial.html假设我们有一个包含3个文件的文件夹。我希望每个文件都有一个映射器,这个映射器将只计算行数并将其返回给缩减器。然后,reducer会将每个映射器的行数作为输入,并将所有3个文件中存在的总行数作为输出。所以如果我们有以下3个文件input1.txtinput2.txtinput3.txt映射器返回:mapper1->[input1.txt,3]mapper2->[input2.txt,4]mappe

Hadoop\HDFS : "no such file or directory"

我已经使用本教程在一台机器上安装了Hadoop2.2:http://www.michael-noll.com/tutorials/running-hadoop-on-ubuntu-linux-single-node-cluster/一些细节发生了一些变化-例如,我使用了java8、/hadoop根目录等。用户、SSH、配置key-相同。Namenode格式化成功:13/12/2205:42:31INFOcommon.Storage:Storagedirectory/hadoop/tmp/dfs/namehasbeensuccessfullyformatted.13/12/2205:42

hadoop - Spark : saveAsTextFile() only creating SUCCESS file and no part file when writing to local filesystem

我正在使用以下命令将RDD写入文件:rdd.coalesce(1).saveAsTextFile(FilePath)当FilePath是HDFS路径(hdfs://node:9000/folder/)时一切正常。当FilePath是本地路径(file:///home/user/folder/)时,一切似乎都正常。输出文件夹已创建,SUCCESS文件也已存在。但是我没有看到任何包含输出的part-00000文件。没有其他文件。spark控制台输出也没有错误。我还尝试在调用saveAsTextFile()之前调用RDD上的collect,为输出文件夹提供777权限,但没有任何效果。请帮忙。

hadoop - 我可以通过在 Hive 中通过 "CREATE TABLE AS SELECT....."创建的表进行聚类/分桶吗?

我正在尝试在Hive中创建一个表CREATETABLEBUCKET_TABLEASSELECTa.*FROMTABLE1aLEFTJOINTABLE2bON(a.key=b.key)WHEREb.keyISNUllCLUSTEREDBY(key)INTO1000BUCKETS;此语法失败-但我不确定是否可以执行此组合语句。有任何想法吗? 最佳答案 遇到这个问题,发现没有提供答案。我进一步查看并在Hive文档中找到了答案。这永远行不通,因为CTAS有以下限制:目标表不能是分区表。目标表不能是外部表。目标表不能是列表分桶表。来源:htt

php - 更改 Laravel 的 created_at 和 updated_at 的名称

我可以从以下位置映射Laravel的时间戳吗:created_at到post_date和post_date_gmt?updated_at到post_modified和post_modified_gmt?我正在将一个Wordpress应用程序迁移到Laravel。我正在使用Laravel访问Wordpress数据库的副本。数据库的实时版本仍在使用中,所以我不想更改架构。Posts表有post_date、post_date_gmt、post_modified和post_modified_gmt,但Laravel需要created_at和updated_at。是否可以更改Laravel查找的

php - 更改 Laravel 的 created_at 和 updated_at 的名称

我可以从以下位置映射Laravel的时间戳吗:created_at到post_date和post_date_gmt?updated_at到post_modified和post_modified_gmt?我正在将一个Wordpress应用程序迁移到Laravel。我正在使用Laravel访问Wordpress数据库的副本。数据库的实时版本仍在使用中,所以我不想更改架构。Posts表有post_date、post_date_gmt、post_modified和post_modified_gmt,但Laravel需要created_at和updated_at。是否可以更改Laravel查找的

hadoop - Hive INSERT OVERWRITE DIRECTORY 命令输出没有用定界符分隔。为什么?

我正在加载的文件由''(空格)分隔。下面是文件。该文件驻留在HDFS中:-0010000010000020010030020040030050040060050070060080070990071>我正在创建一个外部表并通过发出以下命令加载文件:-CREATEEXTERNALTABLEIFNOTEXISTSgraph_edges(src_node_idSTRINGCOMMENT'NodeIDofSourcenode',dest_node_idSTRINGCOMMENT'NodeIDofDestinationnode')ROWFORMATDELIMITEDFIELDSTERMINATED

hadoop fs -ls 结果为 "no such file or directory"

我已经为10节点集群安装并配置了Hadoop2.5.2。1作为主节点,其他节点作为从节点。我在执行hadoopfs命令时遇到问题。hadoopfs-ls命令在HDFSURI上运行良好。在没有HDFSURI的情况下使用时,它会给出消息“ls:`.':Nosuchfileordirectory”ubuntu@101-master:~$hadoopfs-ls15/01/3017:03:49WARNutil.NativeCodeLoader:Unabletoloadnative-hadoopibraryforyourplatform...usingbuiltin-javaclasseswher