草庐IT

time_input

全部标签

hadoop - Cloudera hadoop : not able to run Hadoop fs command and at same time HBase is not able to create directory on HDFS?

我已经启动并运行了6个节点的cloudera5.0beta集群但是我无法使用命令查看hadoopHDFS的文件和文件夹sudo-uhdfshadoopfs-ls/在输出中它显示了linux目录的文件和文件夹。尽管namenodeUI正在显示文件和文件夹。在HDFS上创建文件夹时出现错误sudo-uhdfshadoopfs-mkdir/testmkdir:`/test':Input/outputerror由于此错误,hbase未启动并关闭并出现以下错误:Unhandledexception.Startingshutdown.java.io.IOException:Exceptioninm

hadoop - pig : Force one mapper per input line/row

我有一个PigStreaming作业,其中映射器的数量应等于输入文件中的行数。我知道那个设定setmapred.min.split.size16setmapred.max.split.size16setpig.noSplitCombinationtrue将确保每个block为16个字节。但是我如何确保每个map作业都只有一行作为输入?这些行的长度是可变的,因此对mapred.min.split.size和mapred.max.split.size使用常量不是最佳解决方案。这是我打算使用的代码:input=load'hdfs://cluster/tmp/input';DEFINECMD`

hadoop - 配置单元失败 : ParseException line 2:0 cannot recognize input near '' macaddress '' ' CHAR' '(' in column specification

我试过运行hive-v-fsqlfile.sql文件内容如下CREATETABLEUpStreamParam('macaddress'CHAR(50),'datats'BIGINT,'cmtstimestamp'BIGINT,'modulation'INT,'chnlidx'INT,'severity'BIGINT,'rxpower'FLOAT,'sigqnoise'FLOAT,'noisedeviation'FLOAT,'prefecber'FLOAT,'postfecber'FLOAT,'txpower'FLOAT,'txpowerdrop'FLOAT,'nmter'FLOAT,'

input - hadoop可以从多个目录和文件中获取输入吗

因为我将fileinputFormat设置为hadoop输入。arg[0]+"/*/*/*"表示不匹配任何文件。我想要的是从多个文件中读取:Directory1---Directory11---Directory111--f1.txt--f2.txt---Directory12Directory2---Directory21在Hadoop中可以吗?谢谢! 最佳答案 您可以使用*****运算符从多个目录和文件获取输入。很可能是因为“arg[0]”参数不正确,因此找不到文件。作为替代方案,您也可以使用InputFormat.addInp

java - 象夫 : To read a custom input file

我在玩Mahout,发现FileDataModel接受以下格式的数据userId,itemId,pref(long,long,Double).我有一些格式的数据String,long,double在Mahout上使用此数据集的最佳/最简单方法是什么? 最佳答案 一种方法是创建FileDataModel的扩展.您需要覆盖readUserIDFromString(Stringvalue)使用某种解析器进行转换的方法。您可以使用IDMigrator的实现之一。,正如肖恩建议的那样。例如,假设您有一个已初始化的MemoryIDMigrato

hadoop - HDFS 错误放置 : `input' : No such file or directory

我已经安装了hadoop2.6.0,并且正在试用它。我正在尝试伪分布式设置,并按照http://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-common/SingleCluster.html#Execution上的说明进行操作我卡在了第5步,即当我运行命令时bin/hdfsdfs-putetc/hadoopinput我收到以下错误。15/02/0200:35:49WARNutil.NativeCodeLoader:Unabletoloadnative-hadooplibraryforyourplatform...u

java - Hadoop : Provide directory as input to MapReduce job

我正在使用ClouderaHadoop。我能够运行简单的mapreduce程序,我提供一个文件作为MapReduce程序的输入。此文件包含所有其他要由mapper函数处理的文件。但是,我卡在了一点。/folder1-file1.txt-file2.txt-file3.txt如何将MapReduce程序的输入路径指定为"/folder1",以便它可以开始处理该目录中的每个文件?有什么想法吗?编辑:1)首先,我提供了inputFile.txt作为mapreduce程序的输入。它运行良好。>inputFile.txtfile1.txtfile2.txtfile3.txt2)但是现在,我不想提

hadoop - 来自 org.apache.hadoop.mapreduce.lib.input.FileInputFormat.listStatus 的 guava 秒表的 IllegalAccessError

我正在尝试运行小型spark应用程序,但出现以下异常:Exceptioninthread"main"java.lang.IllegalAccessError:triedtoaccessmethodcom.google.common.base.Stopwatch.()Vfromclassorg.apache.hadoop.mapreduce.lib.input.FileInputFormatatorg.apache.hadoop.mapreduce.lib.input.FileInputFormat.listStatus(FileInputFormat.java:262)atorg.ap

php time() 和 microtime() 有时不一致

在使用microtime()(使用PHP5)记录一些数据时,我遇到了一些值,这些值似乎与我的日志文件的时间戳略有不同,所以我只是尝试比较time()和microtime()和一个简单的脚本(usleep只是为了限制数据输出):$time){echo$time.':'.$microtime.'';}usleep(50000);}?>现在,由于在$time之前声明了$microtime,我希望它更小,并且永远不会输出任何内容;然而,这显然不是这种情况,$time有时会小于microtime()返回的秒数,如本例(截断)输出所示:1344536674:0.155451001344536675

php - WAMP 2.2e - phpmyadmin fatal error : Maximum execution time of 30 seconds exceeded

当我尝试打开phpmyadmin时,所有服务都在运行(wamp图标为绿色),但出现此错误。似乎有什么问题? 最佳答案 您可以像@HanhNghien在您的php.ini评论中所说的那样设置最大执行时间。max_execution_time=120max_input_time=120但我认为更好的问题是为什么需要phpmyadmin这么多时间。也许您应该检查您的Apache日志并检查是否有错误。 关于php-WAMP2.2e-phpmyadminfatalerror:Maximumexec