草庐IT

found_iterID

全部标签

hadoop - Hive - 将数据插入分区表 : partition not found

我在尝试向Hive外部分区表中插入新数据时遇到问题。表是按天分区的,我得到的错误是:FAILED:SemanticException[Error10006]:Line1:51Partitionnotfound''18102016''我的查询如下:ALTERTABLEmy_source_tableRECOVERPARTITIONS;INSERTOVERWRITETABLEmy_dest_tablePARTITION(d='18102016')SELECT'III'ASprimary_alias_type,iii_idASprimary_alias_id,FROMmy_source_tab

java - Hive UDF 在 select 中抛出 Class Not Found 异常

我坚持使用UDFjar。我需要在我的UDF中解析简单的UserAgent。我找到了一个流行的UserAgent解析器http://www.bitwalker.eu/software/user-agent-utils我将其包含在我的项目中。在项目中我使用maven。我添加了所有依赖项,实现了所有内容并进行了测试。它在我的本地机器上运行良好。接下来我在Maven中进行全新安装以构建jar。这个jar我通过添加jar{MyJarName}在Hive中使用,然后创建一个函数:创建临时函数{functionName}作为{pathToUDFClass}并得到这样的异常。Causedby:java

shell - Oozie——java : command not found - shell action

我正在通过Oozie从shell脚本运行java程序,但出现以下错误java:commandnotfound当我从边缘节点运行shell脚本时,我没有发现任何问题,java类运行时没有任何错误,我也得到了所需的输出。但是,无法运行java命令的是oozie作业。oozie中的所有其他操作都正常执行,但是当它遇到java行时,它会抛出上述错误。我知道Hadoop集群中的所有节点都会安装Java,那么为什么会出现此错误?下面是我的shell脚本中的java命令......java-cp$LOCAL_DIR/libs/integration-tools.jarcom.audit.report

java.io.IOException : No LZO codec found, 无法运行

我尝试在我的配置单元脚本中使用lzo,但收到此错误消息。看来我在类路径中没有lzo的类。以前有没有其他人遇到过这个问题,如何解决这个问题,也许我需要知道的是我在哪里可以获得lzo压缩的jar文件,thx。 最佳答案 Here是一些关于如何设置LZO压缩的详细说明。 关于java.io.IOException:NoLZOcodecfound,无法运行,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/qu

hadoop - java.lang.IllegalStateException : No clusters found. 检查你的 -c 路径

我在命令行使用以下命令使用Mahoutkmeans算法对数据进行聚类mahoutkmeans-i/vect_out/tfidf-vectors/-c/out_canopy-o/out_kmeans-dmorg.apache.mahout.common.distance.SquaredEuclideanDistanceMeasure-cd1.0-x20-cl其中/out_canopy是包含使用Mahoutcanopy集群创建的集群的目录,其中包含一个clusters-0目录,该目录本身包含一个名为_logs的目录和一个文件命名为part-r-00000但是一直报如下错误java.lang

Hadoop-2.5.1 + Nutch-2.2.1 : Found interface org. apache.hadoop.mapreduce.TaskAttemptContext,但类是预期的

命令:./crawl/urls/mydirXXXXX2在Hadoop-2.5.1和Nutch-2.2.1中运行该命令时,出现如下错误信息。14/10/0719:58:10INFOmapreduce.Job:正在运行的作业:job_1411692996443_001614/10/0719:58:17INFOmapreduce.Job:作业job_1411692996443_0016在super模式下运行:false14/10/0719:58:17INFOmapreduce.Job:map0%reduce0%14/10/0719:58:21INFOmapreduce.Job:任务ID:at

hadoop - 在 Mesos 0.21.0 上使用 Hadoop 2.3.0 产生 Spark ,从站上出现错误 "sh: 1: hadoop: not found"

我正在Mesos0.21.0上使用Hadoop2.3.0设置spark。当我在主机上尝试spark时,我从mesosslave的stderr收到这些错误消息:WARNING:LoggingbeforeInitGoogleLogging()iswrittentoSTDERRI122912:34:45.9236658571fetcher.cpp:76]FetchingURI'hdfs://10.170.207.41/spark/spark-1.2.0.tar.gz'I122912:34:45.9252408571fetcher.cpp:105]Downloadingresourcefrom

Hadoop httpFS 总是返回 HTTP/1.1 404 Not Found

我在使用hadoop的HttpFS服务时遇到问题。当我尝试curl一些资源时:curl-ihttp://192.168.4.180:14000/webhdfs/v1/user/hadoop/?op=LISTSTATUS我得到的响应是:HTTP/1.1404NotFoundServer:Apache-Coyote/1.1Content-Length:0Date:Mon,17Aug201508:57:47GMT但是当我尝试对webhdfs做同样的事情时,它起作用了:curl-ihttp://192.168.4.180:50070/webhdfs/v1/user/hadoop/?op=LIS

spring - 范围 'session' 对当前线程无效;非法状态异常 : No thread-bound request found

我有一个Controller,我希望每个session都是唯一的。根据spring文档,实现有两个细节:1.初始网页配置Tosupportthescopingofbeansattherequest,session,andglobalsessionlevels(web-scopedbeans),someminorinitialconfigurationisrequiredbeforeyoudefineyourbeans.我已将以下内容添加到我的web.xml中,如文档中所示:org.springframework.web.context.request.RequestContextLis

spring - 范围 'session' 对当前线程无效;非法状态异常 : No thread-bound request found

我有一个Controller,我希望每个session都是唯一的。根据spring文档,实现有两个细节:1.初始网页配置Tosupportthescopingofbeansattherequest,session,andglobalsessionlevels(web-scopedbeans),someminorinitialconfigurationisrequiredbeforeyoudefineyourbeans.我已将以下内容添加到我的web.xml中,如文档中所示:org.springframework.web.context.request.RequestContextLis