草庐IT

expectation_failure

全部标签

java - 在 HIVE 中运行 UDF 以进行自定义反序列化时出现 OWN_TASK_FAILURE。

我正在编写一个配置单元脚本来从源中提取数据并将其添加到不同的目的地。存储在源中的数据采用自定义格式。因此,我使用HiveUDF获取数据,反序列化并返回List(我试过List)。我创建了一个包含4个字符串参数的Hive表(HIVE_TABLE)并运行以下配置单元查询。>INSERTOVERWRITETABLEHIVE_TABLESELECTudfFunction(colName)[0],udfFunction(colName)[1],udfFunction(colName)[2],udfFunction(colName)[3]fromsourceTable;其中“udfFunction

java - 映射 : expected org. apache.hadoop.io.Text 中的键类型不匹配,收到 org.apache.hadoop.io.IntWritable

我正在尝试在java中运行一个mapreducer,以获取一个逗号分隔的文件,该文件包含有关坠机的AIRLINE的数据。数据包含以下列,还提供了示例数据:passengerid,survived(s=0,d=1),pclass,name,sex,age,sibsp,parch,ticket,fare,cabin,embarked1,0,3,"BraundMr.OwenHarris",male,22,1,0,A/521171,7.25,,S,2,1,1,"CumingsMrs.JohnBradley(FlorenceBriggsThayer)",female,38,1,0,PC17599

hadoop - Oozie + yarn : getting connection failure exception

在我们的应用程序中,我们希望一次只能运行一个oozie工作流。我们面临与第一个工作流中断的连接问题,并且由于第二个工作流开始。在YARN上,第一个工作流程仍在运行。我们收到以下错误消息:E0603:E0603:SQLerrorinoperation,Thelastpacketsuccessfullyreceivedfromtheserverwas94,669,212millisecondsago.Thelastpacketsentsuccessfullytotheserverwas94,669,212millisecondsago.islongerthantheserverconfig

vue3+ts+element-plus‘, eslint 报错 Parsing error:Unexpected token, expected “from“

vue3引用element-plus上传图片el-upload组件时报错代码:importtype{UploadProps,UploadUserFile}from‘element-plus’报错:Parsingerror:Unexpectedtoken,expected“from”(4:12)解决方法:修改package.json文件eslintConfig配置添加“parser”:“vue-eslint-parser”,“parserOptions”:{“parser”:“@typescript-eslint/parser”},总配置截图新增配置后报错Parsingerror:Cannotf

Hadoop IO 错误 : Type mismatch in key from map : expected org. apache.hadoop.io.Text,收到 RegexMatcher.CustomKey

我收到以下错误:java.lang.Exception:java.io.IOException:Typemismatchinkeyfrommap:expectedorg.apache.hadoop.io.Text,receivedRegexMatcher.CustomKeyatorg.apache.hadoop.mapred.LocalJobRunner$Job.runTasks(LocalJobRunner.java:462)atorg.apache.hadoop.mapred.LocalJobRunner$Job.run(LocalJobRunner.java:522)Caused

windows - start-all.cmd 在 Windows 中给出错误 "til.SysInfoWindows: Expected split length of sysInfo to be 11. Got 7"

我在没有cygwin的情况下在Windows中完成了hadoop2.8.1设置。我已按照http://toodey.com/2015/08/10/hadoop-installation-on-windows-without-cygwin-in-10-mints中提到的所有步骤进行操作.但是当我通过start-all.cmd启动hadoop时,我在yarnnodemanagercmd中收到这个错误11:21警告util.SysInfoWindows:sysInfo的预期拆分长度为11。得到712年17月11日20:11:24警告util.SysInfoWindows:sysInfo的预期

java - 谁能解释我的 Apache Spark 错误 SparkException : Job aborted due to stage failure

我有一个简单的ApacheSpark应用程序,我在其中从hdfs读取文件,然后将其通过管道传输到外部进程。当我读取大量数据(在我的例子中文件大约有241MB)并且我没有指定最小分区数或将最小分区数指定为4时,我收到以下错误:Exceptioninthread"main"org.apache.spark.SparkException:Jobabortedduetostagefailure:Task1instage0.0failed4times,mostrecentfailure:Losttask1.3instage0.0(TID6,ip-172-31-36-43.us-west-2.co

java - Cloudera Quickstart VM illegalArguementException : Wrong FS: hdfs: expected: file:

我有一个简单的java代码可以将一个文本文件从本地复制到hdfs。我正在使用cloudera的quickstart虚拟机。Configurationconf=newConfiguration();conf.addResource(newPath("/etc/hadoop/conf/core-site.xml"));conf.addResource(newPath("/etc/hadoop/conf/hdfs-site.xml"));FileSystemfs=FileSystem.get(conf);fs.copyFromLocalFile(newPath("/home/cloudera

scala - Spark 上下文抛出 'error: identifier expected but ' [' found.'

我正在读一本书,上面说我应该能够输入sc.[\t]并得到响应。我看到的是...scala>sc.[\t]:1:error:identifierexpectedbut'['found.sc.[\t]^:1:error:identifierexpectedbut']'found.sc.[\t]这是spark1.6.1连接到hadoop2.7.2sc命令似乎有效...scala>scres1:org.apache.spark.SparkContext=org.apache.spark.SparkContext@3cead673附言我一生中从未使用过Scala。 最

hadoop - 在两节点 hadoop 集群中运行映射缩减作业时出错 : Too many fetch-failures, 读取任务输出时出错 http://localhost:50060/tasklog

我已经建立了一个双节点hadoop集群。我启动了hadoop文件系统和mapreduceddaemons没有错误,并验证它们正在主从上运行。我可以使用命令bin/hadoopdfs-getmergehdfs://my.domain.com:54310/user/wordcount/sunzi.txt/tmp/wordcount从主节点和从节点读取输入文件。当我运行mapreduce作业时,我在输出中看到错误。作业最终完成,但reduce部分花费了很长时间,并且每次打印错误时它都会继续返回map任务。我的站点配置文件引用了master的dns名称,所以我不知道为什么作业要尝试从“loca