草庐IT

create_collection

全部标签

hadoop - 如何在 outputcollector.collect 中返回浮点值?

在计算输出的数字平均值后,我无法返回flaot值。收集..任何人都可以帮助我吗??公共(public)静态类MapClass扩展了MapReduceBase实现映射器{privateTextword=newText();publicvoidmap(LongWritablekey,Textvalue,OutputCollectoroutput,Reporterreporter)throwsIOException{Stringline=value.toString();Stringnum=Integer.parseInt(num);IntWritableone=newIntWritable

scala - 错误 : value saveAsTextFile is not a member of scala. collection.Map[String,Long]

我尝试了所有可能的方法,通过导入所有可能的库并检查与saveAstextFile或saveAsSequenceFile相关的所有问题的答案甚至没有帮助。因此启动一个新线程。我收到错误消息“错误:值saveAsTextFile不是scala.collection.Map[String,Long]countResult.saveAsTextFile("tmp/testfile")的成员。在尝试将rdd保存到HDFS。我正在按照以下步骤操作。1.scala>importorg.apache.spark.SparkFilesimportorg.apache.spark.SparkFiles2.

scala - 在 Scala 中调用 collect() 函数时出现异常

我试图编写自定义代码来比较源模式(SAS)和目标模式(Hive)的数据类型。在SAS中,我们有不同的数据类型。例如对于日期时间,数据类型定义为Num,格式定义为DateTime20.(例如)。在Hive中,此数据类型等效于Timestamp。因此我的源架构文件如下所示:source.csv文件S_No,Variable,Type,Len,Format,Informat6,EMP_HOURS,Num,8,15.2,15.14,EMP_NAME,Char,50,,1,DATETIME,Num,8,DATETIME20.,DATETIME20.5,HEADER_ROW_COUNT,Num,8

hadoop - SQOOP 从 Teradata 导入 : Create table Ok but without data

我使用sqoop通过我的TD数据库拨号。当我尝试这个时,一切正常(我的表是在默认配置单元数据库中创建的)sqoopimport\-libjars$LIB_JARS\-Dteradata.db.input.job.type=hive\-Dteradata.db.input.target.table=hive_table\-Dteradata.db.input.target.table.schema="c1bigint"\-m1\--connectjdbc:teradata://PRD/Database=database\--connection-managerorg.apache.sqo

hadoop - Sqoop Teradata 连接器问题 - 错误 : The user does not have CREATE TABLE access to database

当我尝试从TeradataView导入表时,我遇到了Sqoop的Teradata连接器问题。我只能访问View。但不知何故,当sqoop作业开始时,它试图在我正在访问的TeradataDB中创建一个表,但无权在该DB/schema中创建任何表我低于错误13/05/3103:40:12ERRORtool.ImportTool:EncounteredIOExceptionrunningimportjob:com.teradata.hadoop.exception.TeradataHadoopSQLException:com.teradata.jdbc.jdbc_4.util.JDBCExc

hadoop - HIVE:CREATE TABLE AS SELECT 命令无法指定目标表的列列表

我怎样才能让它工作?hive>desctemp;OKaintbintTimetaken:0.077seconds,Fetched:2row(s)我想创建列名为c和d的t2HIVE表,但出现以下错误。hive>createtablet2(cint,dint)asselecta,bfromtemp;FAILED:SemanticException[Error10065]:CREATETABLEASSELECTcommandcannotspecifythelistofcolumnsforthetargettable 最佳答案 您无需再次提

hadoop - 如何让 HIVE 中的 CREATE TABLE...AS SELECT 不填充数据?

当我在HIVE中运行CTAS时,数据也会同时填充。但我只想创建表,而不是填充数据。我应该怎么做?谢谢。 最佳答案 您可以使用LIKE关键字来做到这一点。createtablenew_table_nameLIKEold_table_name这将创建没有数据的表结构。 关于hadoop-如何让HIVE中的CREATETABLE...ASSELECT不填充数据?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.co

hadoop - Cloudera CDH 上的 Impala "Could not create logging file: Permission denied"

我在CDH4.2.0-1.cdh4.2.0.p0.10集群上的ClouderaManager4.5中通过包裹安装了Impala。当我尝试启动服务时,它在所有节点上都失败并显示此消息perl-pi-e's#{{CMF_CONF_DIR}}#/run/cloudera-scm-agent/process/800-impala-IMPALAD#g'/run/cloudera-scm-agent/process/800-impala-IMPALAD/impala-conf/impalad_flags'['impalad=impalad']'exec/opt/cloudera/parcels/I

java.lang.NoSuchFieldError : type When creating a Hive table 错误

我正在用代码创建一个配置单元表:HiveInterfaceclient=newHiveServer.HiveServerHandler();client.execute("CREATETABLEu_data("+"useridINT,"+"movieidINT,"+"ratingINT"+")"+"ROWFORMATDELIMITED"+"FIELDSTERMINATEDBY'\\t'"+"STOREDASTEXTFILE;");当运行execute命令时我得到这个异常:java.lang.NoSuchFieldError:typeatorg.apache.hadoop.hive.ql

hadoop - pig : Create new column based off of two other columns

我想知道是否有可能在pig身上做这样的事情:一共有三列:“类型1”、“类型2”、“类型3”B101,159,74我想这样定义C列:如果A=="type1"那么C=B;否则C=0这在pig身上可能吗? 最佳答案 是的,这是可能的。你可以这样写:data=LOAD'$dataSource'usingAvroStorage();--data={A,B}data2=FOREACHdataGENERATEA,B,(A=='type1'?B:0)ASC;dumpdata2; 关于hadoop-pig