草庐IT

el-table-column

全部标签

hadoop - Hive managed table drop 不会删除 HDFS 上的文件。任何解决方案?

从hive中删除托管表时,它与hdfs中的关联文件不会被删除(在azure-databricks上)。我收到以下错误:[Simba]SparkJDBCDriverERRORprocessingquery/statement.ErrorCode:0,SQLstate:org.apache.spark.sql.AnalysisException:Cannotcreatethemanagedtable('`schema`.`XXXXX`').Theassociatedlocation('dbfs:/user/hive/warehouse/schema.db/XXXXX)alreadyexis

sql - 'pool_name' 在 CREATE TABLE 语句中意味着什么?

在CREATETABLE-statement末尾的Impala中您可以按照我的理解设置复制因子:CREATE[EXTERNAL]TABLE[IFNOTEXISTS][db_name.]table_name...[CACHEDIN'pool_name'[WITHREPLICATION=integer]|UNCACHED]无论如何,我有点不明白pool_name指的是什么。这是HDFS中存放数据的路径吗? 最佳答案 不完全是,它实际上是指使用hdfscacheadmin-addPool...命令定义的HDFS池,参见hdfscomman

hadoop - Hive alter table 语句

ALTERTABLEabcADDPARTITION(year= 2014,month=1,day=1)location'/data/input/abc/year=2014/month=1/day=1';FAILED:ParseExceptionline1:47character' 'notsupportedhere为什么会出现这个错误 最佳答案 出现错误是因为您的分区命令中有空格。year=2014试试看year=2014...假设您的年份列是int。类型。如果它是你需要的字符串year='2014'

hadoop - 集成 Hbase 和 Hive : Register Hbase table

我正在使用包含以下版本的Hbase和Hive的HortonworksSandbox2.0ComponentVersion------------------------ApacheHadoop2.2.0ApacheHive0.12.0ApacheHBase0.96.0ApacheZooKeeper3.4.5...和我正在尝试使用以下查询将我的hbase表注册到配置单元中CREATETABLEIFNOTEXISTSDocument_Table_Hive(keySTRING,authorSTRING,categorySTRING)STOREDBY‘org.apache.hadoop.hiv

hadoop - Hive - 静态分区 - 直接创建分区目录与使用 alter table 语句的区别

下面两个在hive中创建静态分区的语句之间是否存在任何内部/性能差异,我已经尝试了两种方法并且在将数据加载到分区后它们都可以正常工作dfs-mkdir/user/cloudera/sqoop_import/avroData/orders_part/order_month=2014-02;altertableorders_partaddpartition(order_month='2014-02'); 最佳答案 此命令:dfs-mkdir/user/cloudera/sqoop_import/avroData/orders_part/

hadoop - Hive 'alter table <table name> concatenate' 是如何工作的?

我有n(large)个小型orc文件,我想将它们合并到k(small)个大型orc文件中。这是在Hive中使用altertabletable_nameconcatenate命令完成的。我想了解Hive是如何实现的。如果需要,我希望使用Spark进行任何更改来实现这一点。任何指针都会很棒。 最佳答案 根据AlterTable/PartitionConcatenate:如果表或分区包含很多小的RCFiles或ORC文件,那么上面的命令会将它们合并成更大的文件。在RCFile的情况下,合并发生在block级别,而对于ORC文件,合并发生在

hadoop - 为什么在执行 "/shared"时未列出 `hadoop fs -ls` 目录,尽管在执行 `hadoop fs -ls/shared/table_name` 时它是可见的

当我执行-ls命令时,未列出/shared目录[cts573151@aster2~]$hadoopfs-lsdrwx-------cts573151supergroup02016-12-2105:30.Trashdrwxr-xr-x-cts573151supergroup02017-02-0112:28.sparkStagingdrwx-------cts573151supergroup02017-02-0211:37.stagingdrwxr-xr-x-cts573151supergroup02016-12-1911:40_sqoopdrwxr-xr-x-cts573151super

oracle - Sqoop 导入失败 : Cannot convert SQL type 2005 when trying to import Oracle table

尝试将Oracle数据库中的表作为parquet文件导入时出现以下错误。ERRORtool.ImportTool:ImportedFailed:CannotconvertSQLtype2005这个问题已经有人提出了here,但建议的解决方案对我没有帮助。我正在尝试使用以下命令从命令行导入一个表,中的参数用相应的值填充:sqoopimport--connectjdbc:oracle:thin:@:/--username--password--hive-import--query'SELECT*FROM.WHERE$CONDITIONS'--split-by--hive-database-

hadoop - ORC Hive Create Table 错误与位置

当我尝试创建外部ORC表并提供位置时,出现以下错误。该错误似乎与tblproperties有关。如果取出tblproperties并运行它,它运行良好。但是,我将不得不使用altertable命令将tblproperties更新为SNAPPY。有人面临类似的问题吗?如果配置单元中存在错误,我不确定是否打开了JIRA。任何意见表示赞赏。谢谢。hive(default)>createexternaltableAddresses(>namestring,>streetstring,>citystring,>statestring,>zipint>)storedasorctblproperti

hadoop - 检查 Oozie Hive 操作中的 EL 表达式中是否存在变量

我正在尝试为Oozie工作流创建一个通用模板,以用于运行不同的配置单元脚本。每个配置单元脚本都有自己的参数。在Oozie的HiveAction中,使用PARAM标签设置参数时,我需要检查一个变量是否存在,如果不存在,我需要将其默认为“”。我试过了,my_parameter_var=${emptymy_parameter?"":my_parameter}这仅适用于检查my_parameter是否为null或空字符串。如果变量根本不存在,则此检查失败;出现以下错误:ErrorCode:EL_ERRORErrorMessage:variable[my_parameter]cannotbere