草庐IT

sql-parametrized-query

全部标签

hadoop - 如何在将配置单元作业提交到数据处理集群时执行 gcp 存储桶中的配置单元查询列表(在我的例子中是 gs :/hive/hive. sql")

这里我在hiveJob下的queryList中编写查询。将Hive作业提交到dataproc集群defsubmit_hive_job(dataproc,project,region,cluster_name):job_details={'projectId':project,'job':{'placement':{'clusterName':cluster_name},"hiveJob":{"queryList":{###howcaniexecute.sqlfileherewhichisinbucket####"queries":["CREATETABLEIFNOTEXISTSsai(

sql - sqoop如何在向hive导入数据时自动修剪db2中的一些char类型的列?

我有一个很大的db2表,其中包含许多char类型的列。我尝试通过sqoop将数据提取到hive中以满足不同的需求。以前写Hivesql的时候都是手动把char类型的colums全部剪掉但是,有太多的列需要修剪,以至于我总是忘记其中的一些,这可能会导致一些困惑的问题,如下所示:假设BANK_TABLE是hive的目标表,2323423232323是表中已经存在的卡号。如果我执行:hive-e"select*fromBANK_TABLEwherecard_no='2323423232323'"结果是什么都没有,因为我在写sql导入数据到hive的时候忘记修剪了column:card_no所

sql - Hive SQL 编码风格 : intermediate tables?

我应该在配置单元中创建和删除中间表吗?我可以写类似的东西(大大简化):droptableifexiststmp1;createtabletmp1asselecta,b,cfrominput1wherea>1andb或者我可以将所有内容汇总到一个语句中:droptableifexistsoutput;createtableoutputasselectx,a,count(*)ascountfrom(selecta,b,cfrominput1wherea>1andb显然,如果我多次重复使用中间表,那么创建它们就很有意义了。但是,当它们只使用一次时,我有一个选择。两个我都试过了,第二个是6%快

sql - 来自另一个表的动态正则表达式搜索字符串

我有两个表:项目CREATETABLEitems(IDint,TXTstring,CODEstring);INSERTINTOitemsVALUES(1,'AABBCC','ZZ-100');INSERTINTOitemsVALUES(2,'BBCCDD','ZZ-200');INSERTINTOitemsVALUES(3,'AACCEE','ZZ-300');INSERTINTOitemsVALUES(4,'EEFFGG','ZZ-400');INSERTINTOitemsVALUES(5,'CCHHII','ZZ-500');+----+----------+--------+|i

hadoop - 使用 Impala 访问 Hbase 表时,所有 SQL 操作是否都有效?

HBase不允许对其表进行连接操作。为了克服这个问题,我计划创建HBase表并通过Impala访问它。Impala允许所有连接以及分组依据和其他SQL操作。我对此几乎没有疑问-有人测试过这种方法吗?所有可用的SQL操作是否同样有效impala与Hive一起工作?我试图在cloudera的文档中找到答案,但没有明确的答案。 最佳答案 “明确答案”一词取决于您要查找的参数...Q1:Hasanyonetestedthisapproach?是的,Impala的这种方法-hbase外部表是可行的,因为我们已经为即席查询做了同样的事情。然而,

SQL根据组提供新列

我有下表:ID|Group|Miles1|1|232|1|383|1|421|2|332|2|421|3|352|3|433|3|47并想得到idmiles1miles2miles31|23|33|352|38|42|433|42|Null|47谢谢看答案另一个选择是枢轴例子Select[ID],Miles1=[1],Miles2=[2],Miles3=[3]FromYourTablePivot(sum([Miles])For[Group]in([1],[2],[3]))p返回IDMiles1Miles2Miles312333352384243342NULL47

搜索使用键值对与SQL类似“%like%”构造的PHP多维关联阵列

我具有此PHP功能,可以很好地使用键值对搜索多维关联数组。我现在想将其扩展到搜索一个数组,其中键值对具有类似于SQL的构造的数组:name='%john%'.functionsearch($array,$key,$value){$results=array();like_search_r($array,$key,$value,$results);return$results[0];}functionlike_search_r($array,$key,$value,&$results){if(!is_array($array)){return;}if(isset($array[$key])&&$

sql - (Hive, SQL) - 如何对列内的字符串列表进行排序?

我在Hive(SQL)中遇到大数据问题。SELECTgenre,COUNT(*)ASunique_countFROMtable_nameGROUPBYgenre结果如下:genre|unique_count----------------------------------Romance,Crime,Drama,Law|1560Crime,Drama,Law,Romance|895Law,Romance,Crime,Drama|942Adventure,Action|3250Action,Adventure|910我想要的是按genreASC|DESC对元素进行排序并得到如下结果gen

sql - 按生成的列分组

我试图按分钟对数据进行分组,所以我尝试了这个查询:SELECTFROM_UNIXTIME(unix_timestamp(time,'yyyy-mm-ddhh:mm:ss'),'yyyy-mm-ddhh:mm')asts,count(*)ascntfromtouchergroupbytslimit10;然后hive告诉我没有这样的列,FAILED:SemanticException[Error10004]:Line1:134Invalidtablealiasorcolumnreference'ts':(possiblecolumnnamesare:time,ip,username,cod

sql - 在 hive 表中插入的值,双引号用于来自 csv 文件的字符串

我正在将一个csv文件导出到配置单元表中。关于csv文件:列值用双引号括起来,用逗号分隔。来自csv的示例记录"4","good""3","notbad""1","veryworst"我用下面的语句创建了一个hive表,创建外部表currys(review_ratingstring,review_commentstring)由','分隔的行格式字段;表已创建。现在我使用命令loaddatalocalinpath加载了数据并且成功了。当我查询表格时,select*fromcurrys;结果是:"4""good""3""notbad""1""veryworst"代替4good3notbad