草庐IT

create-notebook

全部标签

hadoop - 如何让 HIVE 中的 CREATE TABLE...AS SELECT 不填充数据?

当我在HIVE中运行CTAS时,数据也会同时填充。但我只想创建表,而不是填充数据。我应该怎么做?谢谢。 最佳答案 您可以使用LIKE关键字来做到这一点。createtablenew_table_nameLIKEold_table_name这将创建没有数据的表结构。 关于hadoop-如何让HIVE中的CREATETABLE...ASSELECT不填充数据?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.co

hadoop - Cloudera CDH 上的 Impala "Could not create logging file: Permission denied"

我在CDH4.2.0-1.cdh4.2.0.p0.10集群上的ClouderaManager4.5中通过包裹安装了Impala。当我尝试启动服务时,它在所有节点上都失败并显示此消息perl-pi-e's#{{CMF_CONF_DIR}}#/run/cloudera-scm-agent/process/800-impala-IMPALAD#g'/run/cloudera-scm-agent/process/800-impala-IMPALAD/impala-conf/impalad_flags'['impalad=impalad']'exec/opt/cloudera/parcels/I

java.lang.NoSuchFieldError : type When creating a Hive table 错误

我正在用代码创建一个配置单元表:HiveInterfaceclient=newHiveServer.HiveServerHandler();client.execute("CREATETABLEu_data("+"useridINT,"+"movieidINT,"+"ratingINT"+")"+"ROWFORMATDELIMITED"+"FIELDSTERMINATEDBY'\\t'"+"STOREDASTEXTFILE;");当运行execute命令时我得到这个异常:java.lang.NoSuchFieldError:typeatorg.apache.hadoop.hive.ql

hadoop - pig : Create new column based off of two other columns

我想知道是否有可能在pig身上做这样的事情:一共有三列:“类型1”、“类型2”、“类型3”B101,159,74我想这样定义C列:如果A=="type1"那么C=B;否则C=0这在pig身上可能吗? 最佳答案 是的,这是可能的。你可以这样写:data=LOAD'$dataSource'usingAvroStorage();--data={A,B}data2=FOREACHdataGENERATEA,B,(A=='type1'?B:0)ASC;dumpdata2; 关于hadoop-pig

python - 如何在 ipython notebook 中为 Hive 查询设置最大分区

我目前正在使用Ipythonnotebook编写脚本。importpandasaspdimportpyhs2importosimportdatetimeq1="sethive.query.max.partition=3000;select'Device_id'askey,'AllTime'astype,count(distincta.dev_id)ascountfrom(selectdistinctdev_idfromDevIDwheredev_type='*****'unionallselectdistinctkey_value_lookup(raw_url,'*****','&',

mysql - 使用 create-hive-table 在 Hive 中创建表时如何使用自定义分隔符

我正在尝试将数据从RDBMS表导入HDFS。然后我使用create-hive-table将架构复制到配置单元,然后将数据加载到该配置单元表。用于导入HDFS的命令sqoopimport--connectjdbc:mysql://localhost/sqoop--usernamesqoop--passwordsqoop--tablecustomers--warehouse-dirtestingsqoop-m1--fields-terminated-by','--enclosed-by"\'"--lines-terminated-by"\n"用于创建配置单元表的命令:sqoopcreate

hadoop - 是否可以从 hive create external table 命令导出/创建外部表文件到远程服务器

是否可以从hivecreateexternaltable命令导出/创建外部表文件到远程服务器。createexternaltableSOME_TABLE(MY_Coulmns)rowformatdelimitedfieldsterminatedby','linesterminatedby'\n'storedastextfilelocation'';要求:我必须将这个文件/数据从hive导出到Cassandra(在不同的服务器上)。 最佳答案 通过Hive使用带有用户名和密码的IP进行外部存储不是一个好的做法,因为它可能会成为一个安全

java - sqoop导入java io异常: Mkdir failed to create a file

通过sqoopjava将MySQL数据导入HDFS时出现错误。但是我授予了hdfs的所有权限,然后我也遇到了同样的问题。任何人都可以解决这个问题。Hadoop版本:2.6.0Sqoop:1.4.6请准确地建议我应该给本地文件系统什么权限。提前致谢。16/12/2813:14:54WARNsqoop.ConnFactory:$SQOOP_CONF_DIRhasnotbeensetintheenvironment.Cannotcheckforadditionalconfiguration.16/12/2813:14:54INFOmanager.SqlManager:Usingdefault

hadoop - Spark 上的 hive : Failed to create spark client

我正在尝试使Spark2.1.0上的Hive2.1.1在单个实例上运行。我不确定这是正确的方法。目前我只有一个实例,所以我无法构建集群。当我在配置单元中运行任何插入查询时,出现错误:hive>insertintomcus(id,name)values(1,'ARM');QueryID=server_20170223121333_416506b4-13ba-45a4-a0a2-8417b187e8ccTotaljobs=1LaunchingJob1outof1Inordertochangetheaverageloadforareducer(inbytes):sethive.exec.re

hadoop - Spark 作业出错,出现 : Too many elements to create a power set 34

我正在尝试在查询弹性数据的mesos集群中运行一个spark作业,使用esJsonRDD查询如下:FetchingesJsonRDDfromelasticsearchwithcomplexfilteringinSpark,对于少于32个节点的多节点弹性集群运行良好。随着弹性中节点的增加,作业失败并出现以下异常:org.elasticsearch.hadoop.EsHadoopIllegalArgumentException:Toomanyelementstocreateapowerset37如https://github.com/elastic/elasticsearch-hadoop