草庐IT

azure - HDInsight 和 Talend Open Studio for Big Data

我目前正在开展一个项目,我需要将TalendopenStudioforBigData(v6.3.1)连接到Azure的HDInsight(3.5)Hadoop集群。到目前为止,我正在尝试一个简单的例子,它包括创建一个Hive表。为此,我使用了下图:配置单元连接配置如下:...请在下面找到tHiveCreateTable_1节点的规范:通过运行这个过程:·创建了指定的容器和部署Blob(见下图)——这让我相信Windows存储配置一切正常·但是tHiveCreateTable_1节点有错误(见下图)·我坚信它与主机名和端口有关;·我尝试使用集群的主机名和我们可以在Ambari中找到的Hi

database - sqoop 从 db2 特定模式导入所有到配置单元

我尝试使用以下命令行从DB2中的特定模式导入所有表。sqoopimport-all-tables--usernameuser--passwordpass\--connectjdbc:db2://myip:50000/databs:CurrentSchema=testdb\--drivercom.ibm.db2.jcc.DB2Driver--fields-terminated-by','\--lines-terminated-by'\n'--hive-databasedefault--hive-import--hive-overwrite\--create-hive-table-m1;遇

mysql - 配置单元 : why is metastore_db created in my project folder?

我把hive-site.xml在我的spark/confdir并将其配置为连接到thrift://:9083而且我没有使用derby我有mysql-connector-jar在hive/lib文件夹中,每次我创建hive表和存储数据时,所有数据都存储在metastore_db中在我的项目目录中,而不是在我的hdfs://:9000/user/hive/warehouse中,所以如果我删除metastore_db数据就会丢失。conf/hive-site.xmljavax.jdo.option.ConnectionURLjdbc:mysql://saurab:3306/metastore

hadoop - Apache Drill - 不在 Hive DB 中列出表

我已经创建了必要的存储插件,并且在发出showdatabase命令时会显示hive中的相关数据库。当使用use命令使用其中一个配置单元数据库时,我发现我无法选择该数据库中的任何表。进一步看,当发出showtable命令时,该数据库中的任何表都不会通过ApacheDrill显示出来,而它们在Hive中看起来很好。在通过Hive向任何用户授予权限方面,我是否遗漏了什么?ApacheDrill究竟是如何连接到Hive以运行相关作业的?感谢您的回复。 最佳答案 Showtables;目前不会列出Hive表。最好在配置单元表之上创建View。

hadoop - 选择用于快速网络分析的 DB、OLAP 解决方案(大数据阵列)

我遇到以下问题:我的系统每天从不同站点收集约3亿次点击。每个都有时间、用户ID、类型(广告或常规)、http地址、站点ID。还有一组用户~200M,其中有性别、年龄段和国家。需要设计一个基于点击数据的系统,可以实时报告不同用户组的点击情况。像OLAP解决方案:-)例如,绘制2011年10月至9月英国15-25岁女孩的点击率图表。您建议选择哪个数据库,以及构建OLAP多维数据集的解决方案?我正在寻找开源解决方案,例如HBase(+zohmg或级联)Hypertable或其他(免费DWH:-))。 最佳答案 这是海量数据,每天300Mi

oracle - 如何将日期/时间戳字符串写入 Oracle DB 中的日期时间戳列?

我已经使用AVRO文件格式和Hive外部表将一些Oracle表存储在Hadoop中以访问数据。我在导入时使用Oracle的TO_CHAR函数将日期和时间戳值存储为格式化字符串。现在我想使用Spark将这些确切数据导出回具有日期列的Oracle表。我使用命令://CreateadataframefromtheHivetablevaldata=sqlContext.sql("select*fromavro_table")//exportdftoexistingoracletabledata.write.mode("overwrite").jdbc(jdbcString,"tableName

hadoop - 如何使用 Hbase rest API 将数据从 IBM db2 导入到 Hbase

实际上我们的需求是使用HbaserestAPI将数据从IBMdb2导入到hbase。任何人都可以向我提供详细信息或步骤。提前致谢。 最佳答案 你可以试试sqoop-hbaseimport 关于hadoop-如何使用HbaserestAPI将数据从IBMdb2导入到Hbase,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/57292350/

java - Hadoop 错误 : Java heap space when using big dataset

我正在尝试在大型文本数据集(~3.1Tb)上运行Hadoop程序。我一直收到这个错误,而且我看不到任何日志:15/04/2913:31:30INFOmapreduce.Job:map86%reduce3%15/04/2913:33:33INFOmapreduce.Job:map87%reduce3%15/04/2913:35:34INFOmapreduce.Job:map88%reduce3%15/04/2913:37:34INFOmapreduce.Job:map89%reduce3%15/04/2913:39:33INFOmapreduce.Job:map90%reduce3%15

postgresql - 从 10 亿行 GreenPlum DB 中缓慢选择

我在GreenPlum上创建了下表:CREATETABLEdata."CDR"(mcctext,mnctext,lactext,celltext,from_numbertext,to_numbertext,cdr_timetimestampwithouttimezone)WITH(OIDS=FALSE,appendonly=true,orientation=column,compresstype=quicklz,compresslevel=1)DISTRIBUTEDBY(from_number);我已将10亿行加载到此表,但每个查询都非常慢。我需要对所有字段(不仅是一个)进行查询,我可

java - Metastore db hive - 另一个实例已经在运行

我试图在linux服务器上运行hive,但我不断收到以下错误:Causedby:ERRORXSDB6:AnotherinstanceofDerbymayhavealreadybootedthedatabase/home/usr/metastore_db怎么了?我尝试这样做:psaux|grepspark-shellpsaux|grepmetastorepsaux|grepderby但没有显示任何进程。可能是什么原因? 最佳答案 我发现这种情况正在发生,因为有多个其他Spark-Shell实例已经在运行并且已经持有derbyDB,所以