草庐IT

query_result

全部标签

excel - 来自 Excel Power Query 的 HDFS 连接

拥有一台运行Hadoop实例的服务器。基本上,我想通过本地计算机上的Excel连接到一些HDFS表。我知道PowerQuery插件有助于处理该操作并提供与HDFS建立连接的机会。但事情是这样的——我有Excel2016,所以根据Microsoft文档,PowerQuery已经内置在Excel中。但是当我尝试执行“数据-从其他来源获取数据”时,根本没有“从Hadoop文件(HDFS)获取数据”之类的选项我做错了什么,我需要采取哪些具体步骤才能从Excel访问HDFS? 最佳答案 对我来说,HDFS显示在这里:但不是这里:第一个“来自其

hadoop - Pig 集成Cassandra : simple distributed query takes a few minutes to complete. 这正常吗?

我设置了Cassandra+Pig/Hadoop的测试集成。8个节点为Cassandra+TaskTracker节点,1个节点为JobTracker/NameNode。我启动了cassandra客户端并在Cassandra发行版的Readme.txt中创建了一些简单的数据:[default@unknown]createkeyspaceKeyspace1;[default@unknown]useKeyspace1;[default@Keyspace1]createcolumnfamilyUserswithcomparator=UTF8Typeanddefault_validation_c

hadoop - 在 Hive 中添加 JAR 给出错误 "Query returned non-zero code: 1, cause:/user/hive/warehouse/abc.jar does not exist."

我创建了一个UDF并将jar导出为abc.jar。将jar复制到/user/hive/warehouse中的hdfs。现在,我遇到以下错误:hive>ADDJAR/user/hive/warehouse/abc.jar;/user/hive/warehouse/abc.jardoesnotexistQueryreturnednon-zerocode:1,cause:/user/hive/warehouse/abc.jardoesnotexist.hive>当我这样做时,hadoopfs-ls/user/hive,我可以在/user/hive/warehouse看到abc.jar路径。我

带有分页的 Spring Data 和 Native Query

在一个web项目中,使用最新的spring-data(1.10.2)和MySQL5.6数据库,我正在尝试使用带有分页的native查询,但我遇到了org.springframework.data。jpa.repository.query.InvalidJpaQueryMethodException在启动时。更新:20180306此问题现已在Spring2.0.4中得到修复对于那些仍然感兴趣或坚持使用旧版本的人,请查看相关答案和评论以了解解决方法。根据Example50atUsing@Queryfromspring-datadocumentation可以指定查询本身和countQuery

带有分页的 Spring Data 和 Native Query

在一个web项目中,使用最新的spring-data(1.10.2)和MySQL5.6数据库,我正在尝试使用带有分页的native查询,但我遇到了org.springframework.data。jpa.repository.query.InvalidJpaQueryMethodException在启动时。更新:20180306此问题现已在Spring2.0.4中得到修复对于那些仍然感兴趣或坚持使用旧版本的人,请查看相关答案和评论以了解解决方法。根据Example50atUsing@Queryfromspring-datadocumentation可以指定查询本身和countQuery

java - hadoop mapreduce : where's the final hdfs result file when I speficify multiple reducers?

我有一个wordCount.java程序并修改它以支持多个映射器和缩减器,如下所示:publicclassWordCountextendsConfiguredimplementsTool{publicintrun(String[]args)throwsException{JobConfconf=newJobConf(getConf(),w1_args.class);for(inti=0;i然后我编译并运行它:hadoopjarWordCount-1.0-SNAPSHOT.jarWordCount-m3-r15inputoutput它运行良好,当我检查输出目录时:$hdfsdfs-lso

hadoop - Pyspark es.query 仅在默认情况下有效

在pypspark中,我可以获得从ES返回的数据的唯一方法是保留es.query默认值。这是为什么?es_query={"match":{"key":"value"}}es_conf={"es.nodes":"localhost","es.resource":"index/type","es.query":json.dumps(es_query)}rdd=sc.newAPIHadoopRDD(inputFormatClass="org.elasticsearch.hadoop.mr.EsInputFormat",keyClass="org.apache.hadoop.io.NullWr

java - Spring 数据 jpa @query 和可分页

我正在使用SpringDataJPA,当我使用@Query来定义查询时WITHOUTPageable,它可以工作:publicinterfaceUrnMappingRepositoryextendsJpaRepository{@Query(value="select*frominternal_uddiwhereurnlike%?1%orcontactlike%?1%",nativeQuery=true)ListfullTextSearch(Stringtext);}但是如果我添加第二个参数Pageable,@Query将不起作用,Spring将解析方法的名称,然后抛出exception

java - Spring 数据 jpa @query 和可分页

我正在使用SpringDataJPA,当我使用@Query来定义查询时WITHOUTPageable,它可以工作:publicinterfaceUrnMappingRepositoryextendsJpaRepository{@Query(value="select*frominternal_uddiwhereurnlike%?1%orcontactlike%?1%",nativeQuery=true)ListfullTextSearch(Stringtext);}但是如果我添加第二个参数Pageable,@Query将不起作用,Spring将解析方法的名称,然后抛出exception

hadoop - Hive Query Fail with Error 此作业的任务数 31497 超出了配置的限制 30000

我在一个有2250个分区的表上运行配置单元查询,我收到这个错误,我不确定它超出了哪些任务以及我该如何解决这个问题。谢谢,Hive历史文件=/tmp/hadoop/hive_job_log_hadoop_201310040052_1692176679.txtMapReduce作业总数=2启动Job1outof2未指定reducetask的数量。根据输入数据大小估计:10为了改变reducer的平均负载(以字节为单位):设置hive.exec.reducers.bytes.per.reducer=为了限制reducer的最大数量:设置hive.exec.reducers.max=为了设置固