草庐IT

POSTGRES_USER

全部标签

shell - 如何打开hdfs ://localhost:54310/user/hduser/

我尝试使用命令在hadoop中创建一个目录hadoopfs-mkdir计数那么如何在单节点集群上打开或查看hdfs://localhost:54310/user/hduser/count? 最佳答案 要查看文件夹及其内容,您可以执行如下操作:hadoopfs-lscount如果你想获取内容到你的本地文件系统,那么你可以使用gethadoopfs-getcount有关所有命令行选项的更多详细说明,请阅读here. 关于shell-如何打开hdfs://localhost:54310/use

hadoop - 在 Hive 中添加 JAR 给出错误 "Query returned non-zero code: 1, cause:/user/hive/warehouse/abc.jar does not exist."

我创建了一个UDF并将jar导出为abc.jar。将jar复制到/user/hive/warehouse中的hdfs。现在,我遇到以下错误:hive>ADDJAR/user/hive/warehouse/abc.jar;/user/hive/warehouse/abc.jardoesnotexistQueryreturnednon-zerocode:1,cause:/user/hive/warehouse/abc.jardoesnotexist.hive>当我这样做时,hadoopfs-ls/user/hive,我可以在/user/hive/warehouse看到abc.jar路径。我

hadoop - Sqoop 导入 hive 数据库不会发生在/user/hive/warehouse

我已经安装了hadoop2.7.2,同时尝试使用下面的sqoop命令将数据导入到配置单元表中,为什么它试图插入到/user/root/而不是插入到/user/hive/warehousesqoopimport-all-tables\--num-mappers1\--connect"jdbc:mysql://localhost:3306/retail_db"\--username=root\--password=root\--hive-import\--hive-overwrite\--hive-databasesqoop_import\--create-hive-table

postgresql - 用于 spark/hadoop 的 Postgres 适配器增加了什么值(value)?

我不是HDFSNerd,但来自传统的RDMS背景,我正在接触Hadoop和Spark等新技术。现在,当涉及到对Spark数据进行SQL查询时,我正在研究我的选择。我意识到Spark天生就支持SQL查询。然后我遇到了这个链接https://www.enterprisedb.com/news/enterprisedb-announces-new-apache-spark-connecter-speed-postgres-big-data-processing我正在努力弄清这一点。如果我理解正确的话。数据仍然以HDFS格式存储,但Postgres连接器用作查询引擎?如果是这样,在存在现有查询

hadoop - 我必须创建/tmp 和/user/hive/warehouse 吗?

来自https://cwiki.apache.org/confluence/display/Hive/GettingStartedRunningHiveHiveusesHadoop,so:youmusthaveHadoopinyourpathORexportHADOOP_HOME=Inaddition,youmustusebelowHDFScommandstocreate/tmpand/user/hive/warehouse(akahive.metastore.warehouse.dir)andsetthemchmodg+wbeforeyoucancreateatableinHive.

hadoop - 可以在没有 Postgres 的情况下使用 PostGIS 库吗?

是否可以在没有Postgres的情况下使用PostGIS库?我想将这些地理空间函数与Hadoop(MR、HBase、Hive)结合使用。有什么想法吗?提前致谢。 最佳答案 PostGIS提供了一个liblwgeomlibrary,这是一个轻量级的几何库,独立于PostgreSQL。SpatiaLiteusesthislibraryforspatialfunctionswithSQLite.liblwgeom可以使用theseinstructions单独编译. 关于hadoop-可以在没有

hadoop - Sqoop Teradata 连接器问题 - 错误 : The user does not have CREATE TABLE access to database

当我尝试从TeradataView导入表时,我遇到了Sqoop的Teradata连接器问题。我只能访问View。但不知何故,当sqoop作业开始时,它试图在我正在访问的TeradataDB中创建一个表,但无权在该DB/schema中创建任何表我低于错误13/05/3103:40:12ERRORtool.ImportTool:EncounteredIOExceptionrunningimportjob:com.teradata.hadoop.exception.TeradataHadoopSQLException:com.teradata.jdbc.jdbc_4.util.JDBCExc

user-interface - Hue 安装在 vanilla hadoop 上

有人试过在ApacheHadoop上安装HUE吗?我们正在使用hadoop0.20.2,我想知道在我投入时间之前是否有人成功使用它。任何指针将不胜感激。 最佳答案 看来不可能...http://getsatisfaction.com/cloudera/topics/issue_with_cloudera_plugin_loading_in_hadoop 关于user-interface-Hue安装在vanillahadoop上,我们在StackOverflow上找到一个类似的问题:

hadoop - 在 postgres 中插入数据时,Reduce 代码随机卡住

我们有一个用Java编写的mapreduce代码,它读取多个小文件(比如10k+),在驱动程序中转换为单个avro文件,reducer将一堆减少的记录插入到postgres数据库中。这个过程每小时发生一次。但是有多个mapreduce作业同时运行,处理不同的avro文件并为每个作业打开不同的数据库连接。所以有时(非常随机)所有任务都卡在reducer阶段,但出现以下异常-"C2CompilerThread0"daemonprio=10tid=0x00007f78701ae000nid=0x6db5waitingoncondition[0x0000000000000000]java.la

shell - 错误 : Permission denied: '/user'

当我尝试将AWSS3存储桶复制到HDFS时出现错误:Permissiondenied:'/user'下面是我的脚本awss3syncs3://folder1.folder2/file.json/user/hive/warehouse/my.db/json_table请帮忙! 最佳答案 S3sync无法识别HDFS路径。要么使用,hadoopdistcp在配置所有与S3相关的properties之后.S3DistCp,这需要s3distcp.jar。如果文件很小,sync文件到localpath和copyFromLocal到HDFS。