草庐IT

HADOOP_PREFIX

全部标签

Hadoop,Hbase - 列及对应值提取

我是hbase的新手,我有一个查询,比如如何将列名及其相应的值单独从hbase提取到excel/csv。我已经尝试过类似的可能场景写入导出整个数据hbaseshell到我们的本地位置,但没有成功。谁能给我一个解决方案所以为了展示例子cf:ABCtimestamp=1234,value=qwercf:DEFtimestamp=5678,value=9874cf:GEHtimestamp=10254,value=11223344如果这是我们的数据那么我们的最终结果应该是ABCqwerDEF9874GEH11223344 最佳答案 如果您

hadoop - 如何找到 sqoop 支持的连接管理器?

我需要一些帮助...我正在开发一个sqoop指南来教新员工如何使用sqoop。有一个名为--connection-manager的标志,我必须知道我应该列出什么jar文件,以返回我的配置支持的所有连接管理器类。谢谢 最佳答案 如果你看源代码,特别是https://github.com/apache/sqoop/blob/trunk/src/java/org/apache/sqoop/manager/SupportedManagers.java#L26,你会看到:publicenumSupportedManagers{MYSQL(Jd

hadoop - 通过命令行运行 HQL 查询时出错

我正在通过命令行运行查询并收到此错误。命令:hive-equery1.hql失败:ParseException行1:0无法识别“query1”附近的输入。'hql'CREATETABLEdcarlo.new_tableASSELECTma.name,ma.address,ma.stateFROMmain_dbASmaWHEREma.dt>=20180301ANDma.dt 最佳答案 使用-f而不是-e从文件运行脚本。hive-fquery1.hqlSource用法:hive-d,--definekey=value应用于Hive的变量

Hadoop:不推荐使用 dfs 但找不到 hdfs 类

我是Hadoop的新手,正在尝试检查HDFS中有哪些数据可用。但是,dfs命令返回一个响应,指示该类已弃用,应使用hdfs:-bash-4.2$hadoopdfs-lsDEPRECATED:Useofthisscripttoexecutehdfscommandisdeprecated.Insteadusethehdfscommandforit.ls:`.':Nosuchfileordirectory但是,当我尝试使用hdfs命令时,我得到了一个Java类查找错误:-bash-4.2$hadoophdfs-lsError:Couldnotfindorloadmainclasshdfs我的

hadoop - 如何将 mapreduce 结果加载到 Hive 中?

我有一个目录,我在其中存储格式为“(integer1,integer2,integer3)”的mapreduce结果,我想将该数据加载到ApacheHive中。首先我创建这样的表:创建表测试(field1int,field2int,field3int);后来我尝试以这种方式加载数据:将路径'/user/myuser/output/test'中的数据加载到表test中;路径没问题,表格加载了好几行,但都是空的(3个字段为NULL)。我该如何解决? 最佳答案 轻松修复。在你的MR程序中按照以下格式写入数据integer1,integer

hadoop - 并行运行 oozie 操作的任何其他选项

目前我的oozie工作流程中有6个操作,如下所示。在MainJob1完成后,所有第一个、第二个和第三个作业应该并行运行。MainJob2完成后,只有第二个和第三个作业应该并行运行。有没有可能解决上述工作流执行方式?....${executionModeeq"DEFAULT"}${executionModeeq"INVALID"}.............................................. 最佳答案 您可以将firstparalleljob、secondparalleljob和thirdparallel

要打开的 Hadoop 3.1.0 端口

好的——我设法拼凑了三台CentOS7笔记本电脑,安装Hadoop3.1.0,并让所有三个节点运行。对我有好处。所以...需要在所有端口上打开哪些端口各种节点?正在检查http://namenode:9870不错的出现“DatanodeInformation”页面并显示所有三个节点启动并运行。此外,在任何设备上运行命令“hdfsdfsadmin-report”node显示所有正在运行的节点。然而...检查“集群的节点”页面在http://namenode:8088只显示名称节点...我是否也应该看到此页面上的所有数据节点?想知道我是否需要打开一些端口或者我的理解的“集群节点”需要更新.

apache-spark - 由于 java.io.FileNotFoundException :/hadoop/yarn/nm-local-dir/usercache/root/appcache/,Google Dataproc 上的 Spark 失败

几个月来,我一直在通过Zeppelin和Dataproc控制台在Dataproc上使用Spark/Hadoop,但最近我遇到了以下错误。Causedby:java.io.FileNotFoundException:/hadoop/yarn/nm-local-dir/usercache/root/appcache/application_1530998908050_0001/blockmgr-9d6a2308-0d52-40f5-8ef3-0abce2083a9c/21/temp_shuffle_3f65e1ca-ba48-4cb0-a2ae-7a81dcdcf466(Nosuchfil

MongoDB 和 Spark : difference between mongo-hadoop and mongo-spark

mongo-hadoop和mongo-spark连接器有什么区别,pymongo是否只能与mango-hadoop一起使用?pymongo是否只能与mongo-hadoop一起使用? 最佳答案 MongoDBConnectorforHadoop是一个库,它允许MongoDB(或其数据格式的备份文件,BSON)用作HadoopMapReduce任务的输入源或输出目标。它旨在提供更大的灵active和性能,并使MongoDB中的数据与Hadoop生态系统的其他部分(包括以下部分)轻松集成:pigSparkmap化简Hadoop流媒体hi

hadoop - AWS Athena 在分区加载后创建缩进并将值移动到错误的列中

我遇到了以下问题:我在没有分区的HDFS中的EMR集群中创建了一个Hive表并向其加载数据。我根据第1段中的表,但带有日期时间的分区列:PARTITIONEDBY(年STRING,月STRING,日STRING)。我将非分区表中的数据加载到分区表中并获得有效结果。我创建了一个Athena数据库和具有与Hive表相同结构的表。我从本地HDFS复制分区文件,并通过awss3sync将所有文件传输到S3空存储桶中。所有文件均已无误地传输,并且传输顺序与HDFS中Hive目录中的顺序相同。我通过MSCKREPAIRTABLE加载分区并且在输出中没有得到任何错误。之后我发现很多值都有缩进,例如需