草庐IT

Cloudera-scm-server

全部标签

xml - 可以将 HCatalog 与 XML 一起使用吗? -- 在 Cloudera VM 上执行 ETL

我正在处理一个大数据类的项目,我已经在本地安装了ClouderaQuickstartVM以在我的数据集上运行一些基本任务并熟悉一些工具。我正在学习一个教程,其中涉及将数据集移动到HDFS,基于数据集文件创建一个HCatalog表,然后在该表上运行Hive和/或Pig命令。问题是我的数据是一个大的XML文件,HCatalog中的标准分隔符选项不适用。有没有办法将XML导入HCatalog?如果不是,在我的XML数据集上使用Hive或Pig的最佳方法是什么?编辑:我的文件来自公共(public)StackOverflow数据集。我正在使用posts.xml文件。它非常大(25GB),我无法

hadoop - 如何在 Cloudera 的 Cassandra 中启用节俭?

enterimagedescriptionhere我是Cassandra和cloudera编程的新手。我有错误“没有按要求启动RPC服务器,使用JMX(存储服务->启动rpc或nodetool(enablethrift)来启动它”。我从几个小时开始就在尝试启用盗窃使用nodetool但徒劳无功。我在Cassandra位置找到了一个文件“Enablethrift.html”,但我不知道该怎么做。请帮忙 最佳答案 更改cassandra.yaml:start_rpc:false到start_rpc:true

hadoop - 从表名中删除 Cloudera Impala

我是Impala的新手,我正在尝试了解如何从表中删除记录...我试过寻找删除命令,但没有找到完全可以理解的说明...这是我的表结构:createtableInstalls(BrandIDINT,PublisherIDINT,InstallDateSTRING,HourNumINT,CountrySTRING,InstallsINT)PARTITIONEDBY(dayINT,monthINT,yearINT)STOREDASPARQUET在Hadoop中可以删除吗?语法是如何工作的?任何帮助对我来说都是一个很大的帮助...谢谢:) 最佳答案

hadoop - Cloudera 包版本含义

我正在浏览cloudera包组件的详细信息。在版本详细信息中,我无​​法理解cloudera添加到版本信息中的最后一个数字是什么。示例:LINK组件包版本ApacheAvroavro-1.7.6+cdh5.5.4+118 最佳答案 包版本中的最后一个数字是提交数。您可以在表中的更改文件部分找到提交。 关于hadoop-Cloudera包版本含义,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/ques

hadoop - "No common protection layer between client and server"尝试与 Kerberized Hadoop 集群通信时

我正在尝试以编程方式与Kerberized(CDH5.3/HDFS2.5.0)的Hadoop集群进行通信。我在客户端有一个有效的Kerberostoken。但是我收到如下错误,“客户端和服务器之间没有公共(public)保护层”。这个错误是什么意思,有什么方法可以修复或解决它吗?这与HDFS-5688有关吗??该票似乎暗示必须设置属性“hadoop.rpc.protection”,大概是“身份验证”(也根据例如this)。这是否需要在集群中的所有服务器上设置,然后集群反弹?我无法轻松访问集群,因此我需要了解“hadoop.rpc.protection”是否是真正的原因。看起来'auth

hadoop - Hbase 错误 java.lang.RuntimeException : Unable to run quorum server

我无法启动Hbase,每当我启动时,我只会在jps中获得Hmaster和Hregionserver。Hquorompeer不断丢失。我检查了日志,但出现以下错误:java.lang.RuntimeException:Unabletorunquorumserveratorg.apache.zookeeper.server.quorum.QuorumPeer.loadDataBase(QuorumPeer.java:454)atorg.apache.zookeeper.server.quorum.QuorumPeer.start(QuorumPeer.java:409)atorg.apac

Nginx的server块外层的常见配置语句的解读(主要是http块的配置语句解读)

自己写的与Nginx有关的几篇重量级博文详情请参见链接https://blog.csdn.net/wenhao_ir/article/details/135023881有下面的Nginx配置:worker_processesauto;worker_rlimit_nofile51200;events{useepoll;worker_connections51200;multi_accepton;}http{includemime.types;default_typeapplication/octet-stream;server_names_hash_bucket_size512;client_m

java - 通过 Java 以编程方式设置 "hbase.server.keyvalue.maxsize"

我正在通过JavaSpringboot执行hbase操作。我遇到了错误“大小为10762275的单元格超出了10485760字节的限制”。我在某处了解到有关增加单元格大小的信息,即需要在hbase-site.xml中将“hbase.server.keyvalue.maxsize”设置为所需的大小才能解决此问题。我添加了此属性并解决了问题。但是我想通过我的Java代码添加此属性,因为我可能无法在生产中访问hbase-site.xml。我设置属性的Configuration方法是:publicConfigurationcreateHbaseConfiguration(){Configura

hadoop - 如何将 Cloudera Hadoop "vbox"VMDK 转换为 VirtualBox VDI

大家好:我正在尝试在Virtualbox中运行ClouderaHadoopVM。首先,我注意到下载的是一个.vmdk文件。当然,这个后缀是针对VMWare的,所以有点奇怪。幸运的是,我在这里找到了关于如何将clouderavmdk转换为虚拟box文件的教程:http://www.ubuntugeek.com/howto-convert-vmware-image-to-virtualbox-image.html.但是,当我尝试使用convertdd将vmdk文件转换为虚拟box文件时,最终收到一条消息“无法写入磁盘镜像“cdh.vdi”VERR_DISK_FULL”所以我的问题是,如何在

java - 历史服务器未在 cloudera Hadoop 上启动

我已经按照here中给出的说明设置了“hadoop”.我成功下载并部署了它,并且能够运行除historyserver之外的所有守护进程并运行示例程序。当我运行sbin/yarn-daemon.shstarthistoryserver时,显示以下错误。Exceptioninthread"main"java.lang.NoClassDefFoundError:historyserverCausedby:java.lang.ClassNotFoundException:historyserveratjava.net.URLClassLoader$1.run(URLClassLoader.ja