草庐IT

single-version-externally-managed

全部标签

hadoop - Apache Hadoop Windows 10 - Datanode、Resource Manager 和 Yarn 在启动时立即关闭

我已经按照教程为Windows设置了ApacheHadoop,可以找到here.我现在遇到Datanode、ResourceManager和Yarncmd窗口的问题,显示打开后所有3秒都关闭,只有Namenode继续运行。这是我到目前为止尝试过的过程:以管理员身份运行CMD使用命令start-all.cmd(这会打开Namenode、Datanode、Yarn和Resourcemanagercmd窗口)Datanode、Yarn和Resourcemanager几乎都在启动后立即给出关闭消息SHUTDOWN_MSG:正在thood-alienware/...关闭ResourceManag

hadoop - 映射减少 : Passing external jar files using libjars option does not work

我的mapreduce程序需要外部jar文件。我正在使用“-libjars”选项提供那些外部jar文件-我使用了hadoop提供的Tool、Configured和ToolRunnerUtilities。publicstaticvoidmain(String[]args)throwsException{intres=ToolRunner.run(newConfiguration(),newMapReduce(),args);System.exit(res);}@Overridepublicintrun(String[]args)throwsException{//Configuratio

scala - 卡夫卡+ Spark 流: Multi topic processing in single job

Kafka中有40个主题和编写的SparkStreaming作业,每个主题处理5个表。sparkstreaming作业的唯一目标是读取5个kafka主题并将其写入相应的5个hdfs路径。大多数时候它工作正常,但有时它会将主题1数据写入其他hdfs路径。下面的代码试图归档一个sparkstreaming作业来处理5个主题并将其写入相应的hdfs,但是这个将主题1数据写入HDFS5而不是HDFS1。请提供您的建议:importjava.text.SimpleDateFormatimportorg.apache.kafka.common.serialization.StringDeseria

java - org.apache.solr.common.SolrException : Bad Request Bad Request request: http://localhost:8080/solr/update? wt=javabin&version=2

请大家帮帮我我正在尝试使用NUTCH抓取网站,但它给我错误“java.io.IOException:Jobfailed!”我正在运行此命令“bin/nutchsolrindexhttp://:8080/solr/crawl/crawldb-linkdbcrawl/linkdbcrawl/segments/*”并且我正在使用NUTCH1.5.1和SOLR3.6.1以及jdkjava-7-openjdk-i386和ubuntu12.04。在hadoop.log存在于NUTCH/log文件夹中显示以下内容:2012-09-1312:56:10,524INFOsolr.SolrIndexer-

hadoop - HBase错误: Server IPC version 8 cannot communicate with client version 4

我使用的是hbase-0.94.9,我试着按照HBase在线书籍的介绍,但是我得到了错误:org.apache.hadoop.hbase.master.HMasterCommandLine:Failedtostartmasterjava.net.ConnectException:Calltolocalhost/127.0.0.1:8020failedonconnectionexception:java.net.ConnectException然后我在网上发现我必须先设置Hadoop,我在Hadoop2.0.5-alpha中使用了start-dfs.sh但是现在我得到这个错误,当我尝试运

hadoop - 无法连接到 Cloudera Manager,未监听端口 7180

如果有人帮助我在AWSEC2上运行cloudera管理器,我将不胜感激。这是我的第一次安装,我的目标是使用AWS免费套餐启动一些节点,并在Hadoop集群和cloudera分布上进行一些培训。我在AWSEC2上使用RedHatRHEL7.2镜像。我正在按照此处的说明进行操作...ClouderaManagerinstallation我已经安装了clouderamanagerOK,然后进入邀请您使用浏览器登录到clouderamanager服务器的屏幕。但这就是问题的开始。该应用程序似乎未在端口7180上监听,因此无法通过网络从另一台计算机进行连接。我什至无法在服务器上进行本地连接,但该

hadoop -version 给我错误的结果为什么? Hadoop 1.2.1

我在hadoop版本1.2.1上执行了以下命令:hadoop-versionvishrant@ubuntu:~$hadoop-versionjavaversion"1.7.0_79"OpenJDKRuntimeEnvironment(IcedTea2.5.5)(7u79-2.5.5-0ubuntu0.12.04.1)OpenJDKServerVM(build24.79-b02,mixedmode)我期待的是hadoop版本,但我的系统上安装了JDK版本。我知道正确的命令是hadoopversion[withouthyphen]但我没有收到错误,而是收到了JDK的版本,为什么?

java - 线程 "main"org.apache.hadoop.ipc.RemoteException : Server IPC version 9 cannot communicate with client version 4. 中的异常如何解决?

我在NetBeansIDE8.0.2中使用hadoop2.7.0和javaoraclejdk1.7.0_79。当我尝试使用Java文件与Hadoop通信时,出现以下错误。是否涉及任何依赖性问题?或者我该如何解决这个错误?我看过相关问题的帖子,但没有一个有助于清楚地传达答案。所以,请帮帮我。谢谢!Exceptioninthread"main"org.apache.hadoop.ipc.RemoteException:ServerIPCversion9cannotcommunicatewithclientversion4atorg.apache.hadoop.ipc.Client.call

hadoop - 运行 "hadoop version"命令时找不到文件/命令。 Hadoop安装

我正在按照MichealNoll教程安装hadoop。我按原样遵循了每一步。但是在root中执行“hadoopversion”命令时,出现两个错误:/usr/local/hadoop/hadoop-common-project/hadoop-common/src/main/bin/hadoop:line26:/usr/local/hadoop/hadoop-common-project/hadoop-common/src/main/bin/../libexec/hadoop-config.sh:Nosuchfileordirectory/usr/local/hadoop/hadoop-

hadoop - 亚马逊 EMR 和 Hive : Getting a "java.io.IOException: Not a file" exception when loading subdirectories to an external table

我正在使用AmazonEMR。我在s3中有一些日志数据,都在同一个桶中,但在不同的子目录下喜欢:"s3://bucketname/2014/08/01/abc/file1.bz""s3://bucketname/2014/08/01/abc/file2.bz""s3://bucketname/2014/08/01/xyz/file1.bz""s3://bucketname/2014/08/01/xyz/file3.bz"我正在使用:Sethive.mapred.supports.subdirectories=true;Setmapred.input.dir.recursive=true