草庐IT

Hadoop-Shell

全部标签

hadoop - HBASE 安装 - 获取 ZOOKEPER 相关错误

我可以转到hbase提示符,但是当我尝试创建表时出现以下错误:ERRORzookeeper.ZooKeeperWatcher:hconnectionReceivedunexpectedKeeperException,re-throwingexceptionorg.apache.zookeeper.KeeperException$ConnectionLossException:KeeperErrorCode=ConnectionLossfor/hbase/masteratorg.apache.zookeeper.KeeperException.create(KeeperException

hadoop - 混淆 hadoop、giraph 和 twister

我正在研究大数据,我的项目由具有文本数据的图表组成。我必须在一个项目本身中计算顶点之间的相似性、跳数概率、连接组件的数量、页面排名向量和随机游走。我在hadoop中实现了它们,但我认为它需要更多时间(图形有2500个节点、4000个边、600个连接的组件需要25分钟)所以什么是实现这些的最佳选择,apachehadoop或apachegiraph或apachetwister? 最佳答案 查找连接组件、页面排名计算和随机游走是迭代算法的示例。传统的Map-Reduce编程模型不是迭代算法(特别是图形算法)的好选择。原因是在map-re

hadoop - 在 Crontab 上安排 Hive 查询

任何人都可以帮助我在Crontab中安排一项工作,该工作将在特定时间执行一个简单的Hive查询并以文本/日志文件的形式提供给我输出。我创建了一个批处理脚本来执行选择查询,但在Crontab中执行时出现错误(“未找到Hive命令”)。但是,相同的脚本通过shell运行良好。下面是我的脚本:ip.sh#!/bin/bashecho"StartingofJob"cd/home/hadoop/work/hive/binhive-e'select*frommytest.empl'echo"Scriptendshere"定时任务表:10****/home/hadoop/work/ip.sh>>/h

如何将字符串分为命令行参数,例如python中的shell?

我在字符串中有命令行参数,我需要将其拆分以馈送到argparse.ArgumentParser.parse_args.我看到文档用途string.split()丰富。但是,在复杂的情况下,这不起作用,例如--foo"spacesinbrakets"--barescaped\spaces在Python中是否有功能?(问Java的类似问题这里).看答案如果您要解析Windows风格的命令行,则shlex.split无法正常工作-打电话subprocess结果的功能将与将字符串直接传递到壳的行为相同。在这种情况下,将像命令行的参数分为Python之类的字符串的最可靠方法是...将命令行参数传递给Py

java - 错误: org. apache.hadoop.mapred.InvalidInputException:输入路径不存在

我是nutch和solr集成方面的新手。我想抓取新的url,所以我在ubuntu中安装了solr4.6.0版和nutch1.6版。首先我从一些配置开始,但我仍然得到这个错误:org.apache.hadoop.mapred.InvalidInputException:Inputpathdoesnotexist:File:/home/cloudera/apache-nutch-1.6/bin/20150529030452/crawl_fetchInputpathdoesnotexist:file:/home/cloudera/apache-nutch-1.6/bin/2015052903

java hadoop : FileReader VS InputStreamReader

我想在hadoophdfs上使用我的java类,现在我必须重写我的函数。问题是,如果我使用InputStreamReader,我的应用会读取错误的值。这是我的代码(所以它的工作,我想使用未注释的代码部分):publicstaticGeoTimeDataCenter[]readCentersArrayFromFile(intiteration){Propertiespro=newProperties();try{pro.load(GeoTimeDataHelper.class.getResourceAsStream("/config.properties"));}catch(Except

hadoop - 无法登录 http ://127. 0.0.1:8080/to ambari

安装HDP2.2.4后,我无法在127.0.0.1:8080登录ambari。尝试使用默认用户名/密码作为admin/admin并一次又一次地弹出。我在尝试运行之前启用了ambari 最佳答案 默认的用户名/密码是maria_dev/maria_dev。请按照officialsite中给出的演练进行操作.您还可以使用ssh进入系统:sshroot@127.0.0.1-p2222在这种情况下,密码将是hadoop。 关于hadoop-无法登录http://127.0.0.1:8080/to

启动Spark-Shell实现词频统计

1.启动spark和Hadoop#根目录下启动Hadoop集群start-all.sh在spark的sbin目录下输入shstart-all.sh2.运行Spark-Shell命令在spark/bin目录下,执行Spark-Shell命令进入Spark-Shell交互式环境spark-shell--master上述命令中,--master表示指定当前连接的Master节点,用于指定Spark的运行模式,下图为master-url可取参数 如需查询Spark-Shell更多的使用方式可以执行“--help”命令 3.运行Spark-Shell读取HDFS文件通过启动Spark-Shell,并且使

hadoop - HDFS 复制因子 - 最小化数据丢失风险

编辑-长话短说:在写入HDFS被认为成功之前,所有副本节点是否必须存储文件(其所有block)?如果是这样,复制因子是否会影响写入延迟?原始问题:在Hadoop2中,我可以通过将dfs.replication属性设置为大于1的值来控制数据block副本的数量(默认值并不总是3in一些hadoop发行版,如EMR)。据我了解,HDFS的行为是同步写入第一个副本,而其他副本则通过管道传输,并且复制以异步方式进行。这个对吗?如果上述情况成立,那么如果第一个节点向namenode发送ack然后在能够完成异步复制之前被陨石击中,则始终存在数据丢失的风险。有没有办法保证至少有X个节点在写入bloc

Hadoop 输入文件名问题

我面临如下问题。我的输入文件夹包含一个名为:/xyz/pqr/job_ip/output_upto_Thu_Apr_23_14:53:05_2015.log的文件当我开始我的hadoop作业时,我的作业无法读取输入如果我更改文件名,请说mv/xyz/pqr/job_ip/output_upto_Thu_Apr_23_14:53:05_2015.log/xyz/pqr/job_ip/output_upto_Thu_Apr_23_145305_2015.log然后我的工作运行正常...当我将文件名保留为output_upto_Thu_Apr_23_14:53:05_2015.log时出现的