草庐IT

gnome-shell

全部标签

hadoop - hadoop hive shell 中绝对 URI 中的相对路径

当我尝试从shell提示符下执行.hql文件时,出现以下错误。谁能告诉我我错过了什么?FAILED:ExecutionError,returncode1fromorg.apache.hadoop.hive.ql.exec.DDLTask.MetaException(message:java.lang.IllegalArgumentException:java.net.URISyntaxException:RelativepathinabsoluteURI:hdfs://localhost:9000./=/usr/local/hadoop/usr/MoveQuery.hql包含:crea

Hadoop/Yarn 分布式 shell 示例

我正在尝试运行分布式shell示例(使用Hadoop的SVNcheckout,这就是版本设置为3.0.0-SNAPSHOT的原因):yarnjarshare/hadoop/yarn/hadoop-yarn-applications-distributedshell-3.0.0-SNAPSHOT.jar\-jarshare/hadoop/yarn/hadoop-yarn-applications-distributedshell-3.0.0-SNAPSHOT.jar\org.apache.hadoop.yarn.applications.distributedshell.Client-s

shell - 如何在oozie中执行并行作业

我在HDFS中有一个shell脚本。我已使用以下工作流程在oozie中安排此脚本。工作流程:Actionfailed,errormessage[${wf:errorMessage(wf:lastErrorNode())}]${jobTracker}${nameNode}shell.sh${input_file}HADOOP_USER_NAME=${wf:user()}/user/xxxx/shell_script/lib/shell.sh#shell.sh/user/xxxx/args/${input_file}#${input_file}工作性质nameNode=xxxxxxxxxx

java - 如何运行 Hadoop 0.23.0 源代码示例中给出的分布式 shell 应用程序

我在hadoop0.23.0源代码中找到了一个分布式shell应用程序,谁能帮我运行一下。如何通过编译包含所需jar文件的Client.java和applicationmaster.java将应用程序转换为jar文件。如果有人帮助我解决这个问题或我可以学习的一些资源,那将是一个很大的帮助。 最佳答案 hadoopjar/usr/lib/hadoop-yarn/hadoop-yarn-applications-distributedshell.jarorg.apache.hadoop.yarn.applications.distrib

hadoop - Apache Spark 在 YARN 错误上运行 spark-shell

我从http://spark.apache.org/downloads.html下载:spark-2.1.0-bin-hadoop2.7.tgz.我的HadoopHDFS和YARN以$start-dfs.sh和$start-yarn.sh开头。但是运行$spark-shell--masteryarn--deploy-modeclient给我以下错误:$spark-shell--masteryarn--deploy-modeclientSettingdefaultloglevelto"WARN".Toadjustlogginglevelusesc.setLogLevel(newLevel

ubuntu - "./bin/spark-shell "无法在 ubuntu 14.04 上使用带有 Hadoop 2.6+ 的预构建版本的 Spark 1.6

在Ubuntu14.04上将带有Hadoop2.6+的预构建版本的Spark1.6下载到桌面上。我导航到sparkshell并根据下面给出的链接启动了sparkQuickStartSparkLink使用./bin/spark-shell我收到以下错误。我看到一个针对MacOSX的类似问题here.ashwin@Console:~/Desktop/spark-1.6.0-bin-hadoop2.6$./bin/spark-shelllog4j:WARNNoappenderscouldbefoundforlogger(org.apache.hadoop.metrics2.lib.Mutab

hadoop - 将 HBase 连接到 HDFS 时 Hbase Shell 中的连接被拒绝

我正在尝试将我的HBase连接到HDFS。我有我的hdfsnamenode(bin/hdfsnamenode)和datnode(/bin/hdfsdatanode)正在运行。我还可以启动我的Hbase(sudo./bin/start-hbase.sh)和本地区域服务器(sudo./bin/local-regionservers.shstart12)。但是当我尝试从Hbaseshell执行命令时,出现以下错误:cis655stu@cis655stu-VirtualBox:/teaching/14f-cis655/proj-dtracing/hbase/hbase-0.99.0-SNAPS

hadoop - 带有 'yarn-client' 的 Spark-shell 尝试从错误的位置加载配置

我正在尝试从笔记本电脑启动bin/spark-shell和bin/pyspark,连接到yarn-client中的Yarn集群模式,我得到了同样的错误WARNScriptBasedMapping:Exceptionrunning/etc/hadoop/conf.cloudera.yarn1/topology.py10.0.240.71java.io.IOException:Cannotrunprogram"/etc/hadoop/conf.cloudera.yarn1/topology.py"(indirectory"/Users/eugenezhulenev/projects/clo

shell - 如何使用 Hadoop FS shell 将 hadoop 中的两个文件连接成一个文件?

我正在使用Hadoop0.20.2,如果可能的话,我想使用-catshell命令将两个文件连接成一个文件(来源:http://hadoop.apache.org/common/docs/r0.19.2/hdfs_shell.html)这是我提交的命令(名称已更改):**/path/path/path/hadoop-0.20.2>bin/hadoopfs-cat/user/username/folder/csv1.csv/user/username/folder/csv2.csv>/user/username/folder/outputdirectory/**它返回bash:/user/

hadoop - 如何在客户端模式下使用 YARN 运行 spark-shell?

我在一个15节点的Hadoop集群上安装了spark-1.6.1-bin-hadoop2.6.tgz。所有节点都运行Java1.8.0_72和最新版本的Hadoop。Hadoop集群本身是功能性的,例如YARN可以成功运行各种MapReduce作业。我可以使用以下命令在节点上本地运行SparkShell而不会出现任何问题:$SPARK_HOME/bin/spark-shell。我还可以成功运行一些Spark示例,例如使用YARN和集群模式的SparkPi。但是当我尝试在部署模式为client的YARN上运行SparkShell时,我遇到了问题:hadoopu@hadoop2:~$$SP