草庐IT

auto-start-shell

全部标签

shell - 如何查找文件夹是否存在于 hadoop 中?

我需要查找输入文件夹位置是否存在于hadoop中。我正在使用下面的命令来做同样的事情hadoopfs-test-d查询没有抛出任何错误但也没有输出。我已经检查了它的正确和错误位置。我从文档中了解到,如果位置正确,它应该输出1。 最佳答案 hdfsdfs-test-d不输出任何东西,比如0或1.这是关于退出状态,0代表目录存在时的正常情况。1表示缺少目录。这是一个可以在bash中使用的示例:hdfsdfs-test-d/tmp&&echo'direxists'||echo'sorry,nosuchdir'

scala - 直接从 Spark shell 读取 ORC 文件

我在直接从Sparkshell读取ORC文件时遇到问题。注意:运行Hadoop1.2,和Spark1.2,使用pysparkshell,可以使用spark-shell(运行scala)。我用过这个资源http://docs.hortonworks.com/HDPDocuments/HDP2/HDP-2.2.4/Apache_Spark_Quickstart_v224/content/ch_orc-spark-quickstart.html.frompyspark.sqlimportHiveContexthiveCtx=HiveContext(sc)inputRead=sc.hadoop

java - yarn 异常 : Unauthorized request to start container

我已经在3个集群上设置了hadoop2.2.0。一切顺利。NodeManager和Datanode在每个集群中启动。但是,当我运行wordcount示例时,会发生100%映射并出现以下异常:map100%reduce0%13/11/2809:57:15INFOmapreduce.Job:TaskId:attempt_1385611768688_0001_r_000000_0,Status:FAILEDContainerlaunchfailedforcontainer_1385611768688_0001_01_000003:org.apache.hadoop.yarn.exceptio

shell - get "ERROR: Can' t 从 ZooKeeper 获取主地址; znode data == null"使用 Hbase shell 时

我安装了Hadoop2.2.0和Hbase0.98.0,这是我所做的:$./bin/start-hbase.sh$./bin/hbaseshell2.0.0-p353:001>list然后我得到了这个:ERROR:Can'tgetmasteraddressfromZooKeeper;znodedata==null为什么我会收到这个错误?另一个问题:我需要在运行base之前运行./sbin/start-dfs.sh和./sbin/start-yarn.sh吗?另外,./sbin/start-dfs.sh和./sbin/start-yarn.sh有什么用?这是我的一些conf文档:hbas

shell - 检查HDFS中的目录是否已经存在

我在HDFS中有以下目录结构,/analysis/alertData/logs/YEAR/MONTH/DATE/HOURS即数据以年/月/日/小时的格式存储,按小时计算。我写了一个shell脚本,我在其中传递路径直到"/analysis/alertData/logs"(thiswillvarydependingonwhatproductofdataiamhandling)然后shell脚本遍历年/月/日/小时文件夹并返回最新的路径。例如:DirectoriespresentinHDFShasfollowingstructure:/analysis/alertData/logs/2014

Hadoop:start-dfs.sh 权限被拒绝

我正在笔记本电脑上安装Hadoop。SSH工作正常,但我无法启动hadoop。munichong@GrindPad:~$sshlocalhostWelcometoUbuntu12.10(GNU/Linux3.5.0-25-genericx86_64)*Documentation:https://help.ubuntu.com/0packagescanbeupdated.0updatesaresecurityupdates.Lastlogin:MonMar400:01:362013fromlocalhostmunichong@GrindPad:~$/usr/sbin/start-dfs.

Hadoop框架---HDFS的Shell命令操作

文章目录一、基本语法二、命令大全三、常用命令实操3.1准备工作3.1.1启动Hadoop集群3.1.2-help输出这个命令参数的帮助文档3.1.3创建一个测试文件夹/test3.2上传3.2.1`-moveFromLocal:从本地剪切粘贴到HDFS`3.2.2`-copyFromLocal:从本地文件系统中拷贝文件到HDFS路径去`3.2.3`-put:等同于copyFromLocal,生产中更习惯用put`3.2.4`-appendToFile:追加一个文件到已存在的文件末尾`3.3下载3.3.1`-copyToLocal:从HDFS拷贝到本地`3.3.2`-get:等同于copyToL

php - 在 wamp 服务器中启用 shell_exec()

最近我在wamp服务器上遇到了一个问题。我需要在PHP中使用shell_exec()函数来运行一些外部shell脚本(一些校验和文件)。但在我的wamp服务器中,该功能默认是禁用的。我在谷歌搜索但我找不到解决方案。所以我尝试将该代码放在实时服务器中。但也有同样的问题。我联系了该服务器的技术人员,但他说我们无法启用shell_script。这是安全暴力。所以唯一的方法是在wamp服务器中尝试...如何启用shell_exec()或exec()..? 最佳答案 以下行是我读到的关于这个问题的最佳内容:“您需要在位于\Apache2\bi

php - session_start() php 中的 UnexpectedValueException 导致 SPLObjectStorage 序列化失败

为什么UnexpectedValueException会在session_start()中抛出?我的对象具有SPLObjectstorage的属性。该对象被分配给session,如$_SESSION['foo']=$barObject;我怀疑内部session序列化面临解码问题。我将session存储在数据库中,看起来它正在序列化objectStorage但无法对其进行解码。示例session数据self|O:4:"User":8:{s:5:"�*�id";N;s:7:"�*�nick";N;s:13:"�*�reputation";i:1;s:11:"�*�password";N;s

php - shell_exec 不在后台运行,还有其他解决方案吗?

我在CentOS上的apache中使用php。我需要为用户提供服务,他们可以通过单击删除大文件。尝试使用shell_exec。但它不在后台运行。它运行并让用户等待。我的命令:$D_command="rm-rfvideos/'$Mdelete'";shell_exec($D_command);谢谢! 最佳答案 ass&在命令的末尾。$D_command="nohuprm-rfvideos/'$Mdelete'>/log/deletedfile.log2>&1&"; 关于php-shell_