草庐IT

windows - 在没有 Cygwin 的情况下,如何在 WIndows cmdline 上将文件传输到 Hadoop FS (HDFS)?

我对Hadoop的经验为零,但突然不得不在Windows上与Spark一起使用它。我的问题在这里被问过几次,但我永远无法完全理解我需要的语法,是这个。我正在尝试传输一个名为:gensortText.txt假设在c:\gensortText.txt我知道您可以使用hadoopfs-copyFromLocal。我试过这些东西:hadoopfs-copyFromLocalC:\gensortText.txthdfs://0.0.0.0:19000ERROR:RelativepathinabsoluteURI.hadoopfs-copyFromLocalC:\gensortOutText.tx

windows - 在 Windows (Cygwin) 上安装 Hive (Hadoop)

我刚刚使用cygwin在Windows上安装了hadoop,效果很好,现在我正在安装Hive.我将其运行为:bin/hive-hiveconfjava.io.tmpdir=/cygdrive/c/cygwin/tmpORbin/hive-hiveconfjava.io.tmpdir=/tmp(两者都有同样的问题)因为我发现Windows命名约定存在一个错误(https://issues.apache.org/jira/browse/HIVE-2388...)当我运行上面的命令时,Hive似乎加载正常,但是当我输入“showtables;”时我没有得到任何响应。这对所有查询都是一样的。C

hadoop - 无法使用 cygwin 为 hadoop 设置 JAVA_HOME

我正在尝试在hadoop的env.sh中设置JAVA_HOME。我在Windows7上使用cygwin。我已将env.sh编辑为:exportJAVA_HOME="/cygdrive/C/ProgramFiles/Java/jdk1.6.0_26"在环境变量中,我将JAVA_HOME设置为C:\ProgramFiles\Java\jdk1.6.0_26路径为%JAVA_HOME%\bin;c:\cygwin\bin;c:\cygwin\usr\sbin但我仍然遇到这些错误。/cygdrive/d/hadoop-1.2.1/libexec/../conf/hadoop-env.sh:li

Hadoop 1.0.4 - Windows 7 + cygwin - Tasktracker 抛出异常

执行mapreduce程序时,Tasktracker不工作。tasktraker日志:2014-01-3115:58:51,021INFOorg.apache.hadoop.mapred.JvmManager:InJvmRunnerconstructedJVMID:jvm_201401311556_0001_m_-5239237092014-01-3115:58:51,021INFOorg.apache.hadoop.mapred.JvmManager:JVMRunnerjvm_201401311556_0001_m_-523923709spawned.2014-01-3115:58:

Hadoop Cygwin Windows 7 JAVA_HOME 路径未找到且命令未找到

我已经通过谷歌尝试了所有可能的解决方案,但仍然无法正常工作我没有从hadoop-env.sh和bin/java中得到这个命令未找到的错误,不是这样的目录,这里是hadoop-env.sh导出JAVA_HOME=/cygdrive/c/Java/jre6导出JAVA_HOME=c:/Java/jre6下面是我的错误-bash-4.1$bin/hadoopnamenode-format/usr/local/hadoop-1.2.1/libexec/../conf/hadoop-env.sh:第2行:$'\r':找不到命令/usr/local/hadoop-1.2.1/libexec/../

hadoop - 通过 Cygwin 在 Windows 7 设置中运行 Hadoop - PriviledgedActionException 为 :PC cause:java. io.IOException:无法设置路径权限:

我使用Hadoop发行版1.1.2。当我尝试运行示例wordcount例程时,出现以下错误。输入命令:'D:/Files/hadoop-1.1.2/hadoop-1.1.2/bin/hadoop'jar'D:/Files/hadoop-1.1.2/hadoop-1.1.2/hadoop-examples-1.1.2.jar'wordcountinputoutput结果:13/07/0311:02:42WARNutil.NativeCodeLoader:Unabletoloadnative-hadooplibraryforyourplatform...usingbuiltin-javac

python - Hadoop、gcloud 实用程序、Cygwin 中的 bdutils。无连接,无法识别命令

不确定Hadoop论坛在哪里...这似乎是最接近的赌注。我正在尝试设置集群以运行Hortonworks平台,这意味着我需要bdutil正常工作。但是,虽然我可以在引导文件夹中运行install.py脚本,但我无法使任何gcloud或bdutil函数正常工作。我最初认为64位python安装和32位GCSDK之间存在不兼容...所以,安装了32位Python2.7并通过临时删除具有64位安装路径的环境变量来强制Cygwin使用此路径.下面是我的错误日志,以及有关目录内容的信息。将不胜感激。我已经为此奋斗了三天。--KNOWSWHICHPYTHONTOUSE$whichpython/cyg

hadoop - 由于权限失败,无法在 cygwin 上启动 tasktracker

我在Windows7下的cygwin上设置了hadoop1.1.1。dfs组件启动正常(start-dfs.sh或start-all.sh两者),jobtracker也是如此(启动mapred.sh),但tasktracker无法正常启动启动和关闭时出现与taskTracker路径权限相关的错误(无法设置0755)。我在Problemstartingtasktrackerinhadoopunderwindows看到过类似的问题但没有找到任何解决方案或指导如何解决它。也尝试过许多网站的解决方案,但都是徒劳的。这是日志输出2013-01-0215:51:31,836INFOorg.apac

windows-7 - 使用 cygwin 为 hadoop 安装 ssh

在我解释我遇到的问题之前,需要让您知道我对CYGWIN和类似的东西是全新的。我使用CYGWIN安装SSH的目的是在Windows7x64机器上设置Hadoop。我正在尝试执行https://gist.github.com/tariqmislam/2159173上给出的步骤.但是我无法提供空白密码。以下是相同的日志。任何帮助将不胜感激。$chmod+r/etc/密码$chmodu+w/etc/密码$chmod+r/etc/组$chmodu+w/etc/组$chmod755/变量$touch/var/log/sshd.log$chmod664/var/log/sshd.log$ssh主机配

maven - 是否可以在没有 Cygwin 的情况下在 Windows 上以本地模式运行 Hadoop 作业(如 WordCount 示例)?

我有Windows7、Java8、Maven和Eclipse。我创建了一个Maven项目并使用了与here几乎完全相同的代码.这只是一个简单的“字数统计”示例。我尝试从Eclipse启动“驱动程序”程序,我提供命令行参数(输入文件和输出目录)并收到以下错误:Exceptioninthread"main"java.lang.NullPointerExceptionatjava.lang.ProcessBuilder.start(ProcessBuilder.java:1012)atorg.apache.hadoop.util.Shell.runCommand(Shell.java:404