草庐IT

hadoop - Spark : yarn cluster mode can't read hdfs path (No such file or directory)

我在yarn模式下使用spark提交,但我收到了这个错误:显然我的输入路径hdfs://缺少一个'/'我正在通过hdfs://master:8020/usr/jimmy/Test/,但是日志输出是日志文件中的hdfs:/master:8020/usr/jimmy/Test/Personal1(Personal1在我的代码中指定)缺少的'/'显然是问题所在我能做什么?请帮帮我我的命令:./bin/spark-submit--masteryarn-cluster--classMovie.Movies/usr/jimmy/Move.jarhdfs://master:8020/usr/jimm

hadoop - Hadoop 2.7在windows 7 64位启动时 : Name or service not knownstname localhost

我正在使用Cygwin在Windows764位上安装Hadoop。成功格式化Hadoop后,我想使用以下命令启动它:启动-dfs.sh。但它报告为:$sbin/start-dfs.sh17/03/2617:35:27WARNutil.NativeCodeLoader:Unabletoloadnative-hadooplibraryforyourplatform...usingbuiltin-javaclasseswhereapplicable]tartingnamenodeson[localhost:Nameorservicenotknownstnamelocalhostalwang@

hadoop - hdfs ls on directory 返回 No such file or directory 错误

HDFSls在以下两个目录上返回Nosuchfileordirectory错误。[mybox]$hdfsdfs-ls/data/tdc/dv1/corp/base/dpp/raw/load_date=2018-05-01/|grepTenantdrwxr-xr-x-tdcdv1rtdcdv1c02018-05-0118:28/data/tdc/dv1/corp/base/dpp/raw/load_date=2018-05-01/rtng_ky=Access.NBNOrder.Amend.Info.{Tenant}.Rejected.v2.eventdrwxr-xr-x-tdcdv1rt

linux - hadoop 配置 : couldn load or find main class org. apache.hadoop

我正在尝试学习hadoop,我正在学习pluralsight的“hadoop构建block”类(class),我正在尝试通过伪分布式模式运行hadoop,当我运行以下命令时:bin/hadoopjarshare/hadoop/mapreduce/hadoop-mapreduce-examples-3.0.3.jargrep输入输出'dfs[a-z.]+'我得到以下输出:Applicationapplication_1530031734419_0001failed2timesduetoAMContainerforappattempt_1530031734419_0001_000002ex

hadoop - Hive 3.1.1安装问题: Cannot find hadoop installation: $HADOOP_HOME or $HADOOP_PREFIX must be set or hadoop must be in the path

感谢有关tutorialspoint和stackoverflow的有用信息,我几乎完成了在OracleVirtualBox上的Ubuntu上安装Hive3.1.1和Hadoop3.0.3。我尝试从$HIVE_HOME运行“bin/hive”并收到以下错误:"Cannotfindhadoopinstallation:$HADOOP_HOMEor$HADOOP_PREFIXmustbesetorhadoopmustbeinthepath."我编辑了bashrc以包括:exportHADOOP_HOME=/usr/local/hadoop....exportPATH=$PATH:$HADOO

ubuntu - 安装hadoop时如何修复 "Error: Could not find or load main class ” -Djava.library.path=.usr.local.hadoop.lib”

我正在尝试在Ubuntu上安装Hadoop2.9.2。我在~/.bashrc和env.sh文件中设置了相同的JAVA_HOME路径。在hadoop_store下使用正确的路径为数据节点和名称节点创建了两个单独的目录。Java版本是“java-11-openjdk-amd64”。在hadoop文件系统中格式化namenode时,我仍然面临错误。请帮助我解决它。指向我一直遵循其说明的页面的链接。https://www.digitalvidya.com/blog/install-hadoop-on-ubuntu-and-run-your-first-mapreduce-program/这是错

hadoop - 使用哪个 : Custom datatype or TwoDArrayWritable

为了发出2个矩阵作为键值对:Key-MatrixA值-矩阵B。我应该创建一个自定义数据类型还是可以直接使用TwoDArrayWritable?那么自定义类中的compareTo()方法呢? 最佳答案 您肯定需要为您的Key编写一个自定义类,因为TwoDArrayWritable没有实现WritableComparable(即使您只是扩展TwoDArrayWritable类添加接口(interface)和compareTo方法)。至于是否应该在自定义类上使用TwoDArrayWritable-取决于几个因素(在我看来):您的数组的大小

bash - Hadoop 启动-all.sh 错误 :No such file or directory

我在成功创建名称节点后,在尝试启动名称节点时遇到了这个问题。对我来说,它似乎正在尝试登录到一个不存在的文件。我如何更改我的设置以将脚本日志定向到正确的目录?bash-3.2$start-all.shstartingnamenode,loggingto/usr/local/bin/../logs/hadoop-Yili-namenode-wifi169-116.bucknell.edu.outnice:/usr/local/bin/../bin/hadoop:Nosuchfileordirectorylocalhost:startingdatanode,loggingto/usr/loc

hadoop - 无法在 MESOS 框架 : Could not find or load main class org. apache.mesos.hdfs.scheduler.Main 上运行 HDFS

我尝试按照https://github.com/mesosphere/hdfs中提到的步骤进行操作.当我运行./bin/hdfs-mesos时,出现以下错误:Error:Couldnotfindorloadmainclassorg.apache.mesos.hdfs.scheduler.Main有谁知道我该如何解决这个错误? 最佳答案 为了运行mesos-hdfs,需要构建它。githubrepo仅包含源相同标记的版本。按照以下步骤操作:gitclonegit@github.com:mesosphere/hdfs.gitcdhdfs

excel - 在 Mac 中使用 ODBC 连接从 Excel 查询 Hive 时出现 HortonWorks “Table or view not found”

我将Hortonworks沙箱2.1与ApacheHiveODBC驱动程序2.1和iODBC一起使用。当我使用iODBC软件测试时,ODBC连接成功。但是,当我打开excel并使用Microsoft查询将数据返回到excel电子表格时,我在运行SQLSELECTquery时遇到此错误:[Hortonworks][SQLEngine](31740)Tableorviewnotfound:HIVE.default.tweetsbi.我可以查看数据库中的表,但无法查看其中的内容。每当我按运行时,我都会收到上述错误。我在Excel2011和2016中遇到同样的错误