草庐IT

network-tools

全部标签

Hadoop java.net.SocketException : Network is unreachable

我在namenode节点上的4节点hadoop集群中执行此命令:hadoopfs-ls/但是显示错误:ls:Failedonlocalexception:java.net.SocketException:Networkisunreachable;HostDetails:localhostis"namenode/172.16.1.2";destinationhostis:"namenode":9000;核心站点.xmlfs.defaultFShdfs://namenode:9000cat/etc/hosts:172.16.1.2namenode172.16.1.3datanode1172

java - Hadoop编译错误: Could not find or load main class com. sun.tools.javac.Main

我正在尝试使用HadoopMapReduce编译简单的WordCount.java程序,使用以下命令:hadoopcom.sun.tools.javac.MainWordCount.java但我不断收到消息:Error:Couldnotfindorloadmainclasscom.sun.tools.javac.Main我的导出如下:exportJAVA_HOME=/Library/Java/JavaVirtualMachine/jdk1.8.0_101.jdk/Contents/HomeexportHADOOP_HOME=/usr/local/Cellar/hadoop/2.7.1e

hadoop - sqoop 错误 [主] tool.ImportTool

您好,当我尝试将MySql表导入hdfs时出现错误:sqoopimport--connectjdbc:mysql://dba-virtual-machine/test--usernamesocio--tabletextlines--columnsline--target-dir/textlines2014-06-1607:43:24,308INFO[main]manager.MySQLManager:PreparingtouseaMySQLstreamingresultset.2014-06-1607:43:24,319INFO[main]tool.CodeGenTool:Beginn

networking - 关于 Hadoop 网络系统调用

由于Socket在hadoopsrc中使用,猜测它是发送/接收消息和文件的TCP连接,对吗?JVM如何将这些Socket实例转换为Linux系统调用,是socket/send还是select/poll?如果都是关于select/poll,我仍然可以通过相对套接字系统调用获取ip/port,对吧?当我在terasort(1个主站,3个从站)期间收集所有sys_calls时,我得到了罕见的连接/接受/套接字sys_calls,并且它们在sockaddr结构中没有任何LANip(0或奇怪的,IPv4).有一堆select/pollsys_calls,这合理吗? 最

hadoop - 使用 Parquet-tools.jar 从 Parquet 文件转储特定列

我想使用parquet-tools-1.8.1.jar仅转储某些文本文件中的特定列。但无法这样做。我正在尝试以下命令。请注意我的列名有正斜杠。parquet-tools-1.8.1.jardump--column'dir1/log1/job12121''/hdfs-path/to/parquetfilewithspace.parquet'>/home/local/parquet/output.text 最佳答案 运行hadoopjarparquet-tools-1.8.1.jarparquet.tools.Maindump--col

java - 无法找到或加载主类 com.sun.tools.javac.Main hadoop mapreduce

我正在尝试学习MapReduce,但我现在有点迷茫。http://hadoop.apache.org/docs/r2.6.0/hadoop-mapreduce-client/hadoop-mapreduce-client-core/MapReduceTutorial.html#Usage特别是这组指令:CompileWordCount.javaandcreateajar:$bin/hadoopcom.sun.tools.javac.MainWordCount.java当我在终端中输入hadoop时,我能够看到提供参数的“帮助”,所以我相信我已经安装了hadoop。当我输入命令时:编译W

apache-spark - Spark2.3.0-bin-without-hadoop,docker-image-tool.sh 缺少 hadoop jar

我正在尝试构建用于在kubernetes中部署的spark容器镜像,我怀疑我做错了。运行图像时出现以下错误:/opt/spark/conf/spark-env.sh:line72:/home/me/hadoop_s3/bin/hadoop:NosuchfileordirectoryError:AJNIerrorhasoccurred,pleasecheckyourinstallationandtryagainExceptioninthread"main"java.lang.NoClassDefFoundError:org/slf4j/Loggeratjava.lang.Class.ge

hadoop - 使用命令行 parquet-tools 查看 parquet 中的模式

我正在尝试运行parquet-tools命令仅查看我的Parquet文件的文件模式。我目前正在运行:$parquet-toolsmeta/tmp/my-file.parquet但这会显示文件架构加上数百个行组。我不想看到行组,只想看到文件架构。 最佳答案 尝试parquet-toolsschema/tmp/my-file.parquet 关于hadoop-使用命令行parquet-tools查看parquet中的模式,我们在StackOverflow上找到一个类似的问题:

java - Hadoop 上的错误 : Could not find or load main class org. apache.hadoop.hdfs.tools.GetConf

Error:Couldnotfindorloadmainclassorg.apache.hadoop.hdfs.tools.GetConf在[]上启动名称节点localhost:启动namenode,记录到/usr/local/hadoop/hadoop-2.6.0/logs/hadoop-ingreens-namenode-ingreens-desktop.outlocalhost:启动datanode,记录到/usr/local/hadoop/hadoop-2.6.0/logs/hadoop-ingreens-datanode-ingreens-desktop.out错误:无法找到

hadoop - 在cloudera中安装apache hadoop-tools

我有cloudera5.14开发环境。我想在cloudera发行版中安装apachehadoop-tools(link)。具体来说,我需要hadoop-resourceestimator(link)。没有可用的文档说明如何安装相同的.我们将不胜感激任何潜在客户。 最佳答案 AFAIKcdh5.14.x基于旧的hadoop版本2.6.0,它没有resourceestimator工具。它可用但在CDH6中不受支持(“不支持”与“不可用”不同)。你可以在CDH6.x发行版中找到resourceestimator,-rw-r--r--1ro