草庐IT

find_path

全部标签

hadoop - 错误 terasort.TeraSort : Input path does not exist: maprfs:/user/user01/–DXmx1024m

在通过修改参数运行terasort应用程序时,我收到以下错误。15/05/2421:41:42ERRORterasort.TeraSort:Inputpathdoesnotexist:maprfs:/user/user01/–DXmx1024m我正在运行用于执行慢跑的命令$hadoopjar/opt/mapr/hadoop/hadoop-0.20.2/hadoop-0.20.2-dev-\examples.jarterasort–DXmx1024m–Dmapred.reduce.tasks=2\-Dio.sort.mb=1/user/user01/6/TERA_IN/user/user

windows - "yarn resourcemanager"产生 "The system cannot find the batch label specified - resourcemanager"

我在Windows64上以伪分布式模式运行hadoop2.7.1,无法运行yarn。每当我尝试通过yarnresourcemanager启动它时,我都会得到以下输出:Thesystemcannotfindthebatchlabelspecified-resourcemanagerUsage:java[-options]class[args...](toexecuteaclass)orjava[-options]-jarjarfile[args...](toexecuteajarfile)whereoptionsinclude:-d32usea32-bitdatamodelifavail

X Path用于指定类的DIV和仅一种样式属性

我想编写一个XPATH以识别具有类foo和display:block的DIV。我写div[@class="foo"and@style="*display:block*"]但这行不通。使用正确吗?在Regex表达式中使用星号是否正确?看答案您的XPath正在寻找@style="*display:block*",这意味着完全等于内部引号的价值。利用contains()相反,仅供参考:也有starts-with()方法//div[@class='foo'][contains(@style,'display:block')]使用这种定位器存在问题,因为有时可以看到元素,尽管没有样式display:bl

hadoop - 将数据从 S3 加载到位于 EMR 中 S3 的外部 Hive 表时出现 "Path is not legal"错误

我有一个运行Hive的EMR集群。我在S3上有一个这样定义的外部表:+-----------------------------------------------------------------+|CREATEEXTERNALTABLE`blah`(||`blah1`string,||`blah2`string)||PARTITIONEDBY(||`blah3`string,||`blah4`string,||ROWFORMATDELIMITED||FIELDSTERMINATEDBY'\t'||STOREDASINPUTFORMAT||'org.apache.hadoop.ma

hadoop - 给定 --driver-class-path 时,spark 找不到 spark-class-launcher-output 文件

我正在尝试让spark与aws一起玩得开心。在Windows环境中工作。无论我尝试过哪些选项,都永远找不到NativeS3类。目前,如果我使用:spark-shell--packagescom.amazonaws:aws-java-sdk-s3:1.10.38,com.amazonaws:aws-java-sdk-core:1.10.38,org.apache。hadoop:hadoop-aws:2.7.1作为我的命令,然后我将下载文件并可以使用s3,但是感觉很老套,每次下载它们都不理想。在另一个人的帮助下,我一直在尝试其他选项,结果是:>spark-shell--driver-cla

java - 使用 Cloudera 5.14 和 Spark2 : Livy can't find its own JAR files 配置 Livy

我是Cloudera的新手,正在尝试将工作负载从运行Ambari和Livy和Spark2.2.x的HDP服务器转移到具有类似设置的CDH5服务器。由于Livy不是Cloudera的组件,我使用的是他们网站上的0.5.0-incubating版本,在与YARN、Spark和HDFSmasters相同的服务器之一上运行它。长话短说,当我尝试提交给Livy时,我收到以下错误消息:Diagnostics:Filefile:/home/livy/livy-0.5.0-incubating-bin/rsc-jars/livy-rsc-0.5.0-incubating.jardoesnotexist

hadoop - 有没有办法在 pig 脚本中检查 "Path or file exists"

在我的hadoop环境中,输出目录是动态创建的。因此,我想动态地读取输出目录,如果存在路径或文件,则执行此操作,否则执行此操作。那么有什么方法可以检查pig脚本中的“路径或文件是否存在”?? 最佳答案 在Pig中,您可以运行shell命令来测试路径是否存在,如果存在则返回该路径,否则返回其他始终可用的空数据路径。然后依赖Pig的参数替换。例如:%declareemptyPath'/user/me/emptyData.csv'%declarerequestedPath'/user/me/realData.csv'%declareact

Hadoop:格式化名称节点时出错 - 'Could not find or load main class namenodes'

在我安装了上传hadoop所需的一切之后(win-7-64位上的unix),我得到了这个错误(粗体):roeygol@roeygol-PC/etc/hadoop-2.5.1/bin$./hdfsnamenodes-formatError:Couldnotfindorloadmainclassnamenodes我按要求定义了所需的节点和所有其他配置,我该如何解决这个问题? 最佳答案 hdfsnamenode-formatits"namenode"not"namenodes" 关于Hadoo

Hadoop 和 JZMQ - java.library.path 中没有 jzmq

我正在尝试让JZMQ代码在Hadoop集群上的一个节点上运行。我在该节点上的-/usr/local/lib目录下安装了必要的nativejmzq库文件。这是列表-libjzmq.alibjzmq.lalibjzmq.solibjzmq.so.0libjzmq.so.0.0.0libzmq.alibzmq.lalibzmq.solibzmq.so.3libzmq.so.3.0.0pkgconfig在我的shell脚本中,如果我运行下面的Java命令,它绝对可以正常工作-java-Djava.library.path=/usr/local/lib-classpathclass/:lib/:

hadoop - HappyBase - 是否有 find_one 或 scan_one 的等价物?

我正在为其制作UI的特定HBase表中的所有行恰好具有相同的列,并且在可预见的将来也会如此。我希望我的html数据可视化应用程序简单地查询单个随机行以记录列名,并将这个列名列表放入一个变量中以在整个程序中引用。我在HappyBase的文档中没有看到任何与find_one或scan_one等价的东西。实现此目标的最佳方法是什么? 最佳答案 这将只获取第一行:row=next(table.scan(limit=1))此外,您可以指定一个过滤字符串以避免检索值,这仅在您的值很大并且您经常执行此查询时才值得。