草庐IT

data_files

全部标签

java - Docker 和 Cloudera 快速入门 : How to run own jar-file?

我安装了Docker容器并进行了后续步骤:dockerpullcloudera/quickstart:latestdockerimages#notethehashoftheimageandsubstituteitbelowdockerrun--privileged=true\--hostname=quickstart.cloudera\-t-i${HASH}\/usr/bin/docker-quickstart所以,现在我知道了:Cloudera正在运行。但是我看不到任何本地文件,那么如何加载我自己的文件,尤其是jar文件以使用Hadoop运行它? 最佳答案

hadoop - Windows 平台上是否有 Hortonwork Data 平台的管理器

大家好,我是Hortonworks数据平台的新手。我在WindowsServer2012R2上安装了HDP2.4。截至目前,我正在命令提示符下运行我的Pig作业,但我想知道Cloudera中是否有像HUE这样的编辑器和像clouderaManager这样的HortonsManager。我在Windows操作系统上工作,所以我认为Hortonworks的Ambari也不支持。请在这方面帮助我。 最佳答案 像clouderamanager一样,对于hortonworks,ambari-service是存在的,但它仅适用于基于ubuntu

论文笔记:CellSense: Human Mobility Recovery via Cellular Network Data Enhancement

1 intro1.1背景1.1.1 蜂窝计费记录(CBR)人类移动性在蜂窝网络上的研究近些年得到了显著关注,这主要是因为手机的高渗透率和收集手机数据的边际成本低蜂窝服务提供商收集蜂窝计费记录(CBR)用于计费目的,例如电话、短信和互联网访问这些记录可以被重新利用来感知用户的位置与仅涉及用户电话和短信通话记录的通话详单记录(CDR)相比,CBR是一个更通用的数据集依靠网络运营商收集的各种CBR数据集,研究人员广泛研究了人类移动性感知集体移动性,如流量和旅行时间个人移动性,如通勤模式和用户空间画像这些都是基于统计方法的,例如隐马尔可夫模型或条件随机场文章地址天数大小HumanMobilityMod

java - 使用 Cloudera 5.14 和 Spark2 : Livy can't find its own JAR files 配置 Livy

我是Cloudera的新手,正在尝试将工作负载从运行Ambari和Livy和Spark2.2.x的HDP服务器转移到具有类似设置的CDH5服务器。由于Livy不是Cloudera的组件,我使用的是他们网站上的0.5.0-incubating版本,在与YARN、Spark和HDFSmasters相同的服务器之一上运行它。长话短说,当我尝试提交给Livy时,我收到以下错误消息:Diagnostics:Filefile:/home/livy/livy-0.5.0-incubating-bin/rsc-jars/livy-rsc-0.5.0-incubating.jardoesnotexist

apache-spark - Spark 独立集群 :Configuring Distributed File System

我刚刚从Spark本地设置迁移到Spark独立集群。显然,加载和保存文件不再有效。我了解我需要使用Hadoop来保存和加载文件。我的Spark安装是spark-2.2.1-bin-hadoop2.7问题1:我仍然需要单独下载、安装和配置Hadoop以与我的独立Spark集群一起工作,我是否正确?问题2:使用Hadoop运行和使用Yarn运行有什么区别?...哪个更容易安装和配置(假设数据负载相当轻)? 最佳答案 A1。正确的。你提到的包只是打包了指定版本的hadoop客户端,如果你想使用hdfs,你仍然需要安装hadoop。A2。使

spring - 我如何使用带有注解驱动配置的 Spring Data HBase

我对SpringData和HBase很感兴趣。我将这个jar包含在我的pom中:org.springframework.dataspring-data-hadoop1.0.1.RELEASE我看到somereferences关于使用HbaseTemplate类。这些例子都有基于XML的SpringHBase配置。我正在使用注释基础配置,//defaultHBaseconfiguration//wirehbaseconfiguration(usingdefaultname'hbaseConfiguration')intothetemplate我如何通过注释来做到这一点,例如:@Bean@

hadoop - 有没有办法在 pig 脚本中检查 "Path or file exists"

在我的hadoop环境中,输出目录是动态创建的。因此,我想动态地读取输出目录,如果存在路径或文件,则执行此操作,否则执行此操作。那么有什么方法可以检查pig脚本中的“路径或文件是否存在”?? 最佳答案 在Pig中,您可以运行shell命令来测试路径是否存在,如果存在则返回该路径,否则返回其他始终可用的空数据路径。然后依赖Pig的参数替换。例如:%declareemptyPath'/user/me/emptyData.csv'%declarerequestedPath'/user/me/realData.csv'%declareact

hadoop map-reduce : how to deploy non-jar files

您好,当我使用hadoopjar..args..提交我的jar以进行map-reduce作业时,我想知道如何部署非jar文件。对于hadoop流,有--file选项来发送文件,对于spark,我们有--files但我在文档中找不到这样的选项。在提交hadoopmap-reduce作业时,是否可以将非jar文件与我的jar一起发送? 最佳答案 Applicationscanspecifyacommaseparatedlistofpathswhichwouldbepresentinthecurrentworkingdirectoryof

oracle - Sqoop导入作业报错org.kitesdk.data.ValidationException for Oracle

Oracle11g的Sqoop导入作业因错误而失败ERRORsqoop.Sqoop:GotexceptionrunningSqoop:org.kitesdk.data.ValidationException:Datasetname81fdfb8245ab4898a719d4dda39e23f9_C46010.HISTCONTACTisnotalphanumeric(plus'_')完整的命令如下:$sqoopjob--createingest_amsp_histcontact--import--connect"jdbc:oracle:thin:@:/"--username"c46010

hadoop - 得到错误的 FS : file while running hive query

在hive上运行一个简单的选择查询时我遇到了这个奇怪的错误java.lang.IllegalArgumentException:WrongFS:file://usr/lib/hive/lib/CustomUDFint.jar,expected:file:///atorg.apache.hadoop.fs.FileSystem.checkPath(FileSystem.java:410)atorg.apache.hadoop.fs.RawLocalFileSystem.pathToFile(RawLocalFileSystem.java:56)atorg.apache.hadoop.fs