草庐IT

test-user

全部标签

hadoop yarn : unknown user and group

我想弄清楚为什么我的MR作业失败了。我的疑问之一是yarnresourcemanager日志中的警告:2015-08-1412:00:45,610INFOSecurityLogger.org.apache.hadoop.ipc.Server:Authsuccessfulfortesting(auth:SIMPLE)2015-08-1412:00:45,624WARNorg.apache.hadoop.security.ShellBasedUnixGroupsMapping:gotexceptiontryingtogetgroupsforusertesting:id:testing:No

unit-testing - 用于测试的嵌入式 H2 数据库的 Spring 配置

使用embeddedh2datasource进行集成测试的Spring配置是什么样的?以及,可选的,JUnit?我第一次尝试使用SingleConnectionDataSource基本上可以工作,但在更复杂的测试中失败了,在这些测试中您需要同时进行多个连接或暂停事务。我认为tcpbasedservermode中的h2可能也可以,但这可能不是内存中临时嵌入式数据库的最快通信模式。有哪些可能性及其优点/缺点?另外,您如何创建表/填充数据库?更新:让我们指定一些对此类测试很重要的具体要求。数据库应该是临时的并且在内存中出于速度要求,连接可能不应该使用tcp如果我可以在调试过程中使用数据库工具

unit-testing - 用于测试的嵌入式 H2 数据库的 Spring 配置

使用embeddedh2datasource进行集成测试的Spring配置是什么样的?以及,可选的,JUnit?我第一次尝试使用SingleConnectionDataSource基本上可以工作,但在更复杂的测试中失败了,在这些测试中您需要同时进行多个连接或暂停事务。我认为tcpbasedservermode中的h2可能也可以,但这可能不是内存中临时嵌入式数据库的最快通信模式。有哪些可能性及其优点/缺点?另外,您如何创建表/填充数据库?更新:让我们指定一些对此类测试很重要的具体要求。数据库应该是临时的并且在内存中出于速度要求,连接可能不应该使用tcp如果我可以在调试过程中使用数据库工具

scala - Spark 斯卡拉 : JniBasedUnixGroupsMapping: Error getting groups for XXX: The user name could not be found

我一直在使用scalaIDE中的spark从我的本地系统连接到Hive(在集群中),最后将我的hive-site.xml正确地放置在Spark/conf文件夹和类路径中并且能够连接到Metastore但是无法访问配置单元表。如何更改HiveContext的用户15/12/2210:28:42INFOParseDriver:解析命令:显示表15/12/2210:28:43信息ParseDriver:解析已完成15/12/2210:28:45信息Metastore:尝试使用URIthrift://Server.com:9083连接到Metastore22年12月15日10:28:46信息J

hadoop - oozie 作业的 yarn user on/user/yarn 的访问异常

我正在运行一个包含sqoop命令的oozie工作流。通过终端提交时,sqoop命令运行良好。但是oozie工作流给出了以下异常:Exceptioninthread"main"java.lang.RuntimeException:org.apache.hadoop.security.AccessControlException:Permissiondenied:user=yarn,access=WRITE,inode="/user/yarn":hdfs:hdfs:drwxr-xr-x请指出可能存在的问题。工作流中的Sqoop命令:import--connect"jdbc:sqlserve

hadoop - 在 Hadoop 上运行的 Oozie 作业出现问题 -/user/history/done_intermediate 上的权限

首先介绍一下背景。我有一个测试CDH集群,有两个节点。我正在尝试执行Oozie作业,下载文件,使用SPARK处理它,然后在Solr中对其进行索引。集群配置为使用Kerberos身份验证。CDH版本为5.7.1当我尝试使用Oozie运行作业时,使用以下命令:ooziejob--ooziehttps://host:11443/oozie/-run--configoozieExample/job.properties失败并出现以下异常:2016-08-1212:29:40,415WARNorg.apache.oozie.action.hadoop.JavaActionExecutor:SER

java - 通过 Phoenix 连接到 Test Hbase 表

我想知道是否以及如何连接到我使用的HBaseTestTable(org.apache.hadoop.hbase.HBaseTestingUtility;)通过Phoenix。我想成功连接到Hbase,然后插入测试表并从测试表中检索数据。我已经能够创建一个HbaseTable。但无法通过Phoenix连接到它。也无法使用writeToPhoenix函数。我正在分享我写的代码:@BeforeClasspublicstaticvoidinit()throwsException{testingUtility=newHBaseTestingUtility();testingUtility.sta

user-interface - 在 Cloudera 中创建表单

我在Cloudera生态系统中工作,作为初学者,我从实现flumetwitter示例开始并成功完成。现在,每当我想从Twitter流式传输不同关键字的数据时,我必须进入Twitter的配置文件并对其进行编辑,然后使用终端执行flume代理。我正在考虑一种方法,让用户打开一个表单并在其中输入关键字,然后执行flume代理从Twitter获取数据,而不是每次都去Twitter配置文件。为此,我想知道Cloudera生态系统中是否有任何工具可以实现我上面讨论的想法? 最佳答案 据我所知,ClouderaManager是唯一允许Flume代

hadoop - 权限被拒绝 : user=basi, access=WRITE, inode ="/":

我是hadoop和pig的新手。我在ubuntu和hadoop的本地用户中安装了pig作为hduser。Pig在小型数据集的本地模式下工作正常。在mapreduce模式下启动pig并尝试实现wordcount但权限被拒绝错误如下。引起:org.apache.hadoop.ipc.RemoteException(org.apache.hadoop.security.AccessControlException):权限被拒绝:user=basi,access=WRITE,inode="/":hduser:supergroup:drwxr-xr-x以psudomode启动hadoop在本地用

hadoop - 如何解决错误 "file:/user/hive/warehouse/records is not a directory or unable to create one"?

hive>CREATETABLErecords(yearSTRING,temperatureINT,qualityINT)>ROWFORMATDELIMITED>FIELDSTERMINATEDBY'\t';FAILED:ExecutionError,returncode1fromorg.apache.hadoop.hive.ql.exec.DDLTask.MetaException(message:file:/user/hive/warehouse/recordsisnotadirectoryorunabletocreateone)如何解决错误?/user/hive/warehous