草庐IT

test-Info

全部标签

unit-testing - 如何对 Hadoop Writable 进行单元测试

我自己实现了WritableComparable,但是我找不到适合单元测试write和readFields方法的好东西。有什么想法吗? 最佳答案 也许您可以找到更简单的方法来测试您的可写对象,但手动执行序列化/反序列化也可以。例如:MyUtils.java:...importorg.apache.commons.io.IOUtils;...publicstaticbyte[]serialize(Writablewritable)throwsIOException{ByteArrayOutputStreamout=newByteArr

hadoop - HBase 连接挂起在 INFO ClientCnxn - 服务器上的 session 建立完成

我正在尝试从我的eclipse连接到Hadoop(2.4)上的HBase(版本0.94.18)并在此之后进行连接。这只发生在我的本地机器上。代码在服务器上运行良好。有什么想法吗?INFOZooKeeper-Clientenvironment:user.dir=D:\eclipse\eclipse-jee-64\eclipseINFOZooKeeper-Initiatingclientconnection,connectString=11.45.66.78:2181sessionTimeout=180000watcher=hconnectionINFOClientCnxn-Opening

hadoop - hbase 错误 : "10/12/26 06:48:07 INFO ipc.HbaseRPC: Server at/127.0.0.1:58920 could not be reached after 1 tries, giving up."

有人知道hbase有什么问题吗?我正在为hadoop使用cloudera发行版的vm图像,以前它工作正常但现在当我尝试列出所有表时每秒都会给我这个错误:10/12/2606:48:07信息ipc.HbaseRPC:尝试1次后无法访问位于/127.0.0.1:58920的服务器,放弃。 最佳答案 我在Ubuntu11.10上遇到了同样的问题。默认安装在/etc/hosts中添加了一行,将我的机器主机名与IP127.0.1.1相关联。我将此链接更改为指向127.0.0.1,Hbase开始工作。此外,其他计算机上类似问题的解决方案要么禁用

unit-testing - 如何在 oozie 工作流中运行 hadoop 示例 jar?

这让我发疯了——我觉得自己像个白痴,想弄清楚如何做到这一点!我正在构建一个使用Oozie客户端库来运行工作流的应用程序。真的很简单,我想为我的代码构建一些测试,这样我就可以检查我是否在做正确的事情实际代码-感谢oozie客户端库-非常简单。我已经安装了Hadoop并且可以运行标准的wordcount提供的示例,没有任何问题,但是我不知道如何通过Oozie运行东西,它让我抓狂。所以我想我会作弊并问一些知道的人(蠕变蠕变)。我如何转换:bin/hadoopjarhadoop*examples*.jarwordcountinput/somedataoutputOozie工作流?我假设它是一个

hadoop - 使用 hdfs dfs -test 查看目录是否存在

在hadoop文档中:testUsage:hadoopfs-test-[defsz]URIOptions:-d:fthepathisadirectory,return0.-e:ifthepathexists,return0.-f:ifthepathisafile,return0.-s:ifthepathisnotempty,return0.-z:ifthefileiszerolength,return0.Example:hadoopfs-test-efilename如果hdfs目录不存在,我想做点什么。-test选项中的每个参数都返回0。如果目录不存在,我该如何输出?drwx-----

mysql - 高级 MySql 查询 : Update table with info from another table

我想用另一个表中的数据更新mySql中的一个表。我有两个表“人”和“业务”。人员表通过名为“business_id”的列链接到业务表。必要的表结构,主键加星号(表:列):人员:*business_id、*sort_order、电子邮件业务:*business_id、电子邮件我想用人员表中的电子邮件更新业务表电子邮件列,如下所示(我知道我在这里遗漏了一些东西):UPDATEbusinessbSETemail=(SELECTemailfromPeoplepwherep.business_id=b.business_idANDsort_order='1')WHEREb.email='';这有

mysql - 高级 MySql 查询 : Update table with info from another table

我想用另一个表中的数据更新mySql中的一个表。我有两个表“人”和“业务”。人员表通过名为“business_id”的列链接到业务表。必要的表结构,主键加星号(表:列):人员:*business_id、*sort_order、电子邮件业务:*business_id、电子邮件我想用人员表中的电子邮件更新业务表电子邮件列,如下所示(我知道我在这里遗漏了一些东西):UPDATEbusinessbSETemail=(SELECTemailfromPeoplepwherep.business_id=b.business_idANDsort_order='1')WHEREb.email='';这有

testing - Oozie:在本地测试工作流程

基于OoozieXML的工作流定义容易出错,并且在运行时难以调试。此外,在生产环境中运行它们存在一定风险。1)是否有一种简单的方法来测试基于oozie的工作流/应用程序;通过嵌入式服务器或其他模拟环境?2)关于oozie开发是否有任何完善的IDE/TDD习语? 最佳答案 MiniOozie可能会有所帮助。还使用-dryrun允许打印1个具体化的已解析xml并进行语法检查-http://oozie.apache.org/docs/3.3.2/DG_CommandLineTool.html#Dryrun_of_Coordinator_J

hadoop - "Unable to load realm mapping info from SCDynamicStore"错误后跟 KrbException

我正在尝试在本地构建我的应用程序并收到以下错误:**UnabletoloadrealmmappinginfofromSCDynamicStore**2012-12-0318:13:23.910java[1172:707]***Terminatingappduetouncaughtexception'JavaNativeException',reason:'KrbException:CouldnotloadconfigurationfromSCDynamicStore'***Firstthrowcallstack:(0CoreFoundation0x00007fff919c30a6__e

hadoop - 文件 jobtracker.info 只能复制到 0 个节点,而不是 1 个

我正在尝试在Fedora17上设置Hadoop集群。当我给出/bin/star-all.sh命令时,守护进程开始在主节点和从节点上启动。但是当我在主节点上查看数据节点的日志文件时,我得到以下EROORERRORorg.apache.hadoop.security.UserGroupInformation:PriviledgedActionExceptionas:hadoop1cause:java.io.IOException:File/home/hadoop1/mapred/system/jobtracker.infocouldonlybereplicatedto0nodes,inst