我是新来的,但需要知道对通过ApacheHadoop编写的程序进行单元测试的最佳方法。我知道我们可以用jUnit方式为map和reduce方法中的逻辑编写单元测试用例。我们也可以对涉及的其他逻辑做同样的事情,但这并不能保证它经过良好的测试并且可以在实际运行环境中工作。我读过关于MRUnit的文章,但它似乎也与我上面提到的类似,但方式更成熟。但它也不会作为真正的mapreduce工作运行,而是一个被mock的工作。任何帮助,将不胜感激。谢谢。 最佳答案 你当然有其他选择。稍微用谷歌搜索一下,你自己就会得到它。在这里,我为您做到了!这是
我正在寻找能够运行与示例和测试jar关联的hadoop作业的jar文件。过去它们在/usr/lib/hadoop下,但现在显然不在了。感谢指点。注意:本题原为CDH4.2。但是一些答案包括更高版本的信息 最佳答案 find/-namehadoop-mapreduce-examples*.jar/usr/lib/hadoop-mapreduce/hadoop-mapreduce-examples-2.0.0-cdh4.7.0.jar/usr/lib/hadoop-mapreduce/hadoop-mapreduce-examples.
我已经设置了一个小型Hadoop集群用于测试。NameNode(1台机器)、SecondaryNameNode(1台)和所有DataNodes(3台)的设置非常顺利。这些机器被命名为“master”、“secondary”和“data01”、“data02”和“data03”。所有DNS均已正确设置,无密码SSH已从主/辅助设备配置到所有机器并返回。我使用bin/hadoopnamenode-format格式化集群,然后使用bin/start-all.sh启动所有服务。使用jps检查所有节点上的所有进程是否已启动并正在运行。我的基本配置文件如下所示:fs.default.namehdf
我正在将之前在内存集群(使用MiniMRCluster)中运行的大量现有Hadoop单元测试retrofit到MRUnit中。现有的测试用例本质上是为Map阶段提供输入,然后测试Reduce阶段的输出。我有三个问题,其中任何一个的最佳答案都符合条件:1)通过使用MRUnit而不是内存集群进行单元测试,我在架构上会失去什么?2)是否值得将现有测试用例分解为Map-only测试和Reduce-only测试?在某些情况下我必须将它们分解吗?3)是否有MRUnit无法覆盖的测试场景? 最佳答案 改造过程教会了我一些可能的答案,我将在此处发布
我在VirtualBox中设置了一个分布式Hadoop环境:4个虚拟Ubuntu11.10安装,一个作为主节点,另外三个作为从属节点。我关注了thistutorial启动并运行单节点版本,然后转换为完全分布式版本。当我运行11.04时它工作得很好;然而,当我升级到11.10时,它坏了。现在我所有的奴隶日志都显示以下错误信息,重复得令人作呕:INFOorg.apache.hadoop.ipc.Client:Retryingconnecttoserver:master/192.168.1.10:54310.Alreadytried0time(s).INFOorg.apache.hadoop
现在,当我为我的Laravel应用程序设置一个新测试时,它从基础TestCase类扩展classSomeTestextendsTestCase{}我想创建一个名为AnotherTestCase的新基测试类,这样我就可以创建共享设置/拆卸/辅助方法等的测试用例...classSomeTestextendsAnotherTestCase{}但是,当我运行phpunitapp/tests/SomeTest.php出现以下错误PHPFatalerror:Class'AnotherTestCase'notfoundin/[...]/app/tests/SomeTest.phponline3尽管我
使用PHPUnit时,是否需要将测试放在/tests目录中?PHPUnit如何知道测试是“测试”?它是解析文件并查找方法名称,还是使用某种文件命名约定? 最佳答案 itrequiredforteststobeinsideofa/testsdirectory?没有。HowdoesPHPUnitknowthatatestisa"test"?通过反射(以及由用户指定要查看的目录)。 关于php-PHPUnit测试需要在"/test"目录中吗?,我们在StackOverflow上找到一个类似的问
我习惯于为我的应用程序使用PHPUnit_Framework_TestCase在ZendFramework1.9中编写单元测试。现在我正在尝试通过使用ZendFramework的Zend_Application的Bootstrap来编写基于Zend_Test_PHPUnit_ControllerTestCase的单元测试。但是我无法让它运行。这是我的非工作示例:classFamilyControllerTestextendsZend_Test_PHPUnit_ControllerTestCase{public$application;publicfunctionsetUp(){$thi
我在一个主要使用数据库的网站上工作。问题是我收到以下错误:mysqli_connect():php_network_getaddresses:getaddrinfofailed:Nameorservicenotknown我无法弄清楚如何解决它。我已经对连接进行了五次检查,似乎没问题。functionconnect($hostname,$username,$password,$database){$conid=mysqli_connect($hostname,$username,$password,TRUE);if($conid==FALSE){if(DEBUG==TRUE){show_
简短版本:对于单元测试,我需要一个不可读的文件来确保抛出正确的异常。显然,Git无法存储那个不可读的文件,所以我在测试时chmod000并使用gitupdate-index--assume-unchanged这样Git就不会“t尝试存储不可读的文件。但是后来我无法checkout不同的分支,但收到错误消息“您对以下文件的本地更改将被checkout覆盖。”是否有更好的测试方法,或者更好的Git使用方法,以便一切正常运行?长版本:在一个类中,我有一个方法来读取文件,以便可以将其内容导入数据库:publicfunctionreadFile($path){...if(!is_readable