草庐IT

set_mongodb_password

全部标签

java - IntWritable.set(IntWritable) 抛出错误

在编写示例代码以测试hadoop中的自定义数据时。我收到以下错误:Themethodset(int)inthetypeIntWritableisnotapplicableforthearguments(IntWritable)我已经检查了IntWritable.set(intvalue)的set方法。如何将hadoopIntWritable转换为Int然后返回IntWritable#set方法将转换回IntWritable.publicclasscustomTextimplementsWritable{privateTextdepName;//defaultconstrprivateI

java - 错误 : JAVA_HOME is not set and could not be found after hadoop installation

在干净的RaspbianStretchLite(加上Java版本1.8.0_65)上的RaspberryPi上以独立模式安装hadoop2.7.7后,出现以下错误:Error:JAVA_HOMEisnotsetandcouldnotbefound.尽管我在/etc/bash.bashrc中有这一行:exportJAVA_HOME=$(readlink-f/usr/bin/java|sed"s:bin/java::")printenv输出如下:...JAVA_HOME=/usr/lib/jvm/jdk-8-oracle-arm32-vfp-hflt/....我看到很多similarque

java - 错误: JAVA_HOME is not set and could not be found. 如何在Hadoop中永久设置JAVA_HOME?

我安装了CDHinPseudodistributedmode在Ubuntu12.04上。在此之前,我安装了Java并将我的JAVA_HOME变量导出到/usr/lib/jvm/java-6-oracle并导出了JAVA_HOME到path,对于root用户和其他用户(自己,hdfs)。它被正确地回显并显示在env结果中。我的CDH安装仍然提示JAVA_HOMEnotfound/set所以我根据this添加JAVA_HOME到/etc/environment以及/etc/sudoers中的条目Defaultsenv_keep+=JAVA_HOME一切正常,我可以通过Jps检查服务是否正在

java - Hadoop HDFS MapReduce 输出到 MongoDb

我想编写Java程序,它从HDFS读取输入,使用MapReduce处理它并将输出写入MongoDb。场景如下:我有一个包含3个数据节点的Hadoop集群。Java程序从HDFS读取输入,并使用MapReduce对其进行处理。最后将结果写入MongoDb。其实从HDFS读取数据,用MapReduce处理很简单。但是我对将结果写入MongoDb感到困惑。是否支持任何JavaAPI将结果写入MongoDB?另外一个问题是,由于是HadoopCluster,所以我们不知道哪个datanode会运行Reducer任务并产生结果,是否可以将结果写到安装在特定服务器上的MongoDb中?如果我想把结

mongodb - 我们对 mongodb 使用 nosql 就像对 oracle 使用 sql 一样?

关闭。这个问题需要detailsorclarity.它目前不接受答案。想改进这个问题吗?通过editingthispost添加细节并澄清问题.关闭8年前。Improvethisquestion我将以我的问题为例。如果我们使用ORACLE作为数据库,如果我们想从中获取数据,我们应该知道的是SQL。在sql的帮助下,我们可以从oracle中获取数据。如果我们使用Mongodb作为数据库,我们是否必须了解NoSql。??简单来说。用于ORACLE的SQL。和MongoDB的NoSql?我说得对吗?

mongodb - 通过 spark-submit 将额外的 jar 传递给 Spark

我将Spark与MongoDB结合使用,因此依赖于mongo-hadoop驱动程序。多亏了对我原来问题的输入,我才开始工作here.我的Spark作业正在运行,但是,我收到了我不理解的警告。当我运行这个命令时$SPARK_HOME/bin/spark-submit--driver-class-path/usr/local/share/mongo-hadoop/build/libs/mongo-hadoop-1.5.0-SNAPSHOT.jar:/usr/local/share/mongo-hadoop/spark/build/libs/mongo-hadoop-spark-1.5.0-

mongodb - hadoop-mongodb 驱动程序和 mahout

我使用hadoop-mongodb驱动程序在mongodb之上设置了hadoop。目前我可以成功地将M/R作业的结果输出到mongo集合。我想使用mahout来利用一些提供的算法。是否可以在mongodb之上使用mahout并直接输出到mongo集合?有我可以阅读的方法或示例吗? 最佳答案 是的,但它与Mahout没有直接关系。您以选择MongoDB位置的方式指定输入和输出URL。剩下的就是Hadoop-Mongo集成和设置的问题。 关于mongodb-hadoop-mongodb驱动程

mongodb - flume 或 kafka 相当于 mongodb

在Hadoop世界中,flume或kafka用于流式传输或收集数据并将它们存储在Hadoop中。我只是想知道MangoDB是否有一些类似的机制或工具来实现一些? 最佳答案 MongoDB只是数据库层,并不是像Hadoop生态系统那样的完整解决方案。实际上,在需要处理和存储大量传入数据的情况下,我实际上使用Kafka和Storm将数据存储在MongoDB中。 关于mongodb-flume或kafka相当于mongodb,我们在StackOverflow上找到一个类似的问题:

ubuntu - 在 Ubuntu : $HADOOP_HOME or $HADOOP_PREFIX must be set or hadoop must be in the 上安装 Hive 的问题

我已经在我的UbuntuEC2实例上安装了Hadoop,并按照本教程完成了安装hive的所有步骤:http://www.tutorialspoint.com/hive/hive_installation.htm但是,当我启动配置单元时,我收到以下错误消息:“找不到hadoop安装:必须设置$HADOOP_HOME或$HADOOP_PREFIX或者hadoop必须在路径中”我的bashrc文件是这样写的:exportJAVA_HOME=/usrexportPATH=$PATH:$JAVA_HOME/binexportHADOOP_HOME=/usr/local/hadoop-2.7.1e

mongodb - 如何将 _id 数据从 mongodb 加载到 Apache Pig

我是Hadoop和ApachePig的新手。我在mongodb中有一个名为用户的集合,具有以下结构。我想通过以下方式将_id加载到ApachePig中:B=LOAD'mongodb://localhost:27017/test.user'USINGcom.mongodb.hadoop.pig.MongoLoader('_id:chararray,firstName:chararray,email:chararray')AS(UID,NAME,EMAIL);但我无法加载它。名称和电子邮件已完美加载。我正在使用这些jar文件REGISTER//avro-1.7.5.jarREGISTER/