草庐IT

Slow_query_log

全部标签

hadoop - Cloudera-scm-server.log 在两个地方显示错误

我正在尝试运行Cloudera-Manager,但在以下屏幕截图中给出了错误并用红笔标记。谁能帮我解决这些错误?? 最佳答案 错误非常简单。ClouderaManager无法使用指定的凭据连接到数据库。您是否能够使用/etc/cloudera-scm-server/db.properties中提供的凭据手动连接? 关于hadoop-Cloudera-scm-server.log在两个地方显示错误,我们在StackOverflow上找到一个类似的问题: http

mongodb - 带有 $date 的 mongo.input.query 不过滤输入到 hadoop

我有一个分片输入集合,我想在将其发送到我的hadoop集群以进行mapreduce计算之前对其进行过滤。我的$hadoopjar-命令中有这个参数mongo.input.query='{_id.uuid:"device-964693"}'并且有效。输出不会mapreduce任何不满足此查询的数据。但这不起作用:mongo.input.query='{_id.day:{\\$lt:{\\$date:1388620740000}}}'没有数据作为输出产生。1388620740000表示日期WedJan01201423:59:00GMT+0000(GMT)。该设置使用的是hadoop2.2、

ElasticSearch自定义算分排序(Function Score Query)

 使用functionscorequery,可以修改文档的相关性算分(queryscore),根据新得到的算分排序。目录FunctionScoreQuery  案例 FunctionScoreQuery 几种默认的计算分值的函数:Weight:为每一个文档设置一个简单而不被规范化的权重FieldValueFactor:使用该数值来修改_socre,例如将"热度"和"点赞数"作为算分的参考因素RandomScore:为每一个用户使用一个不同的,随机算分结果衰减函数:以某个字段的值为标准,距离某个值越近,得分越高ScriptScore:自定义脚本完全控制所需逻辑 GET  /hotel/_sear

sql - Spark : Group RDD Sql Query

我有3个RDD需要加入。valevent1001RDD:schemaRDD=[eventtype,id,location,date1][1001,4929102,LOC01,2015-01-2010:44:39][1001,4929103,LOC02,2015-01-2010:44:39][1001,4929104,LOC03,2015-01-2010:44:39]valevent2009RDD:schemaRDD=[eventtype,id,celltype,date1](不按id分组,因为我需要4个日期,具体取决于celltype)[2009,4929101,R01,2015-01

java - 自动删除旋转的 gc.log 文件

我们有hadoop集群版本2.6.4,同时在我们的一台Linux服务器上安装了指标收集器root@master02ambari-metrics-collector]#rpm-qa|grepmetrics-collectorambari-metrics-collector-2.6.1.0-143.x86_64在/var/log/ambari-metrics-collector下,我们有去年7月的gc.log文件,我们想自动删除旋转的gc.log文件[root@master02ambari-metrics-collector]#ls-ltr|grepgc.log|grep-vcollect

logging - Hadoop 作业中的日志记录如何工作?

登录Hadoop作业如何工作?使用SLF4J和Logback,我需要什么样的配置才能在一个地方看到所有日志输出?JobTracker会整理Hadoop作业的STDOUT吗? 最佳答案 每个数据节点上的日志目录包含一个子目录userlogs。这包含最近maptask尝试的子目录。那是针对maptask的每个实例。由于任务尝试在其名称中包含作业ID,因此您可以找出特定作业在何处创建的日志。任务尝试目录包含文件:标准错误标准输出系统日志这些包含各自的输出。您可以通过从列出的作业导航到其任务、单击任务并选择其输出来从JobTrackerWe

hadoop - 得到错误的 FS : file while running hive query

在hive上运行一个简单的选择查询时我遇到了这个奇怪的错误java.lang.IllegalArgumentException:WrongFS:file://usr/lib/hive/lib/CustomUDFint.jar,expected:file:///atorg.apache.hadoop.fs.FileSystem.checkPath(FileSystem.java:410)atorg.apache.hadoop.fs.RawLocalFileSystem.pathToFile(RawLocalFileSystem.java:56)atorg.apache.hadoop.fs

logging - Chukwa 和 Scribe 哪个更好?

我正在使用Hadoop,但为了记录我需要一些东西。但是我不知道在Scribe和Chukwa之间登录系统哪个更好。你们能告诉我吗?如果有任何易于与Hadoop混合的替代方案,请告诉我。 最佳答案 我有一个替代方案:ApacheFlume由Cloudera构建,主要用于将数据输入/输出HDFS。https://cwiki.apache.org/confluence/display/FLUME/Index每个系统都有利有弊,它们在大规模运行时都存在一定的可靠性问题,但我可以说Flume是用java构建的,因此可以使用主要的HDFS库。我们

hadoop - Log4j 不写入 HDFS/Log4j.properties

基于以下配置,我希望我的log4j应该写入HDFS文件夹(/myfolder/mysubfolder)。但它甚至没有创建具有给定名称hadoop9.log的文件。我尝试在hdfs上手动创建hadoop9.log。还是不行。我是否遗漏了log4j.properties中的任何内容?#Definesomedefaultvaluesthatcanbeoverriddenbysystempropertieshadoop.root.logger=INFO,console,RFA,DRFAhadoop.log.dir=/myfolder/mysubfolderhadoop.log.file=had

MySQL数据库的备份、恢复、导出、导入(bin log和mydump)

目录一、使用binlog来恢复数据一、binlog的三种格式1、statement:基于SQL语句的复制(statement-basedreplication,SBR)2、row:基于行的复制(row-basedreplication,RBR)3、mixed:混合模式复制(mixed-basedreplication,MBR)4、查看模式和更改模式二、配置binlog策略三、获取binlog文件列表四、生成新的binlog文件五、查看日志中的内容1、在mysql中使用showbinlogevents查看2、在shell中使用mysqlbinlog来查看六、利用binlog来恢复数据1、通过po