草庐IT

SystemOutToSlf4j

全部标签

hadoop - java -Dlog4j.configuration 命令不工作

我在R中遇到Hadoopmapreduce问题,在日志中我确实发现了这个:log4j:WARNNoappenderscouldbefoundforlogger(org.apache.hadoop.ipc.Server).log4j:WARNPleaseinitializethelog4jsystemproperly.log4j:WARNSeehttp://logging.apache.org/log4j/1.2/faq.html#noconfigformoreinfo提出了我的问题here不幸的是没有反应,所以经过大量研究我发现我需要用这个命令告诉在哪里可以找到log4j:-Dlog4

log4j - 如何配置 hadoop mapreduce 以便我的 mapreduce 类的日志可以输出到文件?

我修改了$HADOOP_HOME/conf/log4j.properies但它并不像我期望的那样工作。如何解决这个问题? 最佳答案 检查类路径中是否有其他log4j.properties文件。log4j的一个问题是它从类路径中读取的最后一个log4j.properties将被实际使用。因此,如果您在类路径中有其他log4j.properties文件,那么其中一个文件可能会被选中。尝试合并所有这些log4j.properties文件,它应该可以工作。如果可以,还请发布log4j.properties文件的内容。那里也可能有问题。

使用 log4j 的 Hadoop Yarn 任务级日志记录

我一直在尝试在任务级别设置Hadoop日志记录,但到目前为止没有成功。我修改了log4j.properties并将许多参数设置为DEBUG级别:log4j.logger.org.apache.hadoop.mapred.Task=DEBUGlog4j.logger.org.apache.hadoop.mapred.MapTask=DEBUGlog4j.logger.org.apache.hadoop.mapred.ReduceTask=DEBUGlog4j.logger.org.apache.hadoop=DEBUG但是,我无法从正在记录的任务中看到任何LOG.info或LOG.deb

hadoop - 使用自定义 log4j 覆盖 Yarn 中的容器日志

我正在尝试使用自定义log4j.properties覆盖YARN容器日志格式,但我无法这样做。我试图覆盖hadoop-yarn-server-nodemanager.jar中的container-log4j.properties然后替换jar,但没有效果。我还尝试将我自己的container-log4j.properties文件放在/etc/hadoop/conf位置,以使其在类路径中覆盖。我正在使用HDP(Hortonworks)2.2发行版。基本上,我试图将socketappender放在container-log4j.properties中,以便分析Logstash中的容器日志。

hadoop - Gradle 用 logback 替换传递依赖 log4j

是否可以用logback替换传递依赖中的log4j?这是我的gradle依赖项(https://github.com/geoHeil/lab04/blob/master/build.gradle):dependencies{compilegroup:'org.apache.hadoop',name:'hadoop-common',version:'2.7.1'compilegroup:'org.apache.hadoop',name:'hadoop-client',version:'2.7.1'compilegroup:'org.apache.hadoop',name:'hadoop-

hadoop - Log4j RollingFileAppender 没有将映射器和缩减器日志添加到文件

我们希望将我们的应用程序日志打印到本地节点上的文件中。我们正在使用Log4j的RollingFileAppender。我们的log4j.properties文件如下:ODS.LOG.DIR=/var/log/appLogsODS.LOG.INFO.FILE=application.logODS.LOG.ERROR.FILE=application_error.log#Rootloggeroptionlog4j.rootLogger=ERROR,consolelog4j.logger.com.ournamespace=ERROR,APP_APPENDER,ERROR_APPENDER##

hadoop - 传递 JVM 选项以指向 Oozie Workflow 中 Pig Action 中的 log4j.properties 文件

在我的Oozie工作流程中,有一个pigAction。运行时,它正在CDH中寻找log4j.properties文件,因为我没有在我的jars中提供该文件。现在,我有了log4j.properties文件,我只需要将它作为Pig操作中的JVM选项传递即可。有什么办法吗? 最佳答案 无法将自定义log4j属性文件传递给Oozie工作流中的Pig操作。PigMain.java文件不允许将以下参数作为参数传递。static{DISALLOWED_PIG_OPTIONS.add("-4");DISALLOWED_PIG_OPTIONS.ad

apache-spark - 两个 Neo4J 数据库之间的数据复制

我有一个Neo4j生产数据库和一个灾难恢复数据库。每个周末,生产中的数据应该在灾难恢复数据库中可用。我在生产数据库中只有读取权限。任何人都可以对此有见解。我可以使用任何大数据技术堆栈来实现这一目标。有什么方法可以使用Hadoop、Spark等实现相同。 最佳答案 这可能太明显了,但你为什么不takeabackupandrestoreitintheDRPenvironment?希望这对您有所帮助。问候,汤姆 关于apache-spark-两个Neo4J数据库之间的数据复制,我们在Stack

log4j - Hadoop 启用日志记录

我正在尝试在单一集群模式下使用从源代码构建的hadoop。我检查了0.22.0-alpha-1。我在日志记录方面遇到了一些问题。如何启用调试日志。我尝试添加log4j.logger.org.apache.hadoop.mapred.JobTracker=DEBUGlog4j.logger.org.apache.hadoop.mapred.TaskTracker=DEBUG在log4j.properties中。但它似乎不起作用。有人可以帮助我启用调试日志吗?另外我想知道除了Jobtracker和tasktracker以及要添加到log4j中的相应行之外是否还有其他日志我可以启用.prop

java - pig 服务器 log4j :ERROR Could not instantiate class [org. apache.hadoop.log.metrics.EventCounter]

我使用嵌入在Java中的Pig。我想实例化PigServer来执行一个Pig语句。我的第一句话是:PigServerpigServer=newPigSever("local")当我执行这段代码时,出现了以下错误:log4j:ERRORCouldnotinstantiateclass[org.apache.hadoop.log.metrics.EventCounter].java.lang.ClassNotFoundException:org.apache.hadoop.log.metrics.EventCounteratjava.net.URLClassLoader$1.run(URL