草庐IT

LOG_DATE

全部标签

hadoop - 使用自定义 log4j 覆盖 Yarn 中的容器日志

我正在尝试使用自定义log4j.properties覆盖YARN容器日志格式,但我无法这样做。我试图覆盖hadoop-yarn-server-nodemanager.jar中的container-log4j.properties然后替换jar,但没有效果。我还尝试将我自己的container-log4j.properties文件放在/etc/hadoop/conf位置,以使其在类路径中覆盖。我正在使用HDP(Hortonworks)2.2发行版。基本上,我试图将socketappender放在container-log4j.properties中,以便分析Logstash中的容器日志。

hadoop - Gradle 用 logback 替换传递依赖 log4j

是否可以用logback替换传递依赖中的log4j?这是我的gradle依赖项(https://github.com/geoHeil/lab04/blob/master/build.gradle):dependencies{compilegroup:'org.apache.hadoop',name:'hadoop-common',version:'2.7.1'compilegroup:'org.apache.hadoop',name:'hadoop-client',version:'2.7.1'compilegroup:'org.apache.hadoop',name:'hadoop-

date - hive cast string to date in 'dd/MMM/yyyy' format order by and group by issue

我将日期存储为[27/Feb/2016:00:24:31+0530]。我想要27/Feb/2016中的日期格式,并且还想按它排序。我试过了this解决方案,但它以2016-02-27形式返回,并且也正确排序。SELECTTO_DATE(FROM_UNIXTIME(UNIX_TIMESTAMP(SUBSTR(time,2,11),'dd/MMM/yyyy')))ASreal_date,urlFROMcleanned_logsORDERBYreal_dateASC;为了获得所需的格式,我尝试使用date_format()函数。它在1.2.1中不可用,所以我从1.0.1切换到它。SELECT

hadoop - Log4j RollingFileAppender 没有将映射器和缩减器日志添加到文件

我们希望将我们的应用程序日志打印到本地节点上的文件中。我们正在使用Log4j的RollingFileAppender。我们的log4j.properties文件如下:ODS.LOG.DIR=/var/log/appLogsODS.LOG.INFO.FILE=application.logODS.LOG.ERROR.FILE=application_error.log#Rootloggeroptionlog4j.rootLogger=ERROR,consolelog4j.logger.com.ournamespace=ERROR,APP_APPENDER,ERROR_APPENDER##

python - Tensorflow 从 HDFS mac 读取 : java. lang.NoSuchFieldError: LOG

我正在尝试从我的mac上的tensorflow读取外部hadoop。我从源代码构建了具有hadoop支持的tf,还在我的mac上构建了具有本地库支持的hadoop。我收到以下错误,hdfsBuilderConnect(forceNewInstance=0,nn=192.168.60.53:9000,port=0,kerbTicketCachePath=(NULL),userName=(NULL))error:java.lang.NoSuchFieldError:LOGatorg.apache.hadoop.ipc.ClientCache.getClient(ClientCache.ja

hadoop - 将 TDCH 用于 hcat 作业类型的异常。不支持 DATE 列

我正在运行的查询是:hadoopcom.teradata.hadoop.tool.TeradataExportTool-urljdbc:teradata://tdx/TMODE=ANSI,CHARSET=UTF8,database=db-usernamexxx-passwordxxx-jobtypehcat-sourcetablecustomers-sourcedatabasexxx-nummappers1-targettablecustomers在运行作业时,我得到这个异常:com.teradata.connector.common.exception.ConnectorExcept

hadoop - 如何解决 YARN 日志中的 Log aggregation has not completed or is not enabled 错误

我正在使用EMR5.4并将spark作业提交给Yarn当我尝试使用yarnlogs-applicationIdapplication_1528461193301_0001检索日志时,出现以下错误:18/06/0812:38:01INFOclient.RMProxy:ConnectingtoResourceManageratip-10-0-182-144.eu-west-1.compute.internal/10.0.182.144:8032s3://xxx/apps/root/logs/application_1528461193301_0001doesnotexist.Logaggr

hadoop - 传递 JVM 选项以指向 Oozie Workflow 中 Pig Action 中的 log4j.properties 文件

在我的Oozie工作流程中,有一个pigAction。运行时,它正在CDH中寻找log4j.properties文件,因为我没有在我的jars中提供该文件。现在,我有了log4j.properties文件,我只需要将它作为Pig操作中的JVM选项传递即可。有什么办法吗? 最佳答案 无法将自定义log4j属性文件传递给Oozie工作流中的Pig操作。PigMain.java文件不允许将以下参数作为参数传递。static{DISALLOWED_PIG_OPTIONS.add("-4");DISALLOWED_PIG_OPTIONS.ad

hadoop - 在 Impala 中将 STRING 转换为 DATE。 (可能的错误)

这似乎是我面临的一个有趣的错误/问题。我正在使用CDH5.8(Hadoop的Cloudera发行版)下的Impala和HUE。执行下面的代码select'1709.02.02'asDateString,CAST((from_unixtime(UNIX_TIMESTAMP('1709.02.02','yyyy.MM.dd')))asTIMESTAMP)asDateTimestamp我得到如下输出(这是预期的)datestringdatetimestamp1709.02.021709-02-0200:00:00但是在执行下面的代码时select'1009.02.02'asDateStrin

date - 如何在 HIVE 中的连续日期之间插入行数据?

示例数据:customertxn_datetagA1-Jan-171A2-Jan-171A4-Jan-171A5-Jan-170B3-Jan-171B5-Jan-170需要填写日期范围(2017年1月1日至2017年1月5日)之间每个缺失的txn_date。就像下面这样:输出应该是:customertxn_datetagA1-Jan-171A2-Jan-171A3-Jan-170(inserted)A4-Jan-171A5-Jan-170B1-Jan-170(inserted)B2-Jan-170(inserted)B3-Jan-171B4-Jan-170(inserted)B5-Ja