环境:
[root@hadp-master hadoop-2.7.4]# hadoop version
Hadoop 2.7.4

Hadoop的日志大致可以分为两类:
(1)、Hadoop系统服务输出的日志;
(2)、Mapreduce程序输出来的日志。这两类的日志存放的路径是不一样的。本文基于Hadoop 2.x版本进行说明的,其中有些地方在Hadoop 1.x中是没有的,请周知。

一、Hadoop系统服务输出的日志

  诸如NameNode、DataNode、ResourceManage等系统自带的服务输出来的日志默认是存放在${HADOOP_HOME}/logs目录下。比如resourcemanager的输出日志为yarn-${USER}-resourcemanager-${hostname}.log,其中${USER}s是指启动resourcemanager进程的用户,${hostname}是resourcemanager进程所在机器的hostname;当日志到达一定的大小(可以在${HADOOP_HOME}/etc/hadoop/log4j.properties文件中配置)将会被切割出一个新的文件,切割出来的日志文件名类似yarn-${USER}-resourcemanager-${hostname}.log.数字的,后面的数字越大,代表日志越旧。如下:

[root@hadp-node1 logs]# ll
total 1528
-rw-r--r--. 1 root root 771579 Oct 17 03:43 yarn-root-resourcemanager-hadp-master.log
-rw-r--r--. 1 root root 1524 Oct 17 03:33 yarn-root-resourcemanager-hadp-master.out
-rw-r--r--. 1 root root 1524 Oct 17 03:29 yarn-root-resourcemanager-hadp-master.out.1
-rw-r--r--. 1 root root 1531 Oct 13 23:23 yarn-root-resourcemanager-hadp-master.out.2
-rw-r--r--. 1 root root 1531 Sep 20 00:41 yarn-root-resourcemanager-hadp-master.out.3
-rw-r--r--. 1 root root 1531 Sep 18 22:26 yarn-root-resourcemanager-hadp-master.out.4
-rw-r--r--. 1 root root 1524 Sep 18 17:40 yarn-root-resourcemanager-hadp-master.out.5

上面这些都是可以配置的,比如resourcemanager(在${HADOOP_HOME}/etc/hadoop/log4j.properties):

log4j.logger.org.apache.hadoop.yarn.server.resourcemanager.RMAppManager$ApplicationSummary=${yarn.server.resourcemanager.appsummary.logger}
log4j.additivity.org.apache.hadoop.yarn.server.resourcemanager.RMAppManager$ApplicationSummary=false
log4j.appender.RMSUMMARY=org.apache.log4j.RollingFileAppender
log4j.appender.RMSUMMARY.File=${hadoop.log.dir}/${yarn.server.resourcemanager.appsummary.log.file}
log4j.appender.RMSUMMARY.MaxFileSize=256MB ##多大切割日志
log4j.appender.RMSUMMARY.MaxBackupIndex=20
log4j.appender.RMSUMMARY.layout=org.apache.log4j.PatternLayout
log4j.appender.RMSUMMARY.layout.ConversionPattern=%d{ISO8601} %p %c{2}: %m%n

resourcemanager日志存放路径也是可以配置的(在${HADOOP_HOME}/etc/hadoop/yarn-env.sh):

# default log directory & file
if [ "$YARN_LOG_DIR" = "" ]; then
YARN_LOG_DIR="$HADOOP_YARN_HOME/logs"
fi
只需要修改YARN_LOG_DIR的值,这时候,yarn相关的日志记录都将存放在你配置的目录下。

二、Mapreduce程序相关的日志

  Mapreduce程序的日志可以分为历史作业日志和Container日志。

  (1)、历史作业的记录里面包含了一个作业用了多少个Map、用了多少个Reduce、作业提交时间、作业启动时间、作业完成时间等信息;这些信息对分析作业是很有帮助的,我们可以通过这些历史作业记录得到每天有多少个作业运行成功、有多少个作业运行失败、每个队列作业运行了多少个作业等很有用的信息。这些历史作业的信息是通过下面的信息配置的: ( yarn-site.xml中配置 )

<property>
<name>mapreduce.jobhistory.done-dir</name>
<value>${yarn.app.mapreduce.am.staging-dir}/history/done</value>
</property>

<property>
<name>mapreduce.jobhistory.intermediate-done-dir</name>
<value>${yarn.app.mapreduce.am.staging-dir}/history/done_intermediate</value>
</property>

<property>
<name>yarn.app.mapreduce.am.staging-dir</name>
<value>/tmp/hadoop-yarn/staging</value>
</property>

hadoop之 hadoop日志存放路径相关推荐

  1. Hadoop日志存放路径详解

    如果你想知道Spark作业运行日志,可以查看这里<Spark应用程序运行的日志存在哪里> Hadoop的日志有很多种,很多初学者往往遇到错而不知道怎么办,其实这时候就应该去看看日志里面的输 ...

  2. VMware View4.5相关组件的日志存放路径

    下列产品的安装日志: 在%TEMP%\vminst.log_date_timestamp:里面 a.Connection Server b.Security Server c. Composer d. ...

  3. docker日志存放路径

    一. 电面: 自我介绍 项目情况: 对你来说影响最大的一个项目(该面试中有关项目问题都针对该项目展开)? 为什么会想做这个项目?这个项目的ideal是谁提出来的? 项目中如何实现的大数据的传输和存储 ...

  4. 修改tomcat6.0.25日志默认路径

    默认情况下tomcat6.0.26日志存放路径为tomcat6.0.26/logs下: [root@modelC65 tomcat6.0.26]# cd logs/ [root@modelC65 lo ...

  5. Log日志存放到本地文件

    1.建一个写入文件的工具类 public class LogToFile {private static String TAG = "LogToFile";private stat ...

  6. Linux系统中的日志管理 ---systemd-journald日志(journalctl命令的用法)和 rsyslog 日志(自定义日志采集路径、更改日志采集格式和日志的远程同步)

    一.实验环境 Horizon_carry: 172.25.254.10 carry: 172.25.254.20 Horizon_carry & carry: systemctl stop f ...

  7. hadoop yarn 获取日志_Hadoop YARN日志查看方式

    点击关注上方"知了小巷", 设为"置顶或星标",第一时间送达干货. Hadoop YARN日志查看方式 实验环境CDH6.3.2 Hadoop版本 $ hado ...

  8. Hadoop之电信日志数据处理(一)------业务简介

    日志数据说明 日志里的某一条数据(以下为一整行数据,以| 为分割符):77个属性--20 533||11|93287887015245963|6||||1|100.82.254.88|100.82.9 ...

  9. Hadoop之Hadoop基础知识面试复习

    Hadoop之Hadoop基础知识常问面试题 列举几个hadoop生态圈的组件并做简要描述. Zookeeper:是一个开源的分布式应用程序协调服务,基于zookeeper可以实现同步服务,配置维护, ...

最新文章

  1. 前沿 | DeepMind 最新研究——神经算术逻辑单元,有必要看一下!
  2. 还在为论文发愁?ACL组委会手把手教你论文投稿小技巧 | ACL 2017
  3. python keyerror_python 日常笔记 - namedtuple
  4. Java中关于单核处理多个线程的认识与了解
  5. python open函数_精选2个小例子,带你快速入门Python文件处理
  6. 微擎即用WIFI源码V2.1.7
  7. html弹性盒子自适应比例,CCS弹性盒子中间自适应怎么设置
  8. b站怎么删自己的专栏_麦当劳B站直播翻车,品牌B站营销到底应该怎么做?
  9. java基本变量的堆栈_JAVA经验谈:尽可能使用堆栈变量
  10. LINUX 7.0真机系统安装问题
  11. Win8彻底关闭UAC
  12. 量化投资学习——布朗运动、伊藤引理、BS 公式
  13. 网站实现GNSS数据批量下载
  14. SSM整合案例分析(详解)
  15. 大学四年,因为这40个开发工具,我成为别人眼中的大神
  16. android subscriber 自定义,自定义Subscriber
  17. MySQL系列之STRAIGHT JOIN用法简介
  18. 浅析智慧消防应用中多设备联动火灾报警系统
  19. 新春送祝福,直接发红包。现金红包等你来拿~
  20. 【嵌入式芯片】GPU,CPU,SOC,DSP,FPGA,ASIC,MCU,MPU,GPP,ECU等简介

热门文章

  1. typescript类与继承
  2. MVC部分视图的使用
  3. .Net资源文件全球化
  4. coursera机器学习-聚类,降维,主成分分析
  5. 基于WF的意见征集6(浅析)
  6. Generalised Dice Overlap as a Deep Learning Loss Function for Highly Unbalanced Segmentations
  7. Tensorflow(r1.4)API--tf.nn.conv2d详解
  8. 【ROS学习笔记】(三)发布者Publisher的实现
  9. 中海达数据怎么转rinex_Ashtech格式转换RINEX
  10. 怎么解锁blockinput锁定的键盘_“键盘云”--锐角云母公司(Acute angle)又一款矿渣神器...