HDFS副本设置—

首先 dfs.replication这个参数是个client参数，即node level参数。需要在每台datanode上设置。
其实默认为3个副本已经够用了，设置太多也没什么用。

一个文件，上传到hdfs上时指定的是几个副本就是几个。以后你修改了副本数，对已经上传了的文件也不会起作用。可以再上传文件的同时指定创建的副本数
Hadoop dfs -D dfs.replication=1 -put 70M logs/2

可以通过命令来更改已经上传的文件的副本数：
hadoop fs -setrep -R 3 /

查看当前hdfs的副本数
hadoop fsck -locations
FSCK started by hadoop from /172.18.6.112 for path / at Thu Oct 27 13:24:25 CST 2011
....................Status: HEALTHY
Total size: 4834251860 B
Total dirs: 21
Total files: 20
Total blocks (validated): 82 (avg. block size 58954290 B)
Minimally replicated blocks: 82 (100.0 %)
Over-replicated blocks: 0 (0.0 %)
Under-replicated blocks: 0 (0.0 %)
Mis-replicated blocks: 0 (0.0 %)
Default replication factor: 3
Average block replication: 3.0
Corrupt blocks: 0
Missing replicas: 0 (0.0 %)
Number of data-nodes: 3
Number of racks: 1
FSCK ended at Thu Oct 27 13:24:25 CST 2011 in 10 milliseconds
The filesystem under path '/' is HEALTHY

某个文件的副本数，可以通过ls中的文件描述符看到
hadoop dfs -ls
-rw-r--r-- 3 hadoop supergroup 153748148 2011-10-27 16:11 /user/hadoop/logs/201108/impression_witspixel2011080100.thin.log.gz

如果你只有3个datanode，但是你却指定副本数为4，是不会生效的，因为每个datanode上只能存放一个副本。

参考：http://blog.csdn.net/lskyne/article/details/8898666

转载于:https://www.cnblogs.com/bonelee/p/6485434.html

HDFS副本设置——默认3相关推荐

HDFS权限设置 \ HDFS涉及ACLs的命令
本文主要参考:https://www.cnblogs.com/royfans/p/7326859.html https://www.cppentry.com/bencandy.php?fid=115& ...
ajax默认什么方法,ajax设置默认值ajaxSetup()方法
$(function(){ //设置全局 jQuery Ajax全局参数 $.ajaxSetup({ type:"POST", async:false, cache:false, ...
HDFS副本存放策略（官方文档）
HDFS副本存放策略(官方文档) 关于HDFS的副本位置默认存放策略(以3个副本为例),网络上一直流传着两种说法: 第一种说法: 副本1:在client端所处的节点(就近),若客户端在集群外则随机选一 ...
魔兽修改默认服务器,魔兽怎么设置默认服务器
魔兽怎么设置默认服务器内容精选换一换由于root用户拥有最高权限,直接使用root用户登录服务器可能会存在安全风险.建议您使用普通用户登录服务器后切换为root用户,再执行后续安装操作,并建议您 ...
flume系列之：hdfs.timeZone设置中国北京或上海时区
flume系列之:hdfs.timeZone设置中国北京或上海时区查看服务器时间 flume设置中国时区查看服务器时间 date 2021年 12月 23日星期四 10:09:49 CST hd ...
mysql关于时间的面试题,mysql时间设置默认值MySQL常见面试题
1.limit(选出10 到20 条) select * from students order by id limit 9,10; 2.MySQL 会使用索引的操作符号 =,>,=,betwe ...
为绑定的NSArrayController设置默认的排序
当NSArrayController与一个class或者entity进行绑定(Binding)之后,可以为这个NSArrayController设置默认的排序.通过在Bindings Insepect ...
word笔记之选择性粘贴-设置默认粘贴为当前格式
最近一段时间,经常要写文档,将一些项目的内容从申请单上抄写到报告上,发现word的默认是使用复制的格式,而不是使用目标的格式,弄的我还要使用鼠标右键选择使用当前格式.如下图这样太没效率了. 解决方法 ...
SDK与IDE的选择（附上设置默认SDK）
1设置默认的SDK: 作为第二版最早的版本为:Default device: Series60_v20:com.nokia.series60 2nd_FP2:Default device: S60_2 ...

HDFS副本设置——默认3

HDFS副本设置——默认3相关推荐

最新文章

热门文章