Hadoop的安全模式介绍

本文介绍了Hadoop在NameNode重启时进入的安全模式,该模式下仅支持元数据操作。安全模式主要检查DataNode数据块的有效性,并在启动时防止文件修改。通过`hadoop dfsadmin -safemode enter`进入,`hadoop dfsadmin -safemode leave`退出。当系统报`SafeModeException`错误时,意味着NameNode处于安全模式,可通过离开安全模式解决。安全模式的阈值可以通过`dfs.safemode.threshold.pct`配置调整。

 

  Hadoop在NameNode重启的时候就会进入到安全模式,在安全模式中HDFS只支持访问元数据的操作才会返回成功,但是又不少朋友们不了解Hadoop,那么我们现在就去看看Hadoop的安全模式介绍。

cd  /usr/local/hadoop/hadoop-3.1.2/bin

进入安全模式:     ./hadoop dfsadmin -safemode enter

  

退出安全模式

   

 安全模式下查看hdfs文件:

 

 

     在分布式文件系统启动的时候,开始的时候会有安全模式,当分布式文件系统处于安全模式的情况下,文件系统中的内容不允许修改也不允许删除,直到安全模式结束。安全模式主要是为了系统启动的时候检查各个DataNode上数据块的有效性,同时根据策略必要的复制或者删除部分数据块。运行期通过命令也可以进入安全模式。在实践过程中,系统启动的时候去修改和删除文件也会有安全模式不允许修改的出错提示,只需要等待一会儿即可。SafeModeException 异常

  运行Hadoop程序时,有时候会报以下错误:

  org.apache.hadoop.dfs.SafeModeException: Cannot delete/user/hadoop/input. Name node is in safe mode.

  那我们来分析下这个错误,从字面上来理解:“Name node is in safe mode.”

  现在就清楚了,那现在要解决这个问题,我想让Hadoop不处在safe mode 模式下,能不能不用等,直接解决呢?答案是可以的,

  只要在Hadoop的目录下输入:

  $bin/hadoop dfsadmin -safemode leave

  也就是关闭Hadoop的安全模式,这样问题就解决了。

  safemode模式

  NameNode在启动的时候首先进入安全模式,如果datanode丢失的block达到一定的比例(1-dfs.safemode.threshold.pct),则系统会一直处于安全模式状态即只读状态。dfs.safemode.threshold.pct(缺省值0.999f)表示HDFS启动的时候,如果DataNode上报的block个数达到了元数据记录的block个数的0.999倍才可以离开安全模式,否则一直是这种只读模式。如果设为1则HDFS永远是处于SafeMode。

  下面这行摘录自NameNode启动时的日志(block上报比例1达到了阀值0.9990)

  The ratio of reported blocks 1.0000 has reached the threshold0.9990. Safe mode will be turned off automatically in 18seconds.

  ?1.修改dfs.safemode.threshold.pct为一个比较小的值,缺省是0.999。

  ?2. hadoop dfsadmin -safemode leave命令强制离开

  hadoop dfsadmin-safemode 命令

  格式:Usage: java DFSAdmin [-safemode enter | leave | get |wait]

  用户可以通过dfsadmin -safemode value 来操作安全模式,参数value的说明如下:

  enter - 进入安全模式

  leave - 强制NameNode离开安全模式

  get?? - 返回安全模式是否开启的信息

  wait? - 等待,一直到安全模式结束。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值