Hadoop伪分布式搭建流程

本文详细介绍了如何在单节点上安装并配置Hadoop集群的过程,包括软件上传与解压、环境变量配置、SSH免密码登录设置及Hadoop核心配置文件调整等步骤。

1.通过挂载上传软件至/home/hyxy/soft

$>cp jdk.1.8.x.tar.gz ~/soft

$>cp hadoop.2.7.3.tar.gz ~/soft

2.解压相关软件

$>tar -zxvf jdk.1.8.x.tar.gz

$>tar -zxvf hadoop.2.7.3.tar.gz

3.创建软连接

$>ln -s jdk.xx jdk

$>ln -s hadooop.xx hadoop

4.修改环境变量

$>cd ~

$>vim .bash_profile

在文件最后追加以下指令:

#-------------------------

#jdk

#-------------------------

JAVA_HOME=/home/hyxy/soft/jdk/jdk.soft

PATH=$JAVA_HOME/bin:$PATH

CLASSPATH=$JAVA_HOME/jre/lib/ext:$JAVA_HOME/lib/tools.jar

export PATH JAVA_HOME CLASSPATH

#------------------------

#hadoop

#--------------------------

HADOOP_HOME=/home/hyxy/soft/hadoop/hadoop

export PATH=$HADOOP_HOME/sbin:$HADOOP_HOME/bin:$PATH

5.配置SSH

a.修改主机名

..

b.修改hosts文件

$>vim /etc/hosts

【在文件后追加:ip 主机名:192.168.26.129 hyxy】

c.reboot

d.生成密钥

$>ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa

【说明:-t设置生成密钥的算法,采用的rsa算法,-P设置密码,默认为空】

e.生成认证库

$>cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

f.修改认证库的权限为600

$>chmod 600 ~/.ssh/authorized_keys

g.ssh localhost

//无密码登陆成功

6.配置hadoop

a.找到hadoop的配置路径:cd $HADOOP_HOME

b.修改core-site.xml

<property>

<name>fs.defaultFS</name>

<value>hdfs://localhost:9000</value>

</property>

c.修改hdfs-site.xml

<property>

<name>dfs.replication</name>

<value>1</value>

</property>

d.修改hadoop-env.sh

export JAVA_HOME=/home/hyxy/soft/jdk/jdk.soft

e.格式化

$>hdfs namenode -format

f.开启

$>start-dfs.sh

 

团队根据中国省级数据库6.0版数据,对中国各地区2002-2024年的平均受教育年限进行测算,系统呈现了2002年至2024年二十多年间,中国各省份以及分性别人群的平均受教育年限变化。通过对这些长期、多维度的数据进行深入分析,能够清晰刻画不同区域教育发展水平的动态演进轨迹,精准揭示男女两性在教育机会获取和教育成果上的差异及其变迁趋势。计算公式:平均受教育年限=(文盲人数*1+小学学历人数*6+初中学历人数*9+高中和中专学历人数*12+大专及本科以上学历人数*16)/ 6岁以上人口总数一、数据介绍数据名称:平均受教育年限测算-各地区、分性别数据范围:31个省份时间范围:2002-2024年样本数量:714条数据来源:中国省级数据库6.0更新时间:2025年6月更多说明:包括原始、线性插值、回归填补3个版本二、数据指标行政区划代码地区年份6岁及6岁以上人口数6岁及6岁以上男性人口数6岁及6岁以上女性人口数6岁及6岁以上未上过学人口数6岁及6岁以上未上过学男性人口数6岁及6岁以上未上过学女性人口数6岁及6岁以上小学人口数6岁及6岁以上小学男性人口数6岁及6岁以上小学女性人口数6岁及6岁以上初中人口数6岁及6岁以上初中男性人口数6岁及6岁以上初中女性人口数6岁及6岁以上高中人口数6岁及6岁以上高中男性人口数6岁及6岁以上高中女性人口数6岁及6岁以上大专及以上人口数6岁及6岁以上大专及以上男性人口数6岁及6岁以上大专及以上女性人口数人均受教育年限男性-人均受教育年限女性-人均受教育年限
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值