使用 docker 一键搭建 hadoop,hbase, hive 等大数据集群

该资源提供了构建和启动Hadoop、Zookeeper、Kafka、HBase、ES、Redis、Hive、Spark和Phoenix集群的详细说明。通过运行特定脚本,可以在CentOS7.5环境下构建所需镜像,并创建预配置的容器。容器间已实现免密登录,且包含了如格式化HDFS、设置MySQL root密码等初始化操作。启动脚本分别对应各个服务,方便后续使用。

注意

资源的下载地址:
链接:https://pan.baidu.com/s/1kPIsw62TpUHQp7HN6r4HAw?pwd=mfyx 提取码:mfyx
有问题联系我:lizhenchao@atguigu.cn

脚本的运行环境: centos7.5 +

目录说明

  • 不要更改docker_bigdata及子目录的目录结构
  • 进入到docker_bigdata目录下再执行脚本

镜像构建说明

  • build_all.sh 可以构建需要用到的所有镜像, 运行的时候, 根据自己的需要选择需要构建的镜像,最后会创建 3 个容器 hadoop162, hadoop163, hadoop164
  • 容器构建后, 直接可用的环境包括
    1. hadoop集群
    2. zookeeper集群
    3. kafka集群
    4. hbase集群
    5. es集群
    6. redis
    7. hive
    8. spark
    9. Phoenix

容器启动说明

  • contains.sh start 启动集群容器
  • 启动的时候会自动根据当前宿主机的 ip 进行配置, 3 个容器的 ip 分别是 xxx.162, xxx.163, xxx.164, xxx 是根据当前宿主的 ip 自动获取的
  • 内置了root和atguigu用户, 密码均为aaaaaa
  • 容器第一次启动已经完成的事情
    1. 虚拟机与容器之间免密登录
    2. 容器与容器之间免密登录
    3. 格式化hdfs
    4. 给mysql的root用户设置密码为aaaaaa

特别说明

  • 容器一旦创建成功之后, 以后使用的时候启动即可
  • 启动 hadoop: hadoop.sh start
  • 启动 kafka: kafka.sh start
  • 启动 zookeeper: zk start
  • 启动 hbase: start-hbase.sh
评论 15
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值