hadoop部署（Hadoop部署方式分三种）

本篇文章给大家谈谈hadoop部署，以及Hadoop部署方式分三种对应的知识点，希望对各位有所帮助，不要忘了收藏本站喔。

本文目录一览：

• 1、hadoop集群部署方式以及使用场景
• 2、如何部署hadoop分布式文件系统
• 3、4、Hadoop-HDFS部署步骤（1.X）

hadoop集群部署方式以及使用场景

hadoop集群部署方式以及使用场景如下毁改燃：

1、独立模式：又称为单机模式，在该模式下，无需运行任何守护进程，歼迟所有的程序都在单个JVM上执行。独立模式下调试Hadoop集群的MapReduce程序非常方便，所以一般情况下，该模式在学习或者开发阶段调试使用。

2、伪分布式模式：Hadoop程序的守护进程运行在一台节点上，通常使用伪分布式模式用来调试Hadoop分布式程序的代码，以及程序执行是否正确，伪分布式模式是完全分布式模式的纤虚一个特例。

如何部署hadoop分布式文件系统

一、实战环境

系统版本：CentOS 5.8x86_64

JAVA版本：JDK-1.7.0_25

Hadoop版本：hadoop-2.2.0

192.168.149.128namenode （充当namenode、secondary namenode和ResourceManager角色）

192.168.149.129datanode1 （充当datanode、nodemanager角色）

192.168.149.130datanode2 （充当datanode、nodemanager角色）

二、系统准备

1、Hadoop可以从Apache官方网站直接下载最新版本Hadoop2.2。官方目前是提供了linux32位系统斗蚂可执行文件，所以如果需要在64位系统上部署则需要单独下载src 源码自行编译。（如果是真实线上环境，请下载64位hadoop版本，这样可以避免很多问题，这里我实验采用的是32位版本）

1234 Hadoop

Java

2、我们这里采用三台CnetOS服务器来搭建Hadoop集群，分别的角色如上已经注明。

第一步：我们需要在三台服务器的/etc/hosts里面设置对应的主机名如下卜销慧（真实环境可以使用内网DNS解析）

[root@node1 hadoop]# cat /etc/hosts

# Do not remove the following line, or various programs

# that require network functionality will fail.

127.0.0.1localhost.localdomain localhost

192.168.149.128node1

192.168.149.129node2

192.168.149.130node3

（注* 我们需要在namenode、datanode三台服务器上都配置hosts解析）

第二步：型答从namenode上无密码登陆各台datanode服务器，需要做如下配置:

在namenode 128上执行ssh-keygen，一路Enter回车即可。

然后把公钥/root/.ssh/id_rsa.pub拷贝到datanode服务器即可，拷贝方法如下：

ssh-copy-id -i .ssh/id_rsa.pub root@192.168.149.129

ssh-copy-id -i .ssh/id_rsa.pub root@192.168.149.130

三、Java安装配置

tar -xvzf jdk-7u25-linux-x64.tar.gz mkdir -p /usr/java/ ; mv /jdk1.7.0_25 /usr/java/ 即可。

安装完毕并配置java环境变量，在/etc/profile末尾添加如下代码：

export JAVA_HOME=/usr/java/jdk1.7.0_25/

export PATH=$JAVA_HOME/bin:$PATH

export CLASSPATH=$JAVE_HOME/lib/dt.jar:$JAVE_HOME/lib/tools.jar:./

保存退出即可，然后执行source /etc/profile 生效。在命令行执行java -version 如下代表JAVA安装成功。

[root@node1 ~]# java -version

java version "1.7.0_25"

Java(TM) SE Runtime Environment (build 1.7.0_25-b15)

Java HotSpot(TM) 64-Bit Server VM (build 23.25-b01, mixed mode)

（注* 我们需要在namenode、datanode三台服务器上都安装Java JDK版本）

四、Hadoop版本安装

官方下载的hadoop2.2.0版本，不用编译直接解压安装就可以使用了，如下：

第一步解压:

tar -xzvf hadoop-2.2.0.tar.gz mv hadoop-2.2.0/data/hadoop/

（注* 先在namenode服务器上都安装hadoop版本即可，datanode先不用安装，待会修改完配置后统一安装datanode）

第二步配置变量：

在/etc/profile末尾继续添加如下代码，并执行source /etc/profile生效。

export HADOOP_HOME=/data/hadoop/

export PATH=$PATH:$HADOOP_HOME/bin/

export JAVA_LIBRARY_PATH=/data/hadoop/lib/native/

（注* 我们需要在namenode、datanode三台服务器上都配置Hadoop相关变量）

五、配置Hadoop

在namenode上配置，我们需要修改如下几个地方：

1、修改vi /data/hadoop/etc/hadoop/core-site.xml 内容为如下：

?xml version="1.0"?

?xml-stylesheet type="text/xsl"href=\'#\'" Put site-specific property overrides inthisfile. --

configuration

property

namefs.default.name/name

valuehdfs://192.168.149.128:9000/value

/property

property

namehadoop.tmp.dir/name

value/tmp/hadoop-${user.name}/value

descriptionA base forother temporary directories./description

/property

/configuration

2、修改vi /data/hadoop/etc/hadoop/mapred-site.xml内容为如下：

?xml version="1.0"?

?xml-stylesheet type="text/xsl"href=\'#\'" Put site-specific property overrides inthisfile. --

configuration

property

namemapred.job.tracker/name

value192.168.149.128:9001/value

/property

/configuration

3、修改vi /data/hadoop/etc/hadoop/hdfs-site.xml内容为如下：

?xml version="1.0"encoding="UTF-8"?

?xml-stylesheet type="text/xsl"href=\'#\'" /name

value/data/hadoop/data_name1,/data/hadoop/data_name2/value

/property

property

namedfs.data.dir/name

value/data/hadoop/data_1,/data/hadoop/data_2/value

/property

property

namedfs.replication/name

value2/value

/property

/configuration

4、在/data/hadoop/etc/hadoop/hadoop-env.sh文件末尾追加JAV_HOME变量：

echo "export JAVA_HOME=/usr/java/jdk1.7.0_25/" /data/hadoop/etc/hadoop/hadoop-env.sh

5、修改 vi /data/hadoop/etc/hadoop/masters文件内容为如下：

192.168.149.128

6、修改vi /data/hadoop/etc/hadoop/slaves文件内容为如下：

192.168.149.129

192.168.149.130

如上配置完毕，以上的配置具体含义在这里就不做过多的解释了，搭建的时候不明白，可以查看一下相关的官方文档。

如上namenode就基本搭建完毕，接下来我们需要部署datanode，部署datanode相对简单，执行如下操作即可。

1 fori in`seq 129130` ; doscp -r /data/hadoop/ root@192.168.149.$i:/data/ ; done

自此整个集群基本搭建完毕，接下来就是启动hadoop集群了。

[img]

4、Hadoop-HDFS部署步骤（1.X）

        · 依赖软件ssh、jdk

        · 环境的配置

                Java_Home

                免密钥

        · 时间同步

         ·  hosts、hostname

        ·  /opt/sxt/

        ·  配置文件新修改

                Java_Home

         ·  角色在哪里启动

           部署参考步骤（请点击此处）

    （1）设置ssh免密钥

ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa

cat ~/.ssh/id_dsa.pub ~/.ssh/authorized_keys

此时可检验是否设置成功，尝试免密登录本机，如下

    （2）安装jdk 

首先利用xftp将安装包导入，再解压安装

解压后，java所在目录位置如下   /usr/java

配置环境变量，打开  vi  /etc/profile    追加下面两行

保存退出后，是设置系统配置，linux下使用source /etc/profile保存配置后，新的环境变量只能在一个终端里面有效。

（3）hadoop部署

利用xftp将hadoop-2.6.5.tar.gz包上传，解压安装

新建目录存放派敬纤hadoop

配置hadoop环境变量，增加如下两行

进入如下目录修改hadoop-env.sh等配置文件，首先修改hadoop-env.sh文件，改后如下

其次、修改mapred-env.sh，/usr/java/jdk1.8.0_261-amd64

修改yarn-env.sh

其次修改etc/hadoop下的core-site.xml和hdfs-site.xml,使主节点位置可知

```

configuration

    property

        namefs.defaultFS/name

        valuehdfs://node01:9000/value

 尘仿   /property

    property

        namehadoop.tmp.dir/name

        value/var/sxt/hadoop/local/value

    /property

/configuration

```

```

configuration

    property

        namedfs.replication/name

        value1/value

    /property

    property

        namedfs.namenode.secondary.http-address/稿核name

        valuenode01:50090/value

    /property

/configuration

```

配置slaves文件，使DataNode可知，修改如下，如以后还有namenode，可添加

随后格式化 hdfs namenode -format   显示successfully则配置成功

启动，如报错，在查看下方日志文件排错

访问node01：50070   如下所示，成功！

计划：node01 ： NameNode

           node02 ： SecondaryNode    DataNode

          node03 node04 ： DataNode

（1）安装jdk，配置环境变量，设置ssh免密钥（将node01d1ssh的id_dsa.pub写到其他三个节点）

此时查看node02中.ssh下目录

或者直接将node01的authorized_keys追加到node02的.ssh下，如下所示，此时node01可以免密登录node02

之后node03和node04依次执行图3-1和图3-2的命令。校准四个系统时间

修改node01的core-site.xml

进入node01的sxt目录将hadoop-2.6.5拷贝到node02（03、04都要执行相同步骤）的同目录下（node02下的opt/sxt）

经过以上步骤配置完成，再从node01进行格式化

hdfs namenode -format

关于hadoop部署和Hadoop部署方式分三种的介绍到此就结束了，不知道你从中找到你需要的信息了吗 ？如果你还想了解更多这方面的信息，记得收藏关注本站。