hadoop安装教程（hadoop安装流程）

本篇文章给大家谈谈hadoop安装教程，以及hadoop安装流程对应的知识点，希望对各位有所帮助，不要忘了收藏本站喔。

本文目录一览：

• 1、hadoop安装及speak安装
• 2、Hadoop安装
• 3、安装hadoop的步骤有哪些
• 4、如何在linux下安装hadoop

hadoop安装及speak安装

掌握在Linux虚拟机中安装Hadoop和Spark的方法，熟悉HDFS的基本使用方法，掌握使用Spark访问本地文件和HDFS文件的方法。

进入Linux系统，参照本教程官网“实验指南”栏目的“Hadoop的安装和使用”，完成Hadoop伪分布式模式的安装。完成Hadoop的安装以后铅困，再安装Spark（Local模式）。使用hadoop用户名登录槐哪念进入Linux系统，启动Hadoop，参照相关Hadoop书籍或网络资料，或者也可以参考本教程官网的“实验指缓橘南”栏目的“HDFS操作常用Shell命令”。

Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下，开发分布式程序。充分利用集群的威力进行高速运算和存储。

Hadoop安装

创建hadoop用户

1、sudo useradd -m hadoop

2、sudo passwd hadoop

3、sudo adduser hadoop sudo

4、虚拟机：最后注销当前用户（点击屏幕右上角的齿轮，选择注销），返回登陆界面。在登陆界面中选择刚创建的hadoop 用户进行登陆。

5、重新登录检查当前用户是谁：whoami 出现hadoop 成功

6、更新aptsudo apt-get update更新apt3.安装SSH，

7、配置免密登陆sudo apt-get install sshsudo apt-get install pdsh 安装ssh

8、安装Java环境sudo apt install openjdk-8-jdk 安装java

9、vim ~/.bashrc 进入之后按I 然后输入export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64 

10、按esc 然后按:wq! 回车 完成 此步骤闷销闷改变环境变量source ~/.bashrc输入java -version检斗含验

11、安装Hadoopwget 安装命令

12、sudo tar -zxf ~/hadoop-2.9.2.tar.gz -C /usr/local 解压命令

13、cd /usr/local/ #进入用户安装目录

14、sudo mv ./hadoop-2.9.2/ ./hadoopsudo chown -R hadoop ./hadoop # 修改蚂弯文件权限（hadoop-2.9.2默认拥有者是root，这里我们让hadoop也成为拥有者）

15、cd /usr/local/hadoop./bin/hadoop version # 查看hadoop版本信息，成功显示则安装成功

16、cd /usr/local/hadoop进入目录

17、mkdir ./input创建目录

18、ls查看当前目录

19、cp ./etc/hadoop/*.xml ./input

20、./bin/hadoop jar ./share/hadoop/mapreduce/hadoop-mapreduce-examples-*.jar grep ./input ./output 'dfs[a-z.]+'

21、cat ./output/*查看

22、rm -r ./output删除output文件

23、 cd /usr

24、 cd local

25、ls

26、 cd hadoop

27、 ls

28、cd  /usr/local/hadoop/etc/hadoop/

29、Ls

30、vi hdfs-site.xml

31、cd /usr/local/hadoop

安装hadoop的步骤有哪些

hadoop2.0已经发布了稳定版本掘御了，增加了很多特性，比如HDFS HA、YARN等。最新的hadoop-2.4.1又增加了YARN HA

注意：apache提供的hadoop-2.4.1的安装包是在32位操作系统编译的厅铅，因为hadoop依赖一些C++的本地库，

所以如果在64位的操作上安装hadoop-2.4.1就需要重新在64操作系统上重新编译

（建议第一次安装用32位的系统，我将编译好的64位的也上传到群共享里了，如果有兴趣的可以自己编译一下）

前期准备就不详细说了，课堂上都介绍了

1.修改Linux主机名

2.修改IP

3.修改主机名和IP的映射关系

######注意######如果你们公司是租用的服务器或是使用的云主机（如华为用主机、阿里云主机等）

/etc/hosts里面要配置的是内网IP地址和主机名的映射关系

4.关闭防火墙

5.ssh免登陆

6.安装JDK，配置环境变量等

集群规划：

主机名 IP 安装的软件 运行的进程

HA181 192.168.1.181 jdk、hadoop NameNode、DFSZKFailoverController(zkfc)

HA182 192.168.1.182 jdk、hadoop NameNode、DFSZKFailoverController(zkfc)

HA183 192.168.1.183 jdk、hadoop ResourceManager

HA184 192.168.1.184 jdk、hadoop ResourceManager

HA185 192.168.1.185 jdk、hadoop、zookeeper DataNode、NodeManager、JournalNode、QuorumPeerMain

HA186 192.168.1.186 jdk、hadoop、zookeeper DataNode、NodeManager、JournalNode、QuorumPeerMain

HA187 192.168.1.187 jdk、hadoop、zookeeper DataNode、NodeManager、JournalNode、QuorumPeerMain

说明：

1.在hadoop2.0中通常由两个NameNode组成，一个处于active状态，另一个处于standby状态。Active NameNode对外提供服务，而Standby NameNode则扮散好不对外提供服务，仅同步active namenode的状态，以便能够在它失败时快速进行切换。

hadoop2.0官方提供了两种HDFS HA的解决方案，一种是NFS，另一种是QJM。这里我们使用简单的QJM。在该方案中，主备NameNode之间通过一组JournalNode同步元数据信息，一条数据只要成功写入多数JournalNode即认为写入成功。通常配置奇数个JournalNode

这里还配置了一个zookeeper集群，用于ZKFC（DFSZKFailoverController）故障转移，当Active NameNode挂掉了，会自动切换Standby NameNode为standby状态

2.hadoop-2.2.0中依然存在一个问题，就是ResourceManager只有一个，存在单点故障，hadoop-2.4.1解决了这个问题，有两个ResourceManager，一个是Active，一个是Standby，状态由zookeeper进行协调

安装步骤：

1.安装配置zooekeeper集群（在HA185上）

1.1解压

tar -zxvf zookeeper-3.4.5.tar.gz -C /app/

1.2修改配置

cd /app/zookeeper-3.4.5/conf/

cp zoo_sample.cfg zoo.cfg

vim zoo.cfg

修改：dataDir=/app/zookeeper-3.4.5/tmp

在最后添加：

server.1=HA185:2888:3888

server.2=HA186:2888:3888

server.3=HA187:2888:3888

保存退出

然后创建一个tmp文件夹

mkdir /app/zookeeper-3.4.5/tmp

再创建一个空文件

touch /app/zookeeper-3.4.5/tmp/myid

最后向该文件写入ID

echo 1  /app/zookeeper-3.4.5/tmp/myid

1.3将配置好的zookeeper拷贝到其他节点(首先分别在HA186、HA187根目录下创建一个weekend目录：mkdir /weekend)

scp -r /app/zookeeper-3.4.5/ HA186:/app/

scp -r /app/zookeeper-3.4.5/ HA187:/app/

注意：修改HA186、HA187对应/weekend/zookeeper-3.4.5/tmp/myid内容

HA186：

echo 2  /app/zookeeper-3.4.5/tmp/myid

HA187：

echo 3  /app/zookeeper-3.4.5/tmp/myid

2.安装配置hadoop集群（在HA181上操作）

2.1解压

tar -zxvf hadoop-2.4.1.tar.gz -C /weekend/

2.2配置HDFS（hadoop2.0所有的配置文件都在$HADOOP_HOME/etc/hadoop目录下）

#将hadoop添加到环境变量中

vim /etc/profile

export JAVA_HOME=/app/jdk1.7.0_79

export HADOOP_HOME=/app/hadoop-2.4.1

export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin

#hadoop2.0的配置文件全部在$HADOOP_HOME/etc/hadoop下

cd /home/hadoop/app/hadoop-2.4.1/etc/hadoop

2.2.1修改hadoop-env.sh

export JAVA_HOME=/app/jdk1.7.0_79

2.2.2修改core-site.xml

configuration

!-- 指定hdfs的nameservice为ns1 --

property

namefs.defaultFS/name

valuehdfs://ns1//value

/property

!-- 指定hadoop临时目录 --

property

namehadoop.tmp.dir/name

value/app/hadoop-2.4.1/tmp/value

/property

!-- 指定zookeeper地址 --

property

nameha.zookeeper.quorum/name

valueHA185:2181,HA186:2181,HA187:2181/value

/property

/configuration

2.2.3修改hdfs-site.xml

configuration

!--指定hdfs的nameservice为ns1，需要和core-site.xml中的保持一致 --

property

namedfs.nameservices/name

valuens1/value

/property

!-- ns1下面有两个NameNode，分别是nn1，nn2 --

property

namedfs.ha.namenodes.ns1/name

valuenn1,nn2/value

/property

!-- nn1的RPC通信地址 --

property

namedfs.namenode.rpc-address.ns1.nn1/name

valueHA181:9000/value

/property

!-- nn1的http通信地址 --

property

namedfs.namenode.http-address.ns1.nn1/name

valueHA181:50070/value

/property

!-- nn2的RPC通信地址 --

property

namedfs.namenode.rpc-address.ns1.nn2/name

valueHA182:9000/value

/property

!-- nn2的http通信地址 --

property

namedfs.namenode.http-address.ns1.nn2/name

valueHA182:50070/value

/property

!-- 指定NameNode的元数据在JournalNode上的存放位置 --

property

namedfs.namenode.shared.edits.dir/name

valueqjournal://HA185:8485;HA186:8485;HA187:8485/ns1/value

/property

!-- 指定JournalNode在本地磁盘存放数据的位置 --

property

namedfs.journalnode.edits.dir/name

value/app/hadoop-2.4.1/journaldata/value

/property

!-- 开启NameNode失败自动切换 --

property

namedfs.ha.automatic-failover.enabled/name

valuetrue/value

/property

!-- 配置失败自动切换实现方式 --

property

namedfs.client.failover.proxy.provider.ns1/name

valueorg.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider/value

/property

!-- 配置隔离机制方法，多个机制用换行分割，即每个机制暂用一行--

property

namedfs.ha.fencing.methods/name

value

sshfence

shell(/bin/true)

/value

/property

!-- 使用sshfence隔离机制时需要ssh免登陆 --

property

namedfs.ha.fencing.ssh.private-key-files/name

value/home/hadoop/.ssh/id_rsa/value

/property

!-- 配置sshfence隔离机制超时时间 --

property

namedfs.ha.fencing.ssh.connect-timeout/name

value30000/value

/property

/configuration

2.2.4修改mapred-site.xml

configuration

!-- 指定mr框架为yarn方式 --

property

namemapreduce.framework.name/name

valueyarn/value

/property

/configuration

2.2.5修改yarn-site.xml

configuration

!-- 开启RM高可用 --

property

   nameyarn.resourcemanager.ha.enabled/name

   valuetrue/value

/property

!-- 指定RM的cluster id --

property

   nameyarn.resourcemanager.cluster-id/name

   valueyrc/value

/property

!-- 指定RM的名字 --

property

   nameyarn.resourcemanager.ha.rm-ids/name

   valuerm1,rm2/value

/property

!-- 分别指定RM的地址 --

property

   nameyarn.resourcemanager.hostname.rm1/name

   valueHA183/value

/property

property

   nameyarn.resourcemanager.hostname.rm2/name

   valueHA184/value

/property

!-- 指定zk集群地址 --

property

   nameyarn.resourcemanager.zk-address/name

   valueHA185:2181,HA186:2181,HA187:2181/value

/property

property

   nameyarn.nodemanager.aux-services/name

   valuemapreduce_shuffle/value

/property

/configuration

2.2.6修改slaves(slaves是指定子节点的位置，因为要在HA181上启动HDFS、在HA183启动yarn，

所以HA181上的slaves文件指定的是datanode的位置，HA183上的slaves文件指定的是nodemanager的位置)

HA185

HA186

HA187

2.2.7配置免密码登陆

#首先要配置HA181到HA182、HA183、HA184、HA185、HA186、HA187的免密码登陆

#在HA181上生产一对钥匙

ssh-keygen -t rsa

#将公钥拷贝到其他节点，包括自己

ssh-copy-id HA181

ssh-copy-id HA182

ssh-copy-id HA183

ssh-copy-id HA184

ssh-copy-id HA185

ssh-copy-id HA186

ssh-copy-id HA187

#配置HA183到HA184、HA185、HA186、HA187的免密码登陆

#在HA183上生产一对钥匙

ssh-keygen -t rsa

#将公钥拷贝到其他节点

ssh-copy-id HA184

ssh-copy-id HA185

ssh-copy-id HA186

ssh-copy-id HA187

#注意：两个namenode之间要配置ssh免密码登陆，别忘了配置HA182到HA181的免登陆

在HA182上生产一对钥匙

ssh-keygen -t rsa

ssh-copy-id -i HA181

2.4将配置好的hadoop拷贝到其他节点

scp -r /app/hadoop-2.5.1/ HA182:/app/

scp -r /app/hadoop-2.5.1/ HA183:/app/

scp -r /app/hadoop-2.5.1/ HA184:/app/

scp -r /app/hadoop-2.5.1/ HA185:/app/

scp -r /app/hadoop-2.5.1/ HA186:/app/

scp -r /app/hadoop-2.5.1/ HA187:/app/

###注意：严格按照下面的步骤

2.5启动zookeeper集群（分别在HA185、HA186、tcast07上启动zk）

cd /app/zookeeper-3.4.5/bin/

./zkServer.sh start

#查看状态：一个leader，两个follower

./zkServer.sh status

2.6启动journalnode（分别在在HA185、HA186、HA187上执行）

cd /app/hadoop-2.5.1

hadoop-daemon.sh start journalnode

#运行jps命令检验，HA185、HA186、HA187上多了JournalNode进程

2.7格式化ZKFC(在HA181上执行即可) hdfs zkfc -formatZK

2.8格式化HDFS

#在HA181上执行命令:

hdfs namenode -format

#格式化后会在根据core-site.xml中的hadoop.tmp.dir配置生成个文件，这里我配置的是/app/hadoop-2.4.1/tmp，然后将/weekend/hadoop-2.4.1/tmp拷贝到HA182的/weekend/hadoop-2.4.1/下。

scp -r tmp/ HA182:/app/hadoop-2.5.1/

##也可以这样，建议hdfs namenode -bootstrapStandby

2.9启动HDFS(在HA181上执行)

sbin/start-dfs.sh

2.10启动YARN(#####注意#####：是在HA183上执行start-yarn.sh，把namenode和resourcemanager分开是因为性能问题，因为他们都要占用大量资源，所以把他们分开了，他们分开了就要分别在不同的机器上启动)

sbin/start-yarn.sh

到此，hadoop-2.4.1配置完毕，可以统计浏览器访问:

NameNode 'HA181:9000' (active)

NameNode 'HA182:9000' (standby)

验证HDFS HA

首先向hdfs上传一个文件

hadoop fs -put /etc/profile /profile

hadoop fs -ls /

然后再kill掉active的NameNode

kill -9 pid of NN

通过浏览器访问：

NameNode 'HA182:9000' (active)

这个时候HA182上的NameNode变成了active

在执行命令：

hadoop fs -ls /

-rw-r--r--   3 root supergroup       1926 2014-02-06 15:36 /profile

刚才上传的文件依然存在！！！

手动启动那个挂掉的NameNode

sbin/hadoop-daemon.sh start namenode

通过浏览器访问：

NameNode 'HA181:9000' (standby)

验证YARN：

运行一下hadoop提供的demo中的WordCount程序：

hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.4.1.jar wordcount /profile /out

OK，大功告成！！！

CID-74d21742-3e4b-4df6-a99c-d52f703b49c0

测试集群工作状态的一些指令 ：

bin/hdfs dfsadmin -report  查看hdfs的各节点状态信息

bin/hdfs haadmin -getServiceState nn1  获取一个namenode节点的HA状态

sbin/hadoop-daemon.sh start namenode  单独启动一个namenode进程

./hadoop-daemon.sh start zkfc   单独启动一个zkfc进程

[img]

如何在linux下安装hadoop

如何在linux下安装hadoop

建议使用自动化部署吧。 这个还是不太难做到哦。 能否看一下my网名呢？帮助搞定一下

一、前期准备:

下载hadoop: :hadoop.apache./core/releases.

:hadoop.apache./mon/releases.

:apache./dyn/closer.cgi/hadoop/core/

:labs.xiaonei./apache-mirror/hadoop/core/hadoop-0.20.1/hadoop-0.20.1.tar.gz

:labs.xiaonei./apache-mirror/hadoop/

二、硬体环境

共有3台机器，均使用的CentOS，Java使用的是jdk1.6.0。

三、安装JAVA6

sudo apt-get install sun-java6-jdk

/etc/environment

开启之后加入：#中间是以英文的冒号隔开，记得windows中是以英文的分号做为宏没分隔的

CLASSPATH=.:/usr/local/java/lib

JAVA_HOME=/usr/local/java

三、配置host表

[root@hadoop ~]# vi /etc/hosts

127.0.0.1 localhost

192.168.13.100 namenode

192.168.13.108 datanode1

192.168.13.110 datanode2

[root@test ~]# vi /etc/hosts

127.0.0.1 localhost

192.168.13.100 namenode

192.168.13.108 datanode1

[root@test2 ~]# vi /etc/host

127.0.0.1 localhost

192.168.13.100 namenode

192.168.13.110 datanode2

新增使用者和使用者组

addgroup hadoop

adduser hadoop

usermod -a -G hadoop hadoop

passwd hadoop

配置ssh:

服务端:

su hadoop

ssh-keygen -t rsa

cp id_rsa.pub authorized_keys

客户端

chmod 700 /home/hadoop

chmod 755 /home/hadoop/.ssh

su hadoop

cd /home

mkdir .ssh

服务端:

chmod 644 /home/hadoop/.ssh/authorized_keys

scp authorized_keys datanode1:/home/hadoop/.ssh/

scp authorized_keys datanode2:/home/hadoop/.ssh/

ssh datanode1

ssh datanode2

　如果ssh配置好了就会蔽和纳出现以下提示棚纤资讯

The authenticity of host [dbrg-2] can't be established.

Key fingerpr is 1024 5f:a0:0b:65:d3:82:df:ab:44:62:6d:98:9c:fe:e9:52.

Are you sure you want to continue connecting (yes/no)?

OpenSSH告诉你它不知道这台主机但是你不用担心这个问题你是第次登入这台主机键入“yes”这将把

这台主机“识别标记”加到“~/.ssh/know_hosts”档案中第 2次访问这台主机时候就不会再显示这条提示信

不过别忘了测试本机ssh　dbrg-1

　

mkdir /home/hadoop/HadoopInstall

tar -zxvf hadoop-0.20.1.tar.gz -C /home/hadoop/HadoopInstall/

cd /home/hadoop/HadoopInstall/

ln -s hadoop-0.20.1 hadoop

export JAVA_HOME=/usr/local/java

export CLASSPATH=.:/usr/local/java/lib

export HADOOP_HOME=/home/hadoop/HadoopInstall/hadoop

export HADOOP_CONF_DIR=/home/hadoop/hadoop-conf

export PATH=$HADOOP_HOME/bin:$PATH

cd $HADOOP_HOME/conf/

mkdir /home/hadoop/hadoop-conf

cp hadoop-env.sh core-site.xml hdfs-site.xml mapred-site.xml masters slaves /home/hadoop/hadoop-conf

vi $HADOOP_HOME/hadoop-conf/hadoop-env.sh

# The java implementation to use. Required. --修改成你自己jdk安装的目录

export JAVA_HOME=/usr/local/java

export HADOOP_CLASSPATH=.:/usr/local/java/lib

# The maximum amount of heap to use, in MB. Default is 1000.--根据你的记忆体大小调整

export HADOOP_HEAPSIZE=200

vi /home/hadoop/.bashrc

export JAVA_HOME=/usr/local/java

export CLASSPATH=.:/usr/local/java/lib

export HADOOP_HOME=/home/hadoop/HadoopInstall/hadoop

export HADOOP_CONF_DIR=/home/hadoop/hadoop-conf

export PATH=$HADOOP_HOME/bin:$PATH

配置

namenode

#vi $HADOOP_CONF_DIR/slaves

192.168.13.108

192.168.13.110

#vi $HADOOP_CONF_DIR/core-site.xml

?xml version="1.0"?

?xml-stylesheet type=text/xsl href="configuration.xsl"?

!-- Put site-specific property overrides in this file. --

configuration

property

namefs.default.name/name

valuehdfs:192.168.13.100:9000/value

/property

/configuration

#vi $HADOOP_CONF_DIR/hdfs-site.xml

?xml version="1.0"?

?xml-stylesheet type=text/xsl href="configuration.xsl"?

!-- Put site-specific property overrides in this file. --

configuration

property

namedfs.replication/name

value3/value

descriptionDefault block replication.

The actual number of replications can be specified when the file is created.

The default is used if replication is not specified in create time.

/description

/property

/configuration

#vi $HADOOP_CONF_DIR/mapred-site.xml

?xml version="1.0"?

?xml-stylesheet type=text/xsl href="configuration.xsl"?

!-- Put site-specific property overrides in this file. --

configuration

property

namemapred.job.tracker/name

value192.168.13.100:11000/value

/property

/configuration

~

在slave上的配置档案如下(hdfs-site.xml不需要配置)：

[root@test12 conf]# cat core-site.xml

?xml version="1.0"?

?xml-stylesheet type=text/xsl href="configuration.xsl"?

!-- Put site-specific property overrides in this file. --

configuration

property

namefs.default.name/name

valuehdfs:namenode:9000/value

/property

/configuration

[root@test12 conf]# cat mapred-site.xml

?xml version="1.0"?

?xml-stylesheet type=text/xsl href="configuration.xsl"?

!-- Put site-specific property overrides in this file. --

configuration

property

namemapred.job.tracker/name

valuenamenode:11000/value

/property

/configuration

启动

export PATH=$HADOOP_HOME/bin:$PATH

hadoop namenode -format

start-all.sh

停止s-all.sh

在hdfs上建立danchentest资料夹，上传档案到此目录下

$HADOOP_HOME/bin/hadoop fs -mkdir danchentest

$HADOOP_HOME/bin/hadoop fs -put $HADOOP_HOME/README.txt danchentest

cd $HADOOP_HOME

hadoop jar hadoop-0.20.1-examples.jar wordcount /user/hadoop/danchentest/README.txt output1

09/12/21 18:31:44 INFO input.FileInputFormat: Total input paths to process : 1

09/12/21 18:31:45 INFO mapred.JobClient: Running job: job_200912211824_0002

09/12/21 18:31:46 INFO mapred.JobClient: map 0% reduce 0%

09/12/21 18:31:53 INFO mapred.JobClient: map 100% reduce 0%

09/12/21 18:32:05 INFO mapred.JobClient: map 100% reduce 100%

09/12/21 18:32:07 INFO mapred.JobClient: Job plete: job_200912211824_0002

09/12/21 18:32:07 INFO mapred.JobClient: Counters: 17

09/12/21 18:32:07 INFO mapred.JobClient: Job Counters

09/12/21 18:32:07 INFO mapred.JobClient: Launched reduce tasks=1

检视输出结果档案，这个档案在hdfs上

[root@test11 hadoop]# hadoop fs -ls output1

Found 2 items

drwxr-xr-x - root supergroup 0 2009-09-30 16:01 /user/root/output1/_logs

-rw-r--r-- 3 root supergroup 1306 2009-09-30 16:01 /user/root/output1/part-r-00000

[root@test11 hadoop]# hadoop fs -cat output1/part-r-00000

(BIS), 1

(ECCN) 1

检视hdfs执行状态,可以通过web介面来访问:192.168.13.100:50070/dfshealth.jsp;检视map-reduce资讯，

可以通过web介面来访问:192.168.13.100:50030/jobtracker.jsp;下面是直接命令列看到的结果。

出现08/01/25 16:31:40 INFO ipc.Client: Retrying connect to server: foo.bar./1.1.1.1:53567. Already tried 1 time(s).

的原因是没有格式化:hadoop namenode -format

如何在windows下安装hadoop

建议你在windows上安装linux的虚拟机器，然后在linux上安装hadoop

1、安装Cygwin

下载cygwin的setup.exe，双击执行：

选择从Inter安装：

设定安装目录：

设定安装包目录：

设定“Inter Connection”的方式，选择“Direct Connection”：

选择一个下载站点：

“下一步”之后，可能会弹出下图的“Setup Alert”对话方块，直接“确定”即可

在“Select Packages”对话方块中，必须保证“Net Category”下的“OpenSSL”被安装：

如果还打算在eclipse 上编译Hadoop，则还必须安装“Base Category”下的“sed”：

“Devel Category”下的subversion 建议安装：

下载并安装：

当下载完后，会自动进入到“setup”的对话方块：

在上图所示的对话方块中，选中“Create icon on Desk”，以方便直接从桌面上启动

Cygwin，然后点选“完成”按钮。至此，Cgywin 已经安装完成。

2、配置环境变数

需要配置的环境变数包括PATH 和JAVA_HOME：将JDK 的bin 目录、Cygwin 的bin 目录

以及Cygwin 的usr\bin（ *** in）目录都新增到PATH 环境变数中；JAVA_HOME 指向JRE 安装目录。

3、windows系统上执行hadoop丛集，伪分散式模式安装步骤：

①启动cygwin，解压hadoop安装包。通过cygdrive（位于Cygwin根目录中）可以直接对映到windows下的各个逻辑磁碟分割槽。例如hadoop安装包放在分割槽D：\下，则解压的命令为＄ tar -zxvf /cygdrive/d/hadoop-0.20.2.tar.gz,解压后可使用ls命令检视，如下图：

预设的解压目录为使用者根目录，即D：\cygwin\home\lsq（使用者帐户）。

②编辑conf/hadoop-env.sh档案，将JAVA_HOME变数设定为java的安装目录。例如java安装在目录C：\Program Files\java\jdk1.6.0_13,如果路径没空格，直接配置即可。存在空格，需将Program Files缩写成Progra_1,如下图：

③依次编辑conf目录下的core-site.xml、mapred-site.xml和hdfs-site.xml档案，如下图：

④安装配置SSH

点选桌面上的Cygwin图示，启动Cygwin，执行ssh-host-config命令，然后按下图上的选择输入：

当提示Do you want to use a different name?输入yes，这步是配置安装的sshd服务，以哪个使用者登入，预设是cyg_server这个使用者，这里就不事先新建cyg_server这个使用者，用当前本机的超管本地使用者：chenx，后续根据提示，2次输入这个账户的密码

出现Host configuration finished. Have fun! 一般安装顺利完成。如下图：

输入命令$ start sshd，启动SSH，如下图：

注：sshd服务安装完之后，不会预设启动，如果启动报登入失败，不能启动，可在服务属性-Log On视窗手工修改，在前述的过程之中，cygwin不会校验密码是否正确，应该只是校验了2次的输入是否一致，然后再手工启动。不知道为什么，sshd服务如果选择local system的登入方式，后续会有问题，所以sshd服务最好设定成当前的登入使用者。

⑤配置ssh登入

执行ssh-keygen命令生成金钥档案

输入如下命令：

cd ~/.ssh

ls -l

cat id_rsa.pub authorized_keys

完成上述操作后，执行exit命令先退出Cygwin视窗，如果不执行这一步操作，下面的操作可能会遇到错误。接下来，重新执行Cygwin，执行ssh localhost命令，在第一次执行ssh localhost时，会有“are you sure you want to continue connectionyes/no?”提示，输入yes，然后回车即可。当出现下图提示，即顺利完成该步：

⑥hadoop执行

格式化namenode

开启cygwin视窗，输入如下命令：

cd hadoop-0.20.2

mkdir logs

bin/hadoop namenode –format

启动Hadoop

在Cygwin 中，进入hadoop 的bin 目录，

执行./start-all.sh 启动hadoop；

可以执行./hadoop fs -ls /命令，检视hadoop 的根目录；

可以执行jps 检视相关程序；

如下图：（如果显示和下图类似，一般hadoop安装/启动成功）

如何在hadoop 环境下安装hive

不行。 安装 vm 下载：去官网下 VMware-player-5.0.1-894247.zip 安装和配置ubanto 下载：去官网下 ubuntu-12.10-desk-i386.iso 开启vm，载入ubanto iso档案，进行安装更新 进入ubanto，如果是第一个进入，则需要设定root的密码

如何在ubantu环境下安装hadoop

上apache的hadoop页下编译好的包，解压，配一些档案就行了 很容易 网上教程很多

如何在 Linux 下安装 PyCharm

PyCharm 是由 Jetbrains 公司开发的一个跨平台编辑器。如果你之前是在 Windows 环境下进行开发，那么你会立刻认出 Jetbrains 公司，它就是那个开发了 Resharper 的公司。 这篇文章将讨论如何在 Linux 系统上获取、安装和执行 PyCharm 。

如何在linux下安装opencv

新建一个perl，名为bar.pl

内容如下：

#!/usr/bin/perl

while (){

chomp;

s/([^-]+) - .*/\1/g;

system "apt-get install ".$_;

}

然后apt-cache search opencv | perl bar.pl

关于hadoop安装教程和hadoop安装流程的介绍到此就结束了，不知道你从中找到你需要的信息了吗 ？如果你还想了解更多这方面的信息，记得收藏关注本站。