英 [?zu:ki:p?(r)] 美 ['zu:ki:p?r]
n. 动物园管理员
前期准备
1.修改linux主机名,每台都得配置
vim /etc/sysconfig/network
networking=yes
hostname=hadoop-server1
2.修改ip /etc/sysconfig/network-scripts/ifcfg-eth0
3.修改主机名和ip的映射关系
vim /etc/hosts
192.168.146.181 hadoop-server1
192.168.146.182 hadoop-server2
192.168.146.183 hadoop-server3
192.168.146.184 hadoop-server4
192.168.146.185 hadoop-server5
######注意######如果你们公司是租用的服务器或是使用的云主机(如华为用主机、阿里云主机等)
/etc/hosts里面要配置的是内网ip地址和主机名的映射关系
4.关闭防火墙
#查看防火墙状态
service iptables status
#关闭防火墙
service iptables stop
#查看防火墙开机启动状态
chkconfig iptables --list
#关闭防火墙开机启动
chkconfig iptables off
前4步用root用户操作,操作完后重启机器
5.ssh免登陆hadoop用户操作
#生成ssh免登陆密钥
#进入到我的home目录
cd ~/.ssh
ssh-keygen -t rsa (四个回车)
执行完这个命令后,会生成两个文件id_rsa(私钥)、id_rsa.pub(公钥)
将公钥拷贝到要免密登陆的目标机器上
ssh-copy-id hadoop-server2
6.安装jdk,配置环境变量等root用户操作
vim /etc/proflie
export java_home=/usr/java/jdk1.7.0_65
export hadoop_home=/itcast/hadoop-2.4.1
export path=$path:$java_home/bin:$hadoop_home/bin:$hadoop_home/sbin
source /etc/profile
集群规划:
主机名 ip 安装软件 运行进程
hadoop-server1 192.168.146.181:jdk、hadoop
namenode resourcemanage
dfszkfailovercontroller(zkfc)
hadoop-server2 192.168.146.182:jdk、hadoop
namenode resourcemanage
dfszkfailovercontroller(zkfc)
hadoop-server3 192.168.146.183:jdk、hadoop、zookeeper
datanode nodemanage
journalnode quorumpeermain
hadoop-server4 192.168.146.184:jdk、hadoop、zookeeper
datanode nodemanage
journalnode quorumpeermain
hadoop-server5 192.168.146.185:jdk、hadoop、zookeeper
datanode nodemanage
journalnode quorumpeermain
安装步骤:
1.安装配置zooekeeper集群(在hadoop-server3上)
1.1解压
tar -zxvf zookeeper-3.4.5.tar.gz -c /home/hadoop/app/
1.2修改配置
cd /home/hadoop/app/zookeeper-3.4.5/conf/
cp zoo_sample.cfg zoo.cfg
vim zoo.cfg
修改:datadir=/home/hadoop/app/zookeeper-3.4.5/data
在最后添加:
server.1=hadoop-server3:2888:3888
server.2=hadoop-server4:2888:3888
server.3=hadoop-server5:2888:3888
保存退出
然后创建一个tmp文件夹
mkdir /home/hadoop/app/zookeeper-3.4.5/data
再创建一个空文件
touch /home/hadoop/app/zookeeper-3.4.5/data/myid
最后向该文件写入id
echo 1 > /home/hadoop/app/zookeeper-3.4.5/data/myid
1.3将配置好的zookeeper拷贝到其他节点
scp -r /home/hadoop/app/zookeeper-3.4.5/ weekend06:/home/hadoop/app/
scp -r /home/hadoop/app/zookeeper-3.4.5/ weekend07:/home/hadoop/app/
注意:修改hadoop-server4、hadoop-server5对应/home/hadoop/app/zookeeper-3.4.5/data/myid内容
hadoop-server4:
echo 2 > /home/hadoop/app/zookeeper-3.4.5/data/myid
hadoop-server5:
echo 3 > /home/hadoop/app/zookeeper-3.4.5/data/myid
2.安装配置hadoop集群(在hadoop-server1上操作)
2.1解压
tar -zxvf hadoop-2.4.1.tar.gz -c /weekend/
2.2配置hdfs(hadoop2.0所有的配置文件都在$hadoop_home/etc/hadoop目录下)
#将hadoop添加到环境变量中
vim /etc/profile
export java_home=/hadoop/home/app/jdk1.7.0_55
export hadoop_home=/home/hadoop/app/hadoop-2.4.1
export path=$path:$java_home/bin:$hadoop_home/bin
#hadoop2.0的配置文件全部在$hadoop_home/etc/hadoop下
cd /home/hadoop/app/hadoop-2.4.1/etc/hadoop
2.2.1修改hadoo-env.sh
export java_home=/home/hadoop/app/jdk1.7.0_55
2.2.2修改core-site.xml
2.2.3修改hdfs-site.xml
sshfence
shell(/bin/true)
2.2.4修改mapred-site.xml
2.2.5修改yarn-site.xml
2.2.6修改slaves(slaves是指定子节点的位置)
hadoop-server3
hadoop-server4
hadoop-server5
节奏79508113