Hadoop安装详细步骤
Hadoop是一个开源的大数据处理框架,由Apache基金会开发和维护。它提供了一个分布式的文件系统和一个MapReduce计算框架,用于处理大规模数据。
1. 固定IP设置
在安装Hadoop之前,需要设置固定IP,以便节点之间可以通信。修改配置文件/etc/sysconfig/network-scripts/ifcfg-eth0
,添加以下内容:
ONBOOT=yes
NM_CONTROLLED=yes
BOOTPROTO=static
IPADDR=192.168.128.130
NETMASK=255.0
GATEWAY=192.168.128.2
DNS1=192.168.128.2
然后,重启网络服务,输入命令service network restart
。克隆节点后,需要修改网络配置文件/etc/sysconfig/network-scripts/ifcfg-eth0
,将DEVICE和HWADDR的值修改为克隆节点的值,同时,修改IPADDR的值。
2. 主机名设置
修改/etc/sysconfig/network
文件,设置主机名。例如,master节点的主机名可以设置为master
,slave节点的主机名可以设置为slave1
、slave2
等。
3. IP映射
在/etc/hosts
文件中添加以下内容,以便节点之间可以通信:
192.168.128.130 master
192.168.128.131 slave1
192.168.128.132 slave2
4. 免密SSH设置
使用ssh-keygen
命令生成私有密钥和公有密钥。然后,使用ssh-copy-id
命令将公有密钥复制到远程机器中。
5. 时间同步服务
安装NTP服务,以便节点之间可以同步时间。在master节点上,使用以下命令:
vim /etc/ntp.conf
注释掉以server
开头的行,并添加以下内容:
restrict 192.168.128.2 mask 255.0 nomodify notrap
server 127.1.0
fudge 127.1.0 stratum 10
在slave节点上,同样进行配置。