在Ubuntu里面搭建四个节点内存怎么分配?

发布网友 发布时间：2022-04-23 17:46

我来回答

共1个回答

热心网友 时间：2022-04-14 03:18

一、硬件配置以及操作系统：
所需要的机器以及操作系统：一台mac os笔记本、一台window笔记本（CPU双核四线程，内存8G），其中mac os用于远程操作，window笔记本装有虚拟机，虚拟出3个ubuntu18.04系统（配置CPU1个线程2个，内存1.5G，硬盘分配每个70G），对于mac os（可以用window机或者linux机）的配置没有要求
使用vm创建3个ubuntu18.04系统，一个主节点：master（NameNode）和两个从节点slave1（DataNode）和slave2（DataNode）
节点IP分配：主节点IP为：192.168.0.109、从节点1IP为：192.168.0.110、从节点2IP为：192.168.0.111
虚拟机的网络选择桥接模式与物理网络的网段相同，这样有助于远程连接。
master的主机名为：sunxj-hdm,slave1的主机名为：sunxj-hds1，slave2的主机名为：sunxj-hds2，如下图所示：
定义域名：sunxj-hdm.myhd.com(master)，sunxj-hds1.myhd.com(slave1)，sunxj-hds2.myhd.com(slave2)
配置hosts，将3台的hosts配置为：
192.168.0.109 sunxj-hdm.myhd.com192.168.0.110 sunxj-hds1.myhd.com
192.168.0.111 sunxj-hds2.myhd.com
如下图所示：

注意：不能放在最下边，从注释行开始往下是配置ipv6的，ip和域名之间必须是一个tab，且域名后不能有空格，否则是ping不通的，还有3个主机必须配置相同才能互ping。
7.然后使用如下命令进行重启网络
sudo /etc/init.d/networking restart
如下图所示：

8、然后通过ping sunxj-hds1.myhd.com查看是否可以ping的通，如果是通的则配置成功，如果不通需要在找原因了，如下图所示：
在master机ping slave1和slave2

在 slave1机ping master和slave2

在 slave2机ping master和slave1

二、节点需要安装的工具：
三个节点需要安装的工具为：vm-tool、gcc、net-tools、openssh-server、vsftpd、vim（用于ftp服务）
安装顺序：
(1)sudo apt install gcc
(2) 安装vm-tool
(3)sudo apt install net-tools
(4)sudo apt install vim
(5)sudo apt install openssh-server(可以使用/etc/init.d/ssh start 启动ssh)
(6)在安装好ssh后即可远程操作，在macos中打开终端进行ssh远程连接，如下图所示：

(7)安装ftp服务并配置vsftpd请看：https://blog.csdn.net/sunxiaoju/article/details/85224602
三、安装JDK环境
1、安装java，三台主机都需要安装，安装方法请看：https://blog.csdn.net/sunxiaoju/article/details/51994559
四、创建hadoop用户
1、在master节点上使用如下命令来创建hadoop用户
sudo adser hadoop
如下图所示：

2、使用如命令把hadoop用户加入到hadoop用户组，前面一个hadoop是组名，后面一个hadoop是用户名
sudo usermod -a -G hadoop hadoop
如下图所示：

3、可以使用如下命令来查看结果
cat /etc/group |grep hadoop
如下图所示：

4、把hadoop用户赋予root权限，让他可以使用sudo命令，使用如下命令编辑
sudo vim /etc/sudoers
修改文件如下：
root ALL=(ALL) ALL hadoop ALL=(root) NOPASSWD:ALL
如下图所示：
修改前：

修改后：

5、用同样方法在slave1和slave2上创建hadoop用户。
五、建立ssh无密码登录本机
ssh生成密钥有rsa和dsa两种生成方式，默认情况下采用rsa方式。
1、首先用hadoop用户在master主机上创建ssh-key，这里我们采用rsa方式。使用如下命令(P是要大写的，后面跟""，表示无密码)
ssh-keygen -t rsa -P ""
如下图所示：

2、直接回车即可，然后就会生成相应的信息，如下图所示：

3、回车后会在~/.ssh/下生成两个文件：id_rsa和id_rsa.pub这两个文件是成对出现的，进入到该目录查看，如下图所示：

4、然后分别在slave1和slave2用同样的方法生成，然后分别用
scp id_rsa.pub hadoop@192.168.0.109:/home/sunftp/ftpdir/slave1_id_rsa.pubscp id_rsa.pub hadoop@192.168.0.109:/home/sunftp/ftpdir/slave2_id_rsa.pub
将slave1和slave2的文件上传到master上，如下图所示：

5、使用如下指令，将上传到master上的slave1_id_rsa.pub和slave2_id_rsa.pub文件移动到~/.ssh/目录
sudo mv /home/sunftp/ftpdir/slave1_id_rsa.pub slave1_id_rsa.pubsudo mv /home/sunftp/ftpdir/slave2_id_rsa.pub slave2_id_rsa.pub
如下图所示：

6、将id_rsa.pub、slave1_id_rsa.pub、slave2_id_rsa.pub追加到authorized_keys授权文件中，开始是没有authorized_keys文件的，只需要执行如下命令即可：
cat *.pub >>authorized_keys
如下图所示：

7、然后可以通过：ssh localhost测试本机无密码登录，如下图所示：

8、将master上的公钥拷贝到slave1和slave2上，使其master无密码登录slave1和slave2,首先将authorized_keys文件通过scp上传到slave1和slave2的/home/sunftp/ftpdir/目录中，使用如下命令来上传
scp authorized_keys hadoop@192.168.0.110:/home/sunftp/ftpdirscp authorized_keys hadoop@192.168.0.111:/home/sunftp/ftpdir
，如下图所示：

9、此时在slave1和slave2上的/home/sunftp/ftpdir/目录中存在authorized_keys文件文件，如下图所示：

10、分别在两台slave机器上执行1~3部，然后如下命令将公钥拷贝到~/.ssh/目录中
cp /home/sunftp/ftpdir/authorized_keys ~/.ssh/authorized_keys
如下图所示：

11、使用：sudo chmod 6 authorized_keys 修改authorized_keys的权限，如下图所示：

12、然后在mstar上无密码登录slave1和slave2，如下图所示：

13、然后在slave1上无密码登录mstar和slave2，如下图所示：

14、然后在slave2上无密码登录slave1和mstar，如下图所示：

注意：如果无法登录请查看/home/下的用户权限是否是755，如果不是则无法登录的，我的slave1就是将/home/sunxj的权限设置为：777,只需要将sunxj设置为755即可，如下图所示：

12、到此就可以在master上无密码登录slave1和slave2了。
六、安装hadoop
1、首先从https://hadoop.apache.org/releases.html下载，如下版本：

2、这里选择hadoop2.7.7的Binary版本。
3、使用scp命令将下载好的hadoop上传到master，(此时的用户名也可以使用其他的用户配置)如下图所示：

4、使用如下命令解压
tar -xzvf hadoop-2.7.7.tar.gz将hadoop-2.7.7.tar.gz
如下图所示：

5、将hadoop-2.7.7移动到/usr/目录，如下图所示：

6、查看hadoop的目录，如下图所示：

7、在hadoop-2.7.7目录中一个hdfs目录和三个子目录，如
hadoop-2.7.3/hdfs
hadoop-2.7.3/hdfs/tmp
hadoop-2.7.3/hdfs/name
hadoop-2.7.3/hdfs/data

8、在hadoop-2.7.7/etc/目录中查看需要配置的文件有：
core-site.xml
hadoop-env.sh
hdfs-site.xml
mapred-site.xml.template
yarn-env.sh
yarn-site.xml
mapred-env.sh
slaves
如下图所示：

9、首先配置core-site.xml文件，使用如下命令打开
sudo vim etc/hadoop/core-site.xml
然后在<configuration></configuration>中如下配置是读写sequence file 的 buffer size,可减少 I/O 次数。在大型的 Hadoop cluster，建议可设定为 65536 到 131072，默认值 4096.按照教程配置了131072：
<property> <name>hadoop.tmp.dir</name> <value>file:/usr/hadoop-2.7.7/hdfs/tmp</value> <description>A base for other temporary directories.</description> </property> <property> <name>io.file.buffer.size</name> <value>131072</value> </property> <property> <name>fs.defaultFS</name> <value>hdfs://sunxj-hdm.myhd.com:9000</value> </property>
注意：第一个属性中的value和我们之前创建的/usr/hadoop-2.7.7/hdfs/tmp路径要一致。
如下图所示：

属性说明：
参数
属性值
解释
fs.defaultFS
NameNode URI
hdfs://host:port/
io.file.buffer.size
131072
SequenceFiles文件中.读写缓存size设定
fs.defaultFS //为masterIP地址，其实也可以使用主机名或者域名,这个属性用来指定namenode的hdfs协议的文件系统通信地址，可以指定一个主机+端口，也可以指定为一个namenode服务（这个服务内部可以有多台namenode实现ha的namenode服务）o.file.buffer.size //该属性值单位为KB，131072KB即为默认的M,这个属性用来执行文件IO缓冲区的大小hadoop.tmp.dir //指定hadoop临时目录，前面用file:表示是本地目录。有的教程上直接使用/usr/local，我估计不加file:应该也可以。hadoop在运行过程中肯定会有临时文件或缓冲之类的，必然需要一个临时目录来存放，这里就是指定这个的。当然这个目录前面我们已经创建好了。
<!-- 也有人使用zookeeper，因此，需要在hadoop核心配置文件core-site.xml中加入zookeeper的配置：--><!-- 指定zookeeper地址 。zookeeper可以感知datanode工作状态，并且提供一些高可用性的特性。暂时不了解zookeeper，后续再说。先不加入这个配置了暂时。--><property><name>ha.zookeeper.quorum</name><value>dellserver01:2181,dellserver02:2181,dellserver03:2181,dellserver04:2181,dellserver05:2181</value></property>
10、配置 hadoop-env.sh文件，用于配置jdk目录，使用如下命令打开
sudo vim etc/hadoop/hadoop-env.sh
然后将export JAVA_HOME=${JAVA_HOME}注释掉配置成具体的路径:export JAVA_HOME=/usr/jdk1.8.0_191，否则在运行时会提示找不到JAVA_HOME，如下图所示：

11、在mapred-env.sh加入JAVA_HOME，如下图所示：

12、在yarn-env.sh加入JAVA_HOME，如下图所示：

13、配置hdfs-site.xml，使用如下命令打开文件
sudo vim etc/hadoop/hdfs-site.xml
然后在<configuration></configuration>中加入以下代码：
<property> <name>dfs.replication</name> <value>2</value> </property> <property> <name>dfs.namenode.name.dir</name> <value>file:/usr/hadoop-2.7.7/hdfs/name</value> <final>true</final> </property> <property> <name>dfs.datanode.data.dir</name> <value>file:/usr/hadoop-2.7.7/hdfs/data</value> <final>true</final> </property> <property> <name>dfs.namenode.secondary.http-address</name> <value>sunxj-hdm.myhd.com:9001</value> </property> <property> <name>dfs.webhdfs.enabled</name> <value>true</value> </property> <property> <name>dfs.permissions</name> <value>false</value> </property>
注意：其中第二个dfs.namenode.name.dir和dfs.datanode.data.dir的value和之前创建的/hdfs/name和/hdfs/data路径一致；由于有两个从主机slave1、slave2，所以dfs.replication设置为2
如下图所示：

属性说明：
配置NameNode
————————————————
版权声明：本文为CSDN博主「sxjlinux」的原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/sunxiaoju/java/article/details/85222290