大数据生态圈

大数据在实际生产环境的前期准备

2017-10-04  本文已影响25人  z小赵

生产环境的准备主要分为两个方面讲解,分 别为系统层面和软件层面,废话不多说,搞起来!

一.系统层面:

1.IP地址的选择,尽可能的将集群的IP地址选在同一个网段

2.主机名的命名方式 :

eg:  bigdata-cdh01.test.com. bigdata-cdh02.test.com. bigdata-cdh03.test.com

3.修改各台主机的主机名,运行如下命令(必须是在root用户下才能修改主机名):

hostname  bigdata-cdh01.test.com         临时修改,系统重启失效

vi   /etc/sysconfig/network                        永久修改主机名,修改结果如下图所示

修改后的主机名

4.在每台机器上做IP与主机名的映射处理,执行如下命令,然后禁用IPv6:(注意:如果是在windows下访问,在win下也要配置,在root用户下执行

vi     /etc/hosts        执行结果如下截图所示

echo  "alia  net-pf-10  off"   >>  /etc/modprobe.d/dist.conf

echo "alia  ipv6  off"  >> /etc/modprobe.d/dist.conf

5.创建普通用户,用于安装软件,执行如下命令(注意:此操作必须在root用户下执行,并且每台机器的这个用户名和密码必须必须必须一致):

adducer   test              后面为用户名,根据自己的情况自己定义

passed     test              后面为密码,根据自己的情况定义

su   -   用户名               切换账户名

6.配置普通用户的sudo权限,执行如下命令(注意:此操作依旧在root用户下执行):

chmod   u+w       /etc/sudoers         为该文件附写文件的权限

vi   /etc/sudoers                                编辑该文件

在文件的首行添加的内容如下:

test(用户名)     ALL=(root)NOPASSWD:ALL

chmod    u-w       /etc/sudoers         收回权限

7.关闭防火墙,禁用Selinux:

sudo   chkconfig  iptables  off        永久关闭防火墙

sudo  vi  /etc/sysconfig/selinux      修改selinux,修改内容如下截图所示

8.卸载Linux自带的JDK,执行如下命令:

sudo  rpm  -qa | grep  java

sudo rpm  -e  --nodeps   XXXXXXXX

9.设置文件打开数据和用户的最大进程:

查看文件打开数量(ulimit  -a)

查看用户的最大进程数(ulimit -u)

执行如下命令修改这两个参数:

sudo  vi  /etc/security/limits.conf

添加的内容如下:

*  soft  nofile  65535

*  hard  nofile  65535

*  soft   nproc   32000

*  hard  nproc    32000

二.软件层面的配置

1.集群时间的同步(以集群中的一台机器作为时间服务器):

sudo  rpm  -qa | grep  ntp             查看是否安装了ntp服务

sudo vim  /etc/ntp.conf                 修改ntp的配置文件,修改内容如下图1所示

sudo vim /etc/sysconfig/ntpd       同步硬件时间,增加如下一行内容即可

SYNC_HWCLOCK=yes

sudo  service  ntpd  status        查看ntp是否启动

sudo service  ntpd  start            启动ntp服务

sudo  chkconfig  ntpd  on           永久启动ntp服务

在要执行时间同步的机器上做一个定时任务,执行如下命令,必须在root用户下

crontab  -l        查看定时任务

crontab  -e       编写定时任务,编辑内容如下:

0-59/10 * * * *  /usr/sbin/ntpdate  bigdata-cdh01.test.com (这里指的是被指定的时间服务器)

图1

        至此,基础配置已全部完成,然后将所有机器全部重启,下一篇将介绍本地yum源的搭建方式。欢迎关注,如需转载,请注明转载来源,谢谢!

上一篇 下一篇

猜你喜欢

热点阅读