Cloudera大数据平台环境搭建(CDH5.13.1)傻瓜式说明书

更新时间:2024-01-25 20:41:01 阅读量: 教育文库 文档下载

说明:文章内容仅供预览,部分内容可能不全。下载后的文档,内容与下面显示的完全一致。下载之前请确认下面内容是否您想要的,是否完整无缺。

Cloudera大数据平台环境搭建

(CDH5.13.1版)

版本 作者 发布日期 v1.0 郭维忠 2018-03-10

Cloudera大数据平台环境搭建(CDH5.13.1)

目录

Cloudera大数据平台环境搭建 ........................................................................................................................................................................ 1 (CDH5.13.1版) .................................................................................................................................................................................................. 1 1.

基础环境 ............................................................................................................................................................................................................. 4

1.1. 1.2. 1.3. 1.4. 1.5. 1.6. 1.7. 1.8. 1.9. 1.10. 1.11. 1.12.

软件环境 ......................................................................................................................................................................................................................... 4 配置规划 ......................................................................................................................................................................................................................... 4 所需要的软件资源 ..................................................................................................................................................................................................... 4 修改机器名(所有节点) ...................................................................................................................................................................................... 5 设置防火墙(所有节点) ...................................................................................................................................................................................... 6 配置免密码登录SSH ................................................................................................................................................................................................. 6 关闭SELINUX(所有节点) ................................................................................................................................................................................. 8 修改Linux内核参数(所有节点) ................................................................................................................................................................... 8 其他安装与配置(所有节点) ......................................................................................................................................................................... 10 配置NTP服务 ........................................................................................................................................................................................................... 10 安装oracle JDK1.8 (所有节点) .................................................................................................................................................................. 12 Mysql安装(主节点) ......................................................................................................................................................................................... 13

2. 安装CM ............................................................................................................................................................................................................ 15

2.1. 2.2. 2.3. 2.4. 2.5. 2.6. 2.7. 2.8.

传包,解包 ................................................................................................................................................................................................................. 15 创建数据库 ................................................................................................................................................................................................................. 15 创建用户 ...................................................................................................................................................................................................................... 16 制作本地YUM源 ..................................................................................................................................................................................................... 16 拷贝jar包 ................................................................................................................................................................................................................... 17 修改cloudera-scm-agent配置.......................................................................................................................................................................... 17 启动CM Server和Agent ..................................................................................................................................................................................... 18 访问CM ........................................................................................................................................................................................................................ 18

3. 安装CDH ......................................................................................................................................................................................................... 18

3.1. 3.2. 3.3. 3.4. 3.5. 3.6. 3.7. 3.8. 3.9. 3.10.

登录后界面 ................................................................................................................................................................................................................. 18 选择CM版本 ............................................................................................................................................................................................................. 19 指定主机 ...................................................................................................................................................................................................................... 20 选择CDH版本 .......................................................................................................................................................................................................... 21 3.4.1. 出现 “主机运行状态不良”错误 ............................................................................................................................................................ 22 检查主机正确性 ....................................................................................................................................................................................................... 23 选择安装的服务 ....................................................................................................................................................................................................... 23 角色分配 ...................................................................................................................................................................................................................... 24 数据库设置 ................................................................................................................................................................................................................. 24 3.8.1. 测试连接报错: ............................................................................................................................................................................................ 25 群集设置 ...................................................................................................................................................................................................................... 26 开始安装 ...................................................................................................................................................................................................................... 28

第2页/共32页

模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

3.11.

Cloudera大数据平台环境搭建(CDH5.13.1)

安装完成 ...................................................................................................................................................................................................................... 29 3.11.1.

警告信息: ................................................................................................................................................................................................ 29

4. 常见错误 .......................................................................................................................................................................................................... 31

4.1. 4.2.

初始化数据库错误: ............................................................................................................................................................................................. 31 未能连接到 Host Monitor................................................................................................................................................................................... 32

模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第3页/共32页

Cloudera大数据平台环境搭建(CDH5.13.1)

1. 基础环境

1.1.

软件环境

本文将介绍Centos7.4 离线安装CDH和Cloudera Manager过程,软件版本如下:

NO. 1. 2. 3. 4. 5. 6. 软件名称 操作系统 JDK Clouder Manager CDH 数据库 JDBC 版本 Centos7.4 64 位 jdk-8u151-linux-x64 5.13.1 5.13.1 Mysql 5.7 mysql-connector-java-5.1.43.jar 1.2. 配置规划

本次安装共5台服务器,服务器配置及用途如下:

NO. 1. 2. 3. 4. 5. 机器名称 node168 node169 node170 node171 node172 内网IP 172.16.3.168 172.16.3.169 172.16.3.170 172.16.3.171 172.16.3.172 配置 用途 主,CM,MysqlDB 从 从 从 从 8C/32Gb/1TB 8C/32Gb/1TB 8C/32Gb/1TB 8C/32Gb/1TB 8C/32Gb/1TB 1.3. 所需要的软件资源

1) JDK环境: JDK版本:1.8.0_151 jdk-8u151-linux-x64.rpm 下载地址:

http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html

2) CM包: CM版本:5.13.1

cloudera-manager-centos7-cm5.13.1_x86_64.tar.gz

下载地址:http://archive-primary.cloudera.com/cm5/cm/5/cloudera-manager-centos7-cm5.13.1_x86_64.tar.gz

模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第4页/共32页

Cloudera大数据平台环境搭建(CDH5.13.1)

3) CDH包 CDH版本:5.13.1,

CDH-5.13.1-1.cdh5.13.1.p0.2-el7.parcel; CDH-5.13.1-1.cdh5.13.1.p0.2-el7.parcel.sha1;

manifest.json

下载地址:

http://archive-primary.cloudera.com/cdh5/parcels/5.13.1/manifest.json

http://archive-primary.cloudera.com/cdh5/parcels/5.13.1/CDH-5.13.1-1.cdh5.13.1.p0.2-el7.parcel.sha1 http://archive-primary.cloudera.com/cdh5/parcels/5.13.1/CDH-5.13.1-1.cdh5.13.1.p0.2-el7.parcel

4) JDBC连接jar包: jar包版本:5.1.43,

mysql-connector-java-5.1.43.jar

下载地址:http://central.maven.org/maven2/mysql/mysql-connector-java/5.1.43/mysql-connector-java-5.1.43.jar

1.4. 修改机器名(所有节点)

1) 修改机器名称

# hostnamectl set-hostname xxx //设置机器名 #hostname // 查看本机名 这种方式,在Centos7中可以永久性改变主机名称。 2) 每个节点机器,都要配置hosts # vi /etc/hosts 内容都改为:

127.0.0.1 localhost //建议保留此行 172.16.3.168 node168 172.16.3.169 node169 172.16.3.170 node170 172.16.3.171 node171 172.16.3.172 node172 模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第5页/共32页

Cloudera大数据平台环境搭建(CDH5.13.1)

2) 编辑 /etc/ntp.conf: # vi /etc/ntp.conf //在文件中输入上面网页内容: server 0.asia.pool.ntp.org server 1.asia.pool.ntp.org server 2.asia.pool.ntp.org server 3.asia.pool.ntp.org 3) 启动ntp服务: # systemctl start ntpd 4) 配置开机启动:

# systemctl enable ntpd.service 注意:如果ntpd 开机启动失效,有可能是因为安装了chronyd 并且是开机自启状态,所以导致ntpd开

机自启失败。

# 查看 chronyd设置状态 # systemctl status chronyd 显示如下:

以面表明,chronyd显示为开机启动状态。 将chronyd设为禁用状态:

# systemctl disable chronyd.service 模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第11页/共32页

Cloudera大数据平台环境搭建(CDH5.13.1)

此时,NTP的服务开机自启动完成! 5) 检查是否设置成功: # ntpq -p //更新时间 #timedatectl NTP客户端(所有从节点): 6) 远程客户端时间同步测试 # date # ntpdate 172.16.3.168 172.16.3.168是NTP服务端IP,显示如下信息,测试成功:

7) 客户端设置计划任务,每30分钟同步时间 #crontab -e //加入内容: 0-59/30 * * * * /usr/sbin/ntpdate 172.16.3.168 && /sbin/hwclock -w 8) 设置定时任务开机启动

//设置开机启动 # systemctl enable crond.service //查看状态 # systemctl status crond

1.11. 安装oracle JDK1.8 (所有节点)

下载rpm 安装包jdk-8u151-linux-x64.rpm

CentOS系统一般自带OpenJdk,需要卸载掉自带的OpenJdk,使用 # rpm -qa | grep java 查询java相关的包,使用

模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第12页/共32页

Cloudera大数据平台环境搭建(CDH5.13.1)

# rpm -e –nodeps +包名 强制卸载掉,下面安装oralce JDK

# rpm -ivh jdk-8u151-linux-x64.rpm 配置JAVA_HOME环境变量:

修改/etc/profile文件配置环境变量, 执行命令:

# vi /etc/profile 在profile文件最后,输入下面内容,保存并退出。

export JAVA_HOME=/usr/java/jdk1.8.0_151 export PATH=$PATH:$JAVA_HOME/bin 执行下面命令,让配置生效

# source /etc/profile //使修改立即生效 # echo $PATH //查看PATH值 # echo $JAVA_HOME //查看JAVA_HOME值 在Centos7中修改/etc/profile文件配置环境变量,机器启动后有时不生效,可以修改/etc/ bashrc文件配置环境变量:

# vi /etc/bashrc //在文件最后加入: export JAVA_HOME=/usr/java/jdk1.8.0_151 export PATH=$PATH:$JAVA_HOME/bin //使修改立即生效 # source /etc/bashrc //查看JAVA_HOME值 # echo $JAVA_HOME 1.12. Mysql安装(主节点)

到官网https://dev.mysql.com/downloads/file/?id=469456选择对应安装包: 1)

下载安装包

#wget https://cdn.mysql.com//archives/mysql-5.7/mysql-5.7.18-1.el7.x86_64.rpm-bundle.tar 2) 解压安装包

# tar -xvf mysql-5.7.18-1.el7.x86_64.rpm-bundle.tar //解压后文件列表: mysql-community-embedded-devel-5.7.18-1.el7.x86_64.rpm 模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第13页/共32页

mysql-community-devel-5.7.18-1.el7.x86_64.rpm mysql-community-client-5.7.18-1.el7.x86_64.rpm mysql-community-common-5.7.18-1.el7.x86_64.rpm mysql-community-embedded-5.7.18-1.el7.x86_64.rpm mysql-community-embedded-compat-5.7.18-1.el7.x86_64.rpm mysql-community-libs-5.7.18-1.el7.x86_64.rpm mysql-community-server-minimal-5.7.18-1.el7.x86_64.rpm mysql-community-test-5.7.18-1.el7.x86_64.rpm mysql-community-minimal-debuginfo-5.7.18-1.el7.x86_64.rpm mysql-community-libs-compat-5.7.18-1.el7.x86_64.rpm Cloudera大数据平台环境搭建(CDH5.13.1)

3) 按次序安装

按common–>libs–>client–>server的顺序安装:

# rpm -ivh mysql-community-common-5.7.18-1.el7.x86_64.rpm # rpm -ivh mysql-community-libs-5.7.18-1.el7.x86_64.rpm # rpm -ivh mysql-community-client-5.7.18-1.el7.x86_64.rpm # rpm -ivh mysql-community-server-5.7.18-1.el7.x86_64.rpm # rpm -ivh mysql-community-devel-5.7.18-1.el7.x86_64.rpm //安装下面包,否则Hue安装报连接错误 # rpm -ivh mysql-community-libs-compat-5.7.18-1.el7.x86_64.rpm 4) 启动数据库 # systemctl start mysqld 查看状态: # systemctl status mysqld 5) 修改MySQL初始密码

1、先修改配置文件/etc/my.cnf令MySQL跳过登录时的权限检验,在[mysqld]下加入一行: skip-grant-tables 2、重启MySQL #service mysqld restart 3、免密码登录MySQL。 #mysql 4、mysql客户端执行如下命令,修改root密码 mysql> use mysql; mysql> UPDATE user SET authentication_string = password('your-password') WHERE host = 'localhost' AND user = 'root'; mysql> select host,user, authentication_string, password_expired from user; mysql> update user set password_expired='N' where password_expired='Y' //密码不过期 mysql> update user set host='%' where user='root' and host='localhost'; //远程可访问 模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第14页/共32页

mysql> flush privileges; //刷新 mysql> exit;//退出 Cloudera大数据平台环境搭建(CDH5.13.1)

5、修改配置文件/etc/my.cnf删除此前新增那一行skip-grant-tables,并重启MySQL(这一步非常重要,不执行可能导致严重的安全问题) #service mysqld restart //重启 Mysql 2. 安装CM

2.1.

传包,解包

在主节点上下载相关软件包,这里将软件包下载到/data/ cdh/目录下。

#cd /data/cdh 下载Mysql JDBC包:

#wget http://central.maven.org/maven2/mysql/mysql-connector-java/5.1.43/mysql-connector-java-5.1.43.jar 下载CM:

#wget http://archive-primary.cloudera.com/cm5/cm/5/cloudera-manager-centos7-cm5.13.1_x86_64.tar.gz 下载CDH:

#wget http://archive-primary.cloudera.com/cdh5/parcels/5.13.1/manifest.json #wget http://archive-primary.cloudera.com/cdh5/parcels/5.13.1/CDH-5.13.1-1.cdh5.13.1.p0.2-el7.parcel.sha1 #wget http://archive-primary.cloudera.com/cdh5/parcels/5.13.1/CDH-5.13.1-1.cdh5.13.1.p0.2-el7.parcel 将CM解压到/opt/目录:

# tar -zxvf cloudera-manager-centos7-cm5.13.1_x86_64.tar.gz -C /opt/ # ls /opt/ cloudera cm-5.13.1 2.2. 创建数据库

在主节点上:

# mysql -h127.0.0.1 -uroot -p //加参数-h127.0.0.1 指定本机方式,否则可能不允许执行grant Enter password: \\\\输入数据库密码 //在MariaDB [(none)]>命令状态输入下面脚本: create database hive DEFAULT CHARSET utf8 COLLATE utf8_general_ci; create database amon DEFAULT CHARSET utf8 COLLATE utf8_general_ci; create database hue DEFAULT CHARSET utf8 COLLATE utf8_general_ci; 模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第15页/共32页

create database monitor DEFAULT CHARSET utf8 COLLATE utf8_general_ci; create database oozie DEFAULT CHARSET utf8 COLLATE utf8_general_ci; grant all privileges on *.* to root@localhost identified by 'root' with grant option; grant all on *.* to root@\flush privileges; exit; //复制Mysql JDBC包到/opt/cm-5.13.1/share/cmf/lib/目录 #cp mysql-connector-java-5.1.43-bin.jar /opt/cm-5.13.1/share/cmf/lib/ //初始化CM,执行下面脚本 Cloudera大数据平台环境搭建(CDH5.13.1)

# /opt/cm-5.13.1/share/cmf/schema/scm_prepare_database.sh mysql cm -hnode168 -uroot -proot --scm-host node168 scm scm scm //如果出现下面错误: java.sql.SQLException: Access denied for user 'root'@'localhost' (using password: YES) //解决办法: 在/etc/hosts 文件中,加上 127.0.0.1 localhost.node168 主节点/etc/hosts内容:

脚本/scm_prepare_database.sh 执行成功界面:

2.3. 创建用户

在所有节点上执行:

# useradd --system --home=/opt/cm-5.13.1/run/cloudera-scm-server --shell=/bin/false --comment \2.4. 制作本地YUM源

在主节点上:

//进入软件包目录 #cd /data/cdh //拷贝三个文件到/opt/cloudera/parcel-repo/目录 #cp CDH-5.13.1-1.cdh5.13.1.p0.2-el7.parcel CDH-5.13.1-1.cdh5.13.1.p0.2-el7.parcel.sha1 manifest.json /opt/cloudera/parcel-repo/ //进入/opt/cloudera/parcel-repo/目录 模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第16页/共32页

#cd /opt/cloudera/parcel-repo/ //修改文件名 Cloudera大数据平台环境搭建(CDH5.13.1)

#mv CDH-5.13.1-1.cdh5.13.1.p0.2-el7.parcel.sha1 CDH-5.13.1-1.cdh5.13.1.p0.2-el7.parcel.sha 此时/opt/cloudera/parcel-repo/目录下文件:

2.5. 拷贝jar包

在所有节点上:

//如果没有/usr/share/java/目录,则创建 # cp mysql-connector-java-5.1.43-bin.jar /usr/share/java/mysql-connector-java.jar 在主节点上:

//将mysql JDBC jar 包拷贝到 /opt/cm-5.13.1/share/cmf/lib/ 目录 #cp mysql-connector-java-5.1.43-bin.jar /opt/cm-5.13.1/share/cmf/lib/ 2.6. 修改cloudera-scm-agent配置

在主节点上,修改/opt/cm-5.13.1/etc/cloudera-scm-agent/config.ini文件:

//将config.ini server_host=localhost 内容改为server_host=172.16.3.168 # sed -i \ 在主节点上:

//将cm-5.13.1 打包,并复制到其他节点 #cd /opt #tar czf cm-5.13.1.tar.gz cm-5.13.1/ //复制到其他节点 #scp cm-5.13.1.tar.gz node169:/opt/ #scp cm-5.13.1.tar.gz node170:/opt/ #scp cm-5.13.1.tar.gz node171:/opt/ #scp cm-5.13.1.tar.gz node172:/opt/ 在所有从节点上解压:

//将cm-5.13.1 包解压 #cd opt #tar -xzvf cm-5.13.1.tar.gz 模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第17页/共32页

//解压后删除 #rm -rf cm-5.13.1.tar.gz Cloudera大数据平台环境搭建(CDH5.13.1)

2.7. 启动CM Server和Agent

在主节点上,启动cloudera-scm-server:

# /opt/cm-5.13.1/etc/init.d/cloudera-scm-server start 启动过程较慢,可通过/opt/cm-5.13.1/log/cloudera-scm-server日志,查看启动过程。 在所有节点上,启动cloudera-scm-agent:

# /opt/cm-5.13.1/etc/init.d/cloudera-scm-agent start 2.8. 访问CM

地址:http://主节点IP:7180 用户名、密码:admin

3. 安装CDH

3.1.

登录后界面

接受协议:

模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第18页/共32页

Cloudera大数据平台环境搭建(CDH5.13.1)

3.2. 选择CM版本

本文档选择Cloudera Express免费版。

模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第19页/共32页

Cloudera大数据平台环境搭建(CDH5.13.1)

3.3. 指定主机

在搜索主机名和IP地址框输入node[169-172],这里输入的内容支持正则表达式。输入后点【搜索】

按钮,出现机器列表:

选择“当前管理的主机“选择项卡,点【继续】。

模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第20页/共32页

Cloudera大数据平台环境搭建(CDH5.13.1)

3.4. 选择CDH版本

这里需要选择制作本地源时的版本,如果选择别的版本的就会去官网下载,那样安装速度会很慢。

点【继续】按钮,进入安装界面。

模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第21页/共32页

Cloudera大数据平台环境搭建(CDH5.13.1)

3.4.1. 出现 “主机运行状态不良”错误

遇到节点“主机运行状态不良”的提示,解决办法是删除故障节点Agent服务cm_guid文件:

#rm -rf /opt/cm-5.13.1/lib/cloudera-scm-agent/cm_guid 重新启动故障节点Agent服务:

#/opt/cm-5.13.1/etc/init.d/cloudera-scm-agent restart 重启故障节点Agent服务后,故障消失:

注:出现故障原因是,因为我之前在故障节点启动过cloudera-scm-agent服务。

模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第22页/共32页

Cloudera大数据平台环境搭建(CDH5.13.1)

3.5. 检查主机正确性

确保全部验证通过。

3.6. 选择安装的服务

本文选择的是安装所有服务。

模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第23页/共32页

Cloudera大数据平台环境搭建(CDH5.13.1)

3.7. 角色分配

这里应该根据实际需求和服务器的硬件参数自己选择

3.8. 数据库设置

指定的数据库名称,要与2.2节创建的数据库(hive,monitor,oozie,hue)保持一致,并输入对应的数

据库用户名和密码,为了简便这里用的是root账号名和密码。

模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第24页/共32页

Cloudera大数据平台环境搭建(CDH5.13.1)

全部输入完,之后【测试连接】:

3.8.1. 测试连接报错:

测试连接,Hue 测试报错:Unable to verify database connection:

原因是缺少Mysql mysql-community-libs-compat 安装包,安装后,问题解决:

模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第25页/共32页

//进入安装包所在目标 Cloudera大数据平台环境搭建(CDH5.13.1)

# cd /data/mysql/ # rpm -ivh mysql-community-libs-compat-5.7.18-1.el7.x86_64.rpm

测试成功后,点【继续】安装。

3.9. 群集设置

可以根据自己的实际情况更改设置,本文采用默认配置。这些配置也可以在集群安装完成后再更改。

模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第26页/共32页

Cloudera大数据平台环境搭建(CDH5.13.1)

模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第27页/共32页

Cloudera大数据平台环境搭建(CDH5.13.1)

3.10. 开始安装

安装过程没有任何错误,显示安装完成。

模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第28页/共32页

Cloudera大数据平台环境搭建(CDH5.13.1)

3.11. 安装完成

第一次安装完成后,会出现一些配置的警告信息。这些可以根据提示信息更改。

3.11.1. 警告信息:

发现节点有异常信息,显示所有主机,发现node71节点运行状态不良。

按照 主机->所有主机->进入节点查看:

模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第29页/共32页

Cloudera大数据平台环境搭建(CDH5.13.1)

选择“配置“页签,拉到页面底部,修改”主机时钟偏差阈值“,设为”从不“,点【保存更改】,异常消失。

模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第30页/共32页

Cloudera大数据平台环境搭建(CDH5.13.1)

4. 常见错误

4.1.

初始化数据库错误:

在这个环节,出现的问题较多,但总的来说,是与数据库参数配置,和帐号权限配置有关。 如在执行scm_prepare_database.sh脚本时,出现的错误:

java.sql.SQLException: Your password does not satisfy the current policy requirements 一般是由密码策略级别问题引发:

可以通过 my.cnf 配置文件关闭 validate_password 插件。

通过修改/etc/my.cnf 目录下配置文件,修改设置密码策略的级别,只需要在[mysqld]下添加一行 validate_password = off 如图所示:

编辑完配置文件后,重启mysqld服务即可生效。

模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第31页/共32页

Cloudera大数据平台环境搭建(CDH5.13.1)

4.2. 未能连接到 Host Monitor

后台tail -f /opt/cm-5.13.1/log/cloudera-scm-server/cloudera-scm-server.log 日志报错信息: com.cloudera.cmon.MgmtServiceLocatorException: Could not find a HOST_MONITORING nozzle from SCM.

此问题原因:有些网上说是由文件句柄数限制引起,所以按照网上说明进行了修改: 在主节点上,修改/opt/cm-5.13.1/etc/cloudera-scm-agent/config.ini文件:

//查看文件句柄数,显示1024,显然太小 # ulimit -n 1024 //修改限制 #vi /etc/security/limits.conf //在文件后加入下面内容: * soft nofile 100000 * hard nofile 100000 此步骤需要重启机器生效,可以设置完后再重启。

注:按照上面过程操作,但问题依然存在,后来通过用3.4节中 “主机运行状态不良”故障问题解决办法,问题得到解决。

模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311

第32页/共32页

本文来源:https://www.bwwdw.com/article/u59w.html

Top