Cloudera大数据平台环境搭建(CDH5.13.1)傻瓜式说明书
更新时间:2024-01-25 20:41:01 阅读量: 教育文库 文档下载
Cloudera大数据平台环境搭建
(CDH5.13.1版)
版本 作者 发布日期 v1.0 郭维忠 2018-03-10
Cloudera大数据平台环境搭建(CDH5.13.1)
目录
Cloudera大数据平台环境搭建 ........................................................................................................................................................................ 1 (CDH5.13.1版) .................................................................................................................................................................................................. 1 1.
基础环境 ............................................................................................................................................................................................................. 4
1.1. 1.2. 1.3. 1.4. 1.5. 1.6. 1.7. 1.8. 1.9. 1.10. 1.11. 1.12.
软件环境 ......................................................................................................................................................................................................................... 4 配置规划 ......................................................................................................................................................................................................................... 4 所需要的软件资源 ..................................................................................................................................................................................................... 4 修改机器名(所有节点) ...................................................................................................................................................................................... 5 设置防火墙(所有节点) ...................................................................................................................................................................................... 6 配置免密码登录SSH ................................................................................................................................................................................................. 6 关闭SELINUX(所有节点) ................................................................................................................................................................................. 8 修改Linux内核参数(所有节点) ................................................................................................................................................................... 8 其他安装与配置(所有节点) ......................................................................................................................................................................... 10 配置NTP服务 ........................................................................................................................................................................................................... 10 安装oracle JDK1.8 (所有节点) .................................................................................................................................................................. 12 Mysql安装(主节点) ......................................................................................................................................................................................... 13
2. 安装CM ............................................................................................................................................................................................................ 15
2.1. 2.2. 2.3. 2.4. 2.5. 2.6. 2.7. 2.8.
传包,解包 ................................................................................................................................................................................................................. 15 创建数据库 ................................................................................................................................................................................................................. 15 创建用户 ...................................................................................................................................................................................................................... 16 制作本地YUM源 ..................................................................................................................................................................................................... 16 拷贝jar包 ................................................................................................................................................................................................................... 17 修改cloudera-scm-agent配置.......................................................................................................................................................................... 17 启动CM Server和Agent ..................................................................................................................................................................................... 18 访问CM ........................................................................................................................................................................................................................ 18
3. 安装CDH ......................................................................................................................................................................................................... 18
3.1. 3.2. 3.3. 3.4. 3.5. 3.6. 3.7. 3.8. 3.9. 3.10.
登录后界面 ................................................................................................................................................................................................................. 18 选择CM版本 ............................................................................................................................................................................................................. 19 指定主机 ...................................................................................................................................................................................................................... 20 选择CDH版本 .......................................................................................................................................................................................................... 21 3.4.1. 出现 “主机运行状态不良”错误 ............................................................................................................................................................ 22 检查主机正确性 ....................................................................................................................................................................................................... 23 选择安装的服务 ....................................................................................................................................................................................................... 23 角色分配 ...................................................................................................................................................................................................................... 24 数据库设置 ................................................................................................................................................................................................................. 24 3.8.1. 测试连接报错: ............................................................................................................................................................................................ 25 群集设置 ...................................................................................................................................................................................................................... 26 开始安装 ...................................................................................................................................................................................................................... 28
第2页/共32页
模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
3.11.
Cloudera大数据平台环境搭建(CDH5.13.1)
安装完成 ...................................................................................................................................................................................................................... 29 3.11.1.
警告信息: ................................................................................................................................................................................................ 29
4. 常见错误 .......................................................................................................................................................................................................... 31
4.1. 4.2.
初始化数据库错误: ............................................................................................................................................................................................. 31 未能连接到 Host Monitor................................................................................................................................................................................... 32
模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第3页/共32页
Cloudera大数据平台环境搭建(CDH5.13.1)
1. 基础环境
1.1.
软件环境
本文将介绍Centos7.4 离线安装CDH和Cloudera Manager过程,软件版本如下:
NO. 1. 2. 3. 4. 5. 6. 软件名称 操作系统 JDK Clouder Manager CDH 数据库 JDBC 版本 Centos7.4 64 位 jdk-8u151-linux-x64 5.13.1 5.13.1 Mysql 5.7 mysql-connector-java-5.1.43.jar 1.2. 配置规划
本次安装共5台服务器,服务器配置及用途如下:
NO. 1. 2. 3. 4. 5. 机器名称 node168 node169 node170 node171 node172 内网IP 172.16.3.168 172.16.3.169 172.16.3.170 172.16.3.171 172.16.3.172 配置 用途 主,CM,MysqlDB 从 从 从 从 8C/32Gb/1TB 8C/32Gb/1TB 8C/32Gb/1TB 8C/32Gb/1TB 8C/32Gb/1TB 1.3. 所需要的软件资源
1) JDK环境: JDK版本:1.8.0_151 jdk-8u151-linux-x64.rpm 下载地址:
http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html
2) CM包: CM版本:5.13.1
cloudera-manager-centos7-cm5.13.1_x86_64.tar.gz
下载地址:http://archive-primary.cloudera.com/cm5/cm/5/cloudera-manager-centos7-cm5.13.1_x86_64.tar.gz
模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第4页/共32页
Cloudera大数据平台环境搭建(CDH5.13.1)
3) CDH包 CDH版本:5.13.1,
CDH-5.13.1-1.cdh5.13.1.p0.2-el7.parcel; CDH-5.13.1-1.cdh5.13.1.p0.2-el7.parcel.sha1;
manifest.json
下载地址:
http://archive-primary.cloudera.com/cdh5/parcels/5.13.1/manifest.json
http://archive-primary.cloudera.com/cdh5/parcels/5.13.1/CDH-5.13.1-1.cdh5.13.1.p0.2-el7.parcel.sha1 http://archive-primary.cloudera.com/cdh5/parcels/5.13.1/CDH-5.13.1-1.cdh5.13.1.p0.2-el7.parcel
4) JDBC连接jar包: jar包版本:5.1.43,
mysql-connector-java-5.1.43.jar
下载地址:http://central.maven.org/maven2/mysql/mysql-connector-java/5.1.43/mysql-connector-java-5.1.43.jar
1.4. 修改机器名(所有节点)
1) 修改机器名称
# hostnamectl set-hostname xxx //设置机器名 #hostname // 查看本机名 这种方式,在Centos7中可以永久性改变主机名称。 2) 每个节点机器,都要配置hosts # vi /etc/hosts 内容都改为:
127.0.0.1 localhost //建议保留此行 172.16.3.168 node168 172.16.3.169 node169 172.16.3.170 node170 172.16.3.171 node171 172.16.3.172 node172 模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第5页/共32页
Cloudera大数据平台环境搭建(CDH5.13.1)
2) 编辑 /etc/ntp.conf: # vi /etc/ntp.conf //在文件中输入上面网页内容: server 0.asia.pool.ntp.org server 1.asia.pool.ntp.org server 2.asia.pool.ntp.org server 3.asia.pool.ntp.org 3) 启动ntp服务: # systemctl start ntpd 4) 配置开机启动:
# systemctl enable ntpd.service 注意:如果ntpd 开机启动失效,有可能是因为安装了chronyd 并且是开机自启状态,所以导致ntpd开
机自启失败。
# 查看 chronyd设置状态 # systemctl status chronyd 显示如下:
以面表明,chronyd显示为开机启动状态。 将chronyd设为禁用状态:
# systemctl disable chronyd.service 模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第11页/共32页
Cloudera大数据平台环境搭建(CDH5.13.1)
此时,NTP的服务开机自启动完成! 5) 检查是否设置成功: # ntpq -p //更新时间 #timedatectl NTP客户端(所有从节点): 6) 远程客户端时间同步测试 # date # ntpdate 172.16.3.168 172.16.3.168是NTP服务端IP,显示如下信息,测试成功:
7) 客户端设置计划任务,每30分钟同步时间 #crontab -e //加入内容: 0-59/30 * * * * /usr/sbin/ntpdate 172.16.3.168 && /sbin/hwclock -w 8) 设置定时任务开机启动
//设置开机启动 # systemctl enable crond.service //查看状态 # systemctl status crond
1.11. 安装oracle JDK1.8 (所有节点)
下载rpm 安装包jdk-8u151-linux-x64.rpm
CentOS系统一般自带OpenJdk,需要卸载掉自带的OpenJdk,使用 # rpm -qa | grep java 查询java相关的包,使用
模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第12页/共32页
Cloudera大数据平台环境搭建(CDH5.13.1)
# rpm -e –nodeps +包名 强制卸载掉,下面安装oralce JDK
# rpm -ivh jdk-8u151-linux-x64.rpm 配置JAVA_HOME环境变量:
修改/etc/profile文件配置环境变量, 执行命令:
# vi /etc/profile 在profile文件最后,输入下面内容,保存并退出。
export JAVA_HOME=/usr/java/jdk1.8.0_151 export PATH=$PATH:$JAVA_HOME/bin 执行下面命令,让配置生效
# source /etc/profile //使修改立即生效 # echo $PATH //查看PATH值 # echo $JAVA_HOME //查看JAVA_HOME值 在Centos7中修改/etc/profile文件配置环境变量,机器启动后有时不生效,可以修改/etc/ bashrc文件配置环境变量:
# vi /etc/bashrc //在文件最后加入: export JAVA_HOME=/usr/java/jdk1.8.0_151 export PATH=$PATH:$JAVA_HOME/bin //使修改立即生效 # source /etc/bashrc //查看JAVA_HOME值 # echo $JAVA_HOME 1.12. Mysql安装(主节点)
到官网https://dev.mysql.com/downloads/file/?id=469456选择对应安装包: 1)
下载安装包
#wget https://cdn.mysql.com//archives/mysql-5.7/mysql-5.7.18-1.el7.x86_64.rpm-bundle.tar 2) 解压安装包
# tar -xvf mysql-5.7.18-1.el7.x86_64.rpm-bundle.tar //解压后文件列表: mysql-community-embedded-devel-5.7.18-1.el7.x86_64.rpm 模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第13页/共32页
mysql-community-devel-5.7.18-1.el7.x86_64.rpm mysql-community-client-5.7.18-1.el7.x86_64.rpm mysql-community-common-5.7.18-1.el7.x86_64.rpm mysql-community-embedded-5.7.18-1.el7.x86_64.rpm mysql-community-embedded-compat-5.7.18-1.el7.x86_64.rpm mysql-community-libs-5.7.18-1.el7.x86_64.rpm mysql-community-server-minimal-5.7.18-1.el7.x86_64.rpm mysql-community-test-5.7.18-1.el7.x86_64.rpm mysql-community-minimal-debuginfo-5.7.18-1.el7.x86_64.rpm mysql-community-libs-compat-5.7.18-1.el7.x86_64.rpm Cloudera大数据平台环境搭建(CDH5.13.1)
3) 按次序安装
按common–>libs–>client–>server的顺序安装:
# rpm -ivh mysql-community-common-5.7.18-1.el7.x86_64.rpm # rpm -ivh mysql-community-libs-5.7.18-1.el7.x86_64.rpm # rpm -ivh mysql-community-client-5.7.18-1.el7.x86_64.rpm # rpm -ivh mysql-community-server-5.7.18-1.el7.x86_64.rpm # rpm -ivh mysql-community-devel-5.7.18-1.el7.x86_64.rpm //安装下面包,否则Hue安装报连接错误 # rpm -ivh mysql-community-libs-compat-5.7.18-1.el7.x86_64.rpm 4) 启动数据库 # systemctl start mysqld 查看状态: # systemctl status mysqld 5) 修改MySQL初始密码
1、先修改配置文件/etc/my.cnf令MySQL跳过登录时的权限检验,在[mysqld]下加入一行: skip-grant-tables 2、重启MySQL #service mysqld restart 3、免密码登录MySQL。 #mysql 4、mysql客户端执行如下命令,修改root密码 mysql> use mysql; mysql> UPDATE user SET authentication_string = password('your-password') WHERE host = 'localhost' AND user = 'root'; mysql> select host,user, authentication_string, password_expired from user; mysql> update user set password_expired='N' where password_expired='Y' //密码不过期 mysql> update user set host='%' where user='root' and host='localhost'; //远程可访问 模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第14页/共32页
mysql> flush privileges; //刷新 mysql> exit;//退出 Cloudera大数据平台环境搭建(CDH5.13.1)
5、修改配置文件/etc/my.cnf删除此前新增那一行skip-grant-tables,并重启MySQL(这一步非常重要,不执行可能导致严重的安全问题) #service mysqld restart //重启 Mysql 2. 安装CM
2.1.
传包,解包
在主节点上下载相关软件包,这里将软件包下载到/data/ cdh/目录下。
#cd /data/cdh 下载Mysql JDBC包:
#wget http://central.maven.org/maven2/mysql/mysql-connector-java/5.1.43/mysql-connector-java-5.1.43.jar 下载CM:
#wget http://archive-primary.cloudera.com/cm5/cm/5/cloudera-manager-centos7-cm5.13.1_x86_64.tar.gz 下载CDH:
#wget http://archive-primary.cloudera.com/cdh5/parcels/5.13.1/manifest.json #wget http://archive-primary.cloudera.com/cdh5/parcels/5.13.1/CDH-5.13.1-1.cdh5.13.1.p0.2-el7.parcel.sha1 #wget http://archive-primary.cloudera.com/cdh5/parcels/5.13.1/CDH-5.13.1-1.cdh5.13.1.p0.2-el7.parcel 将CM解压到/opt/目录:
# tar -zxvf cloudera-manager-centos7-cm5.13.1_x86_64.tar.gz -C /opt/ # ls /opt/ cloudera cm-5.13.1 2.2. 创建数据库
在主节点上:
# mysql -h127.0.0.1 -uroot -p //加参数-h127.0.0.1 指定本机方式,否则可能不允许执行grant Enter password: \\\\输入数据库密码 //在MariaDB [(none)]>命令状态输入下面脚本: create database hive DEFAULT CHARSET utf8 COLLATE utf8_general_ci; create database amon DEFAULT CHARSET utf8 COLLATE utf8_general_ci; create database hue DEFAULT CHARSET utf8 COLLATE utf8_general_ci; 模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第15页/共32页
create database monitor DEFAULT CHARSET utf8 COLLATE utf8_general_ci; create database oozie DEFAULT CHARSET utf8 COLLATE utf8_general_ci; grant all privileges on *.* to root@localhost identified by 'root' with grant option; grant all on *.* to root@\flush privileges; exit; //复制Mysql JDBC包到/opt/cm-5.13.1/share/cmf/lib/目录 #cp mysql-connector-java-5.1.43-bin.jar /opt/cm-5.13.1/share/cmf/lib/ //初始化CM,执行下面脚本 Cloudera大数据平台环境搭建(CDH5.13.1)
# /opt/cm-5.13.1/share/cmf/schema/scm_prepare_database.sh mysql cm -hnode168 -uroot -proot --scm-host node168 scm scm scm //如果出现下面错误: java.sql.SQLException: Access denied for user 'root'@'localhost' (using password: YES) //解决办法: 在/etc/hosts 文件中,加上 127.0.0.1 localhost.node168 主节点/etc/hosts内容:
脚本/scm_prepare_database.sh 执行成功界面:
2.3. 创建用户
在所有节点上执行:
# useradd --system --home=/opt/cm-5.13.1/run/cloudera-scm-server --shell=/bin/false --comment \2.4. 制作本地YUM源
在主节点上:
//进入软件包目录 #cd /data/cdh //拷贝三个文件到/opt/cloudera/parcel-repo/目录 #cp CDH-5.13.1-1.cdh5.13.1.p0.2-el7.parcel CDH-5.13.1-1.cdh5.13.1.p0.2-el7.parcel.sha1 manifest.json /opt/cloudera/parcel-repo/ //进入/opt/cloudera/parcel-repo/目录 模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第16页/共32页
#cd /opt/cloudera/parcel-repo/ //修改文件名 Cloudera大数据平台环境搭建(CDH5.13.1)
#mv CDH-5.13.1-1.cdh5.13.1.p0.2-el7.parcel.sha1 CDH-5.13.1-1.cdh5.13.1.p0.2-el7.parcel.sha 此时/opt/cloudera/parcel-repo/目录下文件:
2.5. 拷贝jar包
在所有节点上:
//如果没有/usr/share/java/目录,则创建 # cp mysql-connector-java-5.1.43-bin.jar /usr/share/java/mysql-connector-java.jar 在主节点上:
//将mysql JDBC jar 包拷贝到 /opt/cm-5.13.1/share/cmf/lib/ 目录 #cp mysql-connector-java-5.1.43-bin.jar /opt/cm-5.13.1/share/cmf/lib/ 2.6. 修改cloudera-scm-agent配置
在主节点上,修改/opt/cm-5.13.1/etc/cloudera-scm-agent/config.ini文件:
//将config.ini server_host=localhost 内容改为server_host=172.16.3.168 # sed -i \ 在主节点上:
//将cm-5.13.1 打包,并复制到其他节点 #cd /opt #tar czf cm-5.13.1.tar.gz cm-5.13.1/ //复制到其他节点 #scp cm-5.13.1.tar.gz node169:/opt/ #scp cm-5.13.1.tar.gz node170:/opt/ #scp cm-5.13.1.tar.gz node171:/opt/ #scp cm-5.13.1.tar.gz node172:/opt/ 在所有从节点上解压:
//将cm-5.13.1 包解压 #cd opt #tar -xzvf cm-5.13.1.tar.gz 模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第17页/共32页
//解压后删除 #rm -rf cm-5.13.1.tar.gz Cloudera大数据平台环境搭建(CDH5.13.1)
2.7. 启动CM Server和Agent
在主节点上,启动cloudera-scm-server:
# /opt/cm-5.13.1/etc/init.d/cloudera-scm-server start 启动过程较慢,可通过/opt/cm-5.13.1/log/cloudera-scm-server日志,查看启动过程。 在所有节点上,启动cloudera-scm-agent:
# /opt/cm-5.13.1/etc/init.d/cloudera-scm-agent start 2.8. 访问CM
地址:http://主节点IP:7180 用户名、密码:admin
3. 安装CDH
3.1.
登录后界面
接受协议:
模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第18页/共32页
Cloudera大数据平台环境搭建(CDH5.13.1)
3.2. 选择CM版本
本文档选择Cloudera Express免费版。
模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第19页/共32页
Cloudera大数据平台环境搭建(CDH5.13.1)
3.3. 指定主机
在搜索主机名和IP地址框输入node[169-172],这里输入的内容支持正则表达式。输入后点【搜索】
按钮,出现机器列表:
选择“当前管理的主机“选择项卡,点【继续】。
模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第20页/共32页
Cloudera大数据平台环境搭建(CDH5.13.1)
3.4. 选择CDH版本
这里需要选择制作本地源时的版本,如果选择别的版本的就会去官网下载,那样安装速度会很慢。
点【继续】按钮,进入安装界面。
模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第21页/共32页
Cloudera大数据平台环境搭建(CDH5.13.1)
3.4.1. 出现 “主机运行状态不良”错误
遇到节点“主机运行状态不良”的提示,解决办法是删除故障节点Agent服务cm_guid文件:
#rm -rf /opt/cm-5.13.1/lib/cloudera-scm-agent/cm_guid 重新启动故障节点Agent服务:
#/opt/cm-5.13.1/etc/init.d/cloudera-scm-agent restart 重启故障节点Agent服务后,故障消失:
注:出现故障原因是,因为我之前在故障节点启动过cloudera-scm-agent服务。
模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第22页/共32页
Cloudera大数据平台环境搭建(CDH5.13.1)
3.5. 检查主机正确性
确保全部验证通过。
3.6. 选择安装的服务
本文选择的是安装所有服务。
模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第23页/共32页
Cloudera大数据平台环境搭建(CDH5.13.1)
3.7. 角色分配
这里应该根据实际需求和服务器的硬件参数自己选择
3.8. 数据库设置
指定的数据库名称,要与2.2节创建的数据库(hive,monitor,oozie,hue)保持一致,并输入对应的数
据库用户名和密码,为了简便这里用的是root账号名和密码。
模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第24页/共32页
Cloudera大数据平台环境搭建(CDH5.13.1)
全部输入完,之后【测试连接】:
3.8.1. 测试连接报错:
测试连接,Hue 测试报错:Unable to verify database connection:
原因是缺少Mysql mysql-community-libs-compat 安装包,安装后,问题解决:
模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第25页/共32页
//进入安装包所在目标 Cloudera大数据平台环境搭建(CDH5.13.1)
# cd /data/mysql/ # rpm -ivh mysql-community-libs-compat-5.7.18-1.el7.x86_64.rpm
测试成功后,点【继续】安装。
3.9. 群集设置
可以根据自己的实际情况更改设置,本文采用默认配置。这些配置也可以在集群安装完成后再更改。
模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第26页/共32页
Cloudera大数据平台环境搭建(CDH5.13.1)
模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第27页/共32页
Cloudera大数据平台环境搭建(CDH5.13.1)
3.10. 开始安装
安装过程没有任何错误,显示安装完成。
模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第28页/共32页
Cloudera大数据平台环境搭建(CDH5.13.1)
3.11. 安装完成
第一次安装完成后,会出现一些配置的警告信息。这些可以根据提示信息更改。
3.11.1. 警告信息:
发现节点有异常信息,显示所有主机,发现node71节点运行状态不良。
按照 主机->所有主机->进入节点查看:
模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第29页/共32页
Cloudera大数据平台环境搭建(CDH5.13.1)
选择“配置“页签,拉到页面底部,修改”主机时钟偏差阈值“,设为”从不“,点【保存更改】,异常消失。
模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第30页/共32页
Cloudera大数据平台环境搭建(CDH5.13.1)
4. 常见错误
4.1.
初始化数据库错误:
在这个环节,出现的问题较多,但总的来说,是与数据库参数配置,和帐号权限配置有关。 如在执行scm_prepare_database.sh脚本时,出现的错误:
java.sql.SQLException: Your password does not satisfy the current policy requirements 一般是由密码策略级别问题引发:
可以通过 my.cnf 配置文件关闭 validate_password 插件。
通过修改/etc/my.cnf 目录下配置文件,修改设置密码策略的级别,只需要在[mysqld]下添加一行 validate_password = off 如图所示:
编辑完配置文件后,重启mysqld服务即可生效。
模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第31页/共32页
Cloudera大数据平台环境搭建(CDH5.13.1)
4.2. 未能连接到 Host Monitor
后台tail -f /opt/cm-5.13.1/log/cloudera-scm-server/cloudera-scm-server.log 日志报错信息: com.cloudera.cmon.MgmtServiceLocatorException: Could not find a HOST_MONITORING nozzle from SCM.
此问题原因:有些网上说是由文件句柄数限制引起,所以按照网上说明进行了修改: 在主节点上,修改/opt/cm-5.13.1/etc/cloudera-scm-agent/config.ini文件:
//查看文件句柄数,显示1024,显然太小 # ulimit -n 1024 //修改限制 #vi /etc/security/limits.conf //在文件后加入下面内容: * soft nofile 100000 * hard nofile 100000 此步骤需要重启机器生效,可以设置完后再重启。
注:按照上面过程操作,但问题依然存在,后来通过用3.4节中 “主机运行状态不良”故障问题解决办法,问题得到解决。
模板发布部门:技术研发管理部–过程与质量管理部 模板编号:SD-TEM-01-201311
第32页/共32页
正在阅读:
Cloudera大数据平台环境搭建(CDH5.13.1)傻瓜式说明书01-25
光子带隙调控、新效应及其应用 - 图文09-11
湖南四大名校内部资料2017年南雅中学九年级上册入学试卷09-13
那一次我学会了坚持作文600字06-18
托福阅读词汇增量法-智课教育旗下智课教育08-15
毕业生会计实习日记30篇10-07
2正午太阳高度角的应用07-28
2019我的愿望作文400字07-03
- exercise2
- 铅锌矿详查地质设计 - 图文
- 厨余垃圾、餐厨垃圾堆肥系统设计方案
- 陈明珠开题报告
- 化工原理精选例题
- 政府形象宣传册营销案例
- 小学一至三年级语文阅读专项练习题
- 2014.民诉 期末考试 复习题
- 巅峰智业 - 做好顶层设计对建设城市的重要意义
- (三起)冀教版三年级英语上册Unit4 Lesson24练习题及答案
- 2017年实心轮胎现状及发展趋势分析(目录)
- 基于GIS的农用地定级技术研究定稿
- 2017-2022年中国医疗保健市场调查与市场前景预测报告(目录) - 图文
- 作业
- OFDM技术仿真(MATLAB代码) - 图文
- Android工程师笔试题及答案
- 生命密码联合密码
- 空间地上权若干法律问题探究
- 江苏学业水平测试《机械基础》模拟试题
- 选课走班实施方案
- 搭建
- 说明书
- Cloudera
- 傻瓜
- 环境
- 数据
- 平台
- 5.13
- CDH