Greenplum安装手册--完善版

更新时间:2024-04-03 14:11:01 阅读量: 综合文库 文档下载

说明:文章内容仅供预览,部分内容可能不全。下载后的文档,内容与下面显示的完全一致。下载之前请确认下面内容是否您想要的,是否完整无缺。

GREENPLUM部署文档

Greenplum数据库安装手册

Greenplum数据库安装手册 目录

第一章 1.1 1.2 第二章 2.1 2.2 2.3 第三章

文档概述 .......................................................................................................................... 4 适用范围 .................................................................................................................................. 4 文档说明 .................................................................................................................................. 4 安装前准备 ....................................................................................................................... 5 网络规划 .................................................................................................................................. 5 存储空间规划 .......................................................................................................................... 5 数据库实例规划....................................................................................................................... 6 安装介质 .......................................................................................................................... 7

3.1 REDHAT......................................................................................................................................... 7 3.1.1

系统补丁 ........................................................................................................................... 7

3.1.2 Greenplum安装介质 ........................................................................................................ 7 3.1.3 第四章 4.1 4.2 4.3 4.4

操作系统建议 ................................................................................................................... 8

操作系统准备 ................................................................................................................... 9 修改主机名 .............................................................................................................................. 9 修改/ETC/HOSTS文件 ................................................................................................................. 9 关闭相关服务 ........................................................................................................................ 11 修改系统参数(REDHAT) ...................................................................................................... 11

修改系统参数/etc/sysctl.conf ........................................................................................ 12 修改系统参数/etc/security/limits.conf .......................................................................... 12 修改磁盘预读参数 ......................................................................................................... 13 修改配置/boot/grub/menu.lst ....................................................... 错误!未定义书签。 修改配置/etc/sysconfig/language .................................................. 错误!未定义书签。

4.4.1 4.4.2 4.4.3 4.4.4 4.4.5 4.5 4.6 4.7 4.8

启动IPMI服务 ....................................................................................... 错误!未定义书签。 修改启动配置 ........................................................................................ 错误!未定义书签。 关闭非必要的服务................................................................................. 错误!未定义书签。 重启各台服务器..................................................................................................................... 14

第1页

Greenplum数据库安装手册 第五章

建立数据目录 ................................................................................................................. 15

5.1 LINUX系统采用XFS文件系统 ................................................................................................. 15 5.1.1 Master 和Standby Master主机 ..................................................................................... 15 5.1.2 Segment 主机 ................................................................................................................. 15 第六章 6.1 6.2 第七章

MASTER安装GREENPLUM ............................................................................................ 17 运行安装文件 ........................................................................................................................ 17 配置HOSTNAME文件(用于建立多机信任) ........................................................................ 17 建立多机信任 ................................................................................................................. 19

7.1 ROOT用户建立多机信任 ......................................................................................................... 19 7.2 7.3

建立用户和组 ........................................................................................................................ 19 修改GPADMIN用户配置 .......................................................................................................... 20

7.4 GPADMIN用户建立多机信任 .................................................................................................... 20 第八章 第九章 9.1 9.2 9.3 第十章 10.1 10.2

时钟同步 ........................................................................................................................ 21 其他机器安装GREENPLUM ............................................................................................ 23 配置HOSTNAME文件 ............................................................................................................... 23 方法一(4.0版本以上支持,推荐使用) ........................................................................... 23 方法二(4.0版本一下使用) ............................................................................................... 23 系统检查 ........................................................................................................................ 25 参数配置检查(非必要) ................................................................................................... 25 性能检查 .............................................................................................................................. 25

网络性能检查 ............................................................................................................... 25 磁盘性能检查 ............................................................................................................... 26 初始化数据库 ............................................................................................................. 28 配置文件 .............................................................................................................................. 28

10.2.1 10.2.2 第十一章 11.1

11.1.1 Greenplum4.x版本 ........................................................................................................ 28 11.2

实例列表ALL_SEGS ................................................................................................................ 29

第2页

Greenplum数据库安装手册 11.3 11.4 第十二章 12.1 12.2 第十三章 第十四章

初始化数据库 ...................................................................................................................... 29 修改访问权限 ...................................................................................................................... 30 安装COMMAND CENTER............................................................................................ 31 安装AGENT ............................................................................................................................ 31 安装COMMANDCENTER控制台 ............................................................................................... 32 AIX下安装工具包 ..................................................................................................... 33 附录 ............................................................................................................................ 34

14.1 DD测试 ................................................................................................................................... 34 14.2 14.3 14.4 14.5 14.6 14.7

多次初始化 .......................................................................................................................... 34 反复初始化数据库 .............................................................................................................. 34 安装后修改数据库参数(非必要) ................................................................................... 35 安装GREENPLUM CLIENTS ......................................................................................................... 36 安装GREENPLUM LOADER ......................................................................................................... 36 安装后数据测试 .................................................................................................................. 37

14.8 TABLESPACE使用 ...................................................................................................................... 41 14.8.1

创建TableSpace ............................................................................................................ 41

14.8.2 TableSpace合理使用 ..................................................................................................... 43 14.9

常见问题处理 ...................................................................................................................... 43

字符集问题处理 ........................................................................................................... 43 重新建立多机信任密钥问题 ....................................................................................... 44

14.9.1 14.9.2

第3页

Greenplum数据库安装手册 第一章 文档概述

1.1 适用范围

1、 本安装手册所涉及到的操作系统相关参数调整,主要针对Redhat Linux

操作系统,其他操作系统(如:SUSE、Solaris等)参数配置上会存在差异,后续逐步补充完善。

1.2 文档说明

1、 下文红色字体部分,如无特殊说明则表示命令执行时是需要根据实际情

况进行修改才可以执行。

第4页

Greenplum数据库安装手册 第二章 安装前准备

2.1 网络规划

Greenplum数据库系统常见的拓扑图如上图所示,由Master主机和Segment主机组成。Master主机和Segment主机之间会组成一个内部网络(LAN)。为了充分发挥Greenplum数据库并行处理的性能,对网络带宽要求较高。服务器会配置多个网卡,内部网需要配置多个网段的IP。需要对外连接的服务器需配置外部IP。

建议在Greenplum数据库系统安装之前,把网络配置规划好。

2.2 存储空间规划

首先,需要评估目标数据库数据所需要的空间容量。建议了解客户搭建Greenplum数据库的具体应用。

第5页

Greenplum数据库安装手册 举例:估计数据库所需空间为U,数据库需要启用Mirror,磁盘阵列总可用空间为D(Raid之后)。空间规划服务和如下公式:

2 * U + U / 3 = D * 70%

磁盘空间D平均分配到各个Segment服务器上。

Master需要相应的空间。使用服务器内置硬盘的计算方式类似。

2.3 数据库实例规划

规划每个Segment服务器上建立的数据库实例的数量(instance数量),通常建议每2个CPU内核(core)对应一个数据库实例。

如:2*4核CPU的服务区,可配置4个实例。

第6页

Greenplum数据库安装手册 第三章 安装介质

3.1 Redhat

3.1.1 系统补丁

1. gcc

yum -y install gcc; yum -y install gcc-c++; yum install make

2. scp yum install openssh-clients 3.ed yum install ed 重要!

4. 若使用gpconfig命令,需要安装perl yum install perl

3.1.2 Greenplum安装介质

GP安装介质需根据实际需要从Download Center上下载对应的版本。 名称 Greenplum主安装包 Greenplum Web Monitor工具安装包 Greenplum clients 安装包 Greenplum loader 安装包 Network.pivotal.io 安装文件 Network.pivotal.io 备注 安装前请先确定所要安装的具体版本。 在Master服务器安装 同上 Network.pivotal.io Network.pivotal.io 安装前请先确定所要安装的具体版本。 在ETL服务器中安装 安装前请先确定所要安装的具体版本。 在ETL服务器中安装 第7页

Greenplum数据库安装手册 Greenplum安装包可提前执行,可利用其gpscp、gpssh等工具。

3.1.3 操作系统建议

Segment节点建议不安装X-Windows, Gnome, KDE, and Printers。

第8页

Greenplum数据库安装手册 第四章 操作系统准备

4.1 修改主机名

修改各台主机的主机名称。一般建议的命名规则如下: Master:mdw

Standby Master:smdw

Segment Host:sdw1、sdw2??sdwn 修改操作: 1、hostname mdw

2、修改 /etc/sysconfig/network 或者/etc/hostname 配置文件中的hostname

4.2 修改/etc/hosts文件

通常Master和Standby Master主机都配置外部IP和内部IP。Segment主机可只配置内部IP。所有主机的hosts文件内容必须保持一致。

如下为配置例子: 21.104.138.21 mdw-ext1 192.168.1.254 mdw-1 mdw 192.168.2.254 mdw-2 192.168.3.254 mdw-3 192.168.4.254 mdw-4 192.168.5.254 mdw-5 192.168.6.254 mdw-6 21.104.138.22 smdw-ext1 192.168.1.253 smdw-1 smdw 192.168.2.253 smdw-2 192.168.3.253 smdw-3

第9页

Greenplum数据库安装手册 192.168.4.253 smdw-4 192.168.5.253 smdw-5 192.168.6.253 smdw-6 21.104.138.23sdw1-ext1 loghost 192.168.1.1 sdw1-1 sdw1 192.168.2.1 sdw1-2 192.168.3.1 sdw1-3 192.168.4.1 sdw1-4 192.168.5.1 sdw1-5 192.168.6.1 sdw1-6

21.104.138.24 sdw2-ext1 192.168.1.2 sdw2-1 sdw2 192.168.2.2 sdw2-2 192.168.3.2 sdw2-3 192.168.4.2 sdw2-4 192.168.5.2 sdw2-5 192.168.6.2 sdw2-6

21.104.138.25 sdw3-ext1 192.168.1.3 sdw3-1 sdw3 192.168.2.3 sdw3-2 192.168.3.3 sdw3-3 192.168.4.3 sdw3-4 192.168.5.3 sdw3-5 192.168.6.3 sdw3-6

21.104.138.26sdw4-ext1 192.168.1.4 sdw4-1 sdw4 192.168.2.4 sdw4-2

第10页

Greenplum数据库安装手册 192.168.3.4 sdw4-3 192.168.4.4 sdw4-4 192.168.5.4 sdw4-5 192.168.6.4 sdw4-6

4.3 关闭相关服务

【涉及机器】:所有服务器 关闭防火墙

service iptables save service iptables stop chkconfig iptables off service ip6tables save service ip6tables stop chkconfig ip6tables off

针对RedHat7.0以上的关闭防火墙命令:systemctl disable firewalld systemctl stop firewalld

【需要关闭iptables防火墙】 查看防火墙状态: /etc/init.d/iptables status

RedHat7.0以上的版本,查看防火墙状态的命令: systemctl status firewalld

4.4 修改系统参数(Redhat)

【涉及机器】:所有服务器

使用root用户进行修改,重启后生效。

第11页

Greenplum数据库安装手册 4.4.1 修改系统参数/etc/sysctl.conf

(Sysctl是一个允许您改变正在运行中的Linux系统的接口。它包含一些 TCP/IP 堆栈和虚拟内存系统的高级选项)

kernel.shmmax = 500000000 kernel.shmmni = 4096 kernel.shmall = 4000000000 kernel.sem = 250 512000 100 2048 kernel.sysrq = 1

kernel.core_uses_pid = 1 kernel.msgmnb = 65536 kernel.msgmax = 65536 net.ipv4.tcp_syncookies = 1 net.ipv4.ip_forward = 0

net.ipv4.conf.default.accept_source_route = 0 net.ipv4.tcp_tw_recycle = 1

net.ipv4.tcp_max_syn_backlog = 4096 net.ipv4.conf.all.arp_filter = 1 net.ipv4.conf.default.arp_filter = 1 net.core.netdev_max_backlog = 10000 vm.overcommit_memory = 2 kernel.msgmni = 2048

net.ipv4.ip_local_port_range = 1025 65535

4.4.2 修改系统参数/etc/security/limits.conf

* soft nofile 65536

第12页

Greenplum数据库安装手册 * hard nofile 65536 * soft nproc 131072 * hard nproc 131072

在RHEL6.x版本需要修改文件/etc/security/limits.d/90-nproc.conf,增加如下内容:

* soft nproc 131072 * hard nproc 131072

centos7修改/etc/security/limits.d/20-nproc.conf * soft nproc 65536 root soft nproc unlimited 不把这些参数调大的话并发一上去就报错

4.4.3 修改磁盘预读参数

在参数文件/etc/rc.d/rc.local中增加 blockdev --setra 65536 /dev/sd*

(红色部分为数据目录所在的磁盘,如/dev/sda,/dev/sdb等) chmod +x /etc/rc.d/rc.local

临时生效blockdev --getra 65536 /dev/sd*

4.5 关闭selinux

【永久性关闭selinux】

sed -i 's/SELINUX=enforcing/SELINUX=disabled/' /etc/selinux/config 【临时关闭】

临时关闭setenforce 0

第13页

Greenplum数据库安装手册 4.6 重启各台服务器

必须完成上述步骤之后,才重启各台服务器。

第14页

Greenplum数据库安装手册 第五章 建立数据目录

5.1 Linux系统采用XFS文件系统

5.1.1 Master 和Standby Master主机

注:红字根据具体情况而改变 1、分区及格式化:

mkfs.xfs /dev/sda3 或者mkfs -t xfs /dev/sda3 或者mkfs -f xfs /dev/sda3

mkdir -p /data/master (Master数据目录)(在根目录上创建一个data文件夹在这个文件夹下面创建一个master文件夹)

2、在/etc/fstab文件中增加(如何配置添加)

/dev/sda3 /data xfs rw,noatime,inode64,allocsize=16m 1 1 把/data/master 赋予777权限 reboot

5.1.2 Segment 主机

注:红字根据具体情况而改变 1、分区及格式化:

mkfs.xfs /dev/sda2 或者mkfs -t xfs /dev/sda2 mkfs.xfs /dev/sdb2

mkdir /data1 (Segment数据目录,可根据实例和分配空间不同规划不同的目录)

mkdir /data2 把/data/ 赋予777权限

第15页

Greenplum数据库安装手册 2、在/etc/fstab文件中增加

/dev/sda2 /data1 xfs rw,noatime,inode64,allocsize=16m 1 1 /dev/sdb2 /data2 xfs rw,noatime,inode64,allocsize=16m 1 1 reboot

第16页

Greenplum数据库安装手册 第六章 Master安装Greenplum

6.1 运行安装文件(这步可提前执行)

【安装机器】:Master主机 如果是压缩文件则先解压:

unzip greenplum-db-4.1.1.3-build-4-RHEL5-x86_64.zip /bin/bash greenplum-db-4.1.1.3-build-4-RHEL5-x86_64.bin

安装完成后修改root用户home的~/.bashrc配置文件,增加 source /usr/local/greenplum-db/greenplum_path.sh

6.2 配置hostname文件(用于建立多机信任)

【安装机器】:master机器

建议:在安装目录下新建gpconfigs目录。

包含所有master和segment主机名和别名的文件。 多网卡可能如下: hostfile_exkeys: mdw mdw-1 smdw smdw-1 sdw1-1 sdw1-2 sdw2-1 sdw2-2

单网卡可能如下:

第17页

Greenplum数据库安装手册 hostfile_exkeys: mdw smdw sdw1 sdw2 sdw3 sdw4

建立all_hosts_only,只包含主机名,不包含各个网段对应的hostname,用于gpssh命令。

all_hosts_only mdw smdw sdw1 sdw2 sdw3 sdw4

第18页

Greenplum数据库安装手册 第七章 建立多机信任

7.1 root用户建立多机信任

source /usr/local/greenplum-db/greenplum_path.sh 建立多机信任:

gpssh-exkeys -f ./hostfile_exkeys

对于RHEL6.x版本,建议先关闭一个环境变量再做多机互信 unset OPENSSL_CONF

ps:如建立多机信任时出现permission denied(publickey.gssapi-with-mic)或者类似的错误,需要修改每台机器的/etc/ssh/sshd_config文件,去掉PermitRootLogin前的#,并把对应的值改为yes,

RSAAuthentication yes PubkeyAuthentication yes AuthorizedKeysFile

.ssh/authorized_keys

默认是用的22端口,如果22端口没开建议先打开22端口

7.2 建立用户和组

gpssh -f ./all_hosts_only =>groupadd -g 3030 gpadmin =>groupadd -g 3040 gpmon

=>useradd -u 3030 -g gpadmin -m -s /bin/bash gpadmin =>useradd -u 3040 -g gpmon -m -s /bin/bash gpmon =>echo gpadmin | passwd gpadmin --stdin =>echo gpmon | passwd gpmon --stdin

=>chown -R gpadmin:gpadmin /data (修改数据目录用户和组) Data为数据库文件的目录

第19页

Greenplum数据库安装手册 7.3 修改gpadmin用户配置

使用gpadmin用户操作

【Master和Standby Master主机】: 修改 ~/.bashrc文件,添加如下内容:

source /usr/local/greenplum-db/greenplum_path.sh MASTER_DATA_DIRECTORY=/data/master/gpseg-1

export MASTER_DATA_DIRECTORY(gpstart默认启动的目录)

使用gpadmin用户操作 【Segment主机】:

修改 ~/.bashrc文件,添加如下内容:

source /usr/local/greenplum-db/greenplum_path.sh

7.4 gpadmin用户建立多机信任

使用gpadmin用户在Master主机上操作

gpssh-exkeys -f ./hostfile_exkeys

(提示密码,输入gpadmin)###默认的密码

对于RHEL6.x版本,建议先关闭一个环境变量再做多机互信 unset OPENSSL_CONF

第20页

Greenplum数据库安装手册 第八章 时钟同步

使用root用户进行操作,涉及所有服务器。

Greenplum推荐使用NTP(Network Time Protocol)同步各台主机的时钟。建议设置一台独立的时钟服务器。

yum install ntp ?ntpd

1、Master服务器配置与时钟服务器同步。修改配置文件/etc/ntp.conf后,启动ntpd服务。

举例:

配置文件增加:server 10.6.220.20 启动服务: service ntpd start chkconfig ntpd on

如果没有独立的时钟服务器,则应该以Master服务器做内部的时钟服务器,Master就可以不用修改ntp.conf配置文件,直接启动ntpd服务即可。

2、所有Segment服务器优先与Master服务器同步,其次与Standby Master服务器同步。修改配置文件/etc/ntp.conf后,重启ntpd服务。

配置文件增加: server mdw prefer server smdw 启动服务: service ntpd start chkconfig ntpd on

3、Standby Master服务器优先与Master服务器,其次与时钟服务器同步。修改配置文件/etc/ntp.conf后,重启ntpd服务。

配置文件增加: server mdw prefer

server 10.6.220.20(时钟服务器举例)

第21页

Greenplum数据库安装手册 启动服务: service ntpd start chkconfig ntpd on

如果没有独立的时钟服务器,第二行不用配置。

4、检查时钟同步结果(需要等几分钟,时钟才会自动同步) gpssh -f ./all_hosts_only

=>date (查看各台服务器时间是否一致)

第22页

Greenplum数据库安装手册 第九章 其他机器安装Greenplum

9.1 配置hostname文件

其他机器的安装主要操作时把安装在Master主机上的GP安装文件打包传到其他各台机器中。因此,需要配置一个hostname文件包含Standbymaster和各台Segment主机,配置文件stby_all_segs内容参考如下:

smdw smdw-1 sdw1-1 sdw1-2 sdw2-1 sdw2-2

9.2 方法一(4.0版本以上支持,推荐使用)

安装gzip,chmod 777 /usr/local 在Master主机上,使用root用户操作: gpseginstall -f ./stby_all_segs -p gpadmin

9.3 方法二(4.0版本一下使用)

在Master主机上,使用root用户操作: cd /usr/local(安装目录)

tar -cvf /usr/local/gp.tar greenplum-db-3.3.7.6 (tar安装文件目录) gpscp -f ./stby_all_segs /home/gpadmin/gp.tar =:/usr/local

gpssh -f ./stby_all_segs

=>tar --directory /usr/local -xvf /usr/local/gp.tar

第23页

Greenplum数据库安装手册 =>ls /usr/local/greenplum-db-3.3.7.6

=>ln -s /usr/local/greenplum-db-3.3.7.6/usr/local/greenplum-db =>chown -R gpadmin:gpadmin /usr/local/greenplum-db =>rm /usr/local/gp.tar

第24页

Greenplum数据库安装手册 第十章 系统检查

在Master上使用gpadmin用户登录执行系统检查

10.1 参数配置检查(非必要)

配置all_hosts_single文件内容如下: sdw1 sdw2 sdw3 sdw4

gpcheck -f /usr/local/greenplum-db/gpconfigs/all_hosts_single -m mdw -s smdw

核对并修改下你感应系统参数。

10.2 性能检查

10.2.1 网络性能检查

网络性能测试需要每个网段分别进行测试,按照4个Segment Host和2个网络为例,首先配置如下两个配置文件:

all_net_1文件: sdw1-1 sdw2-1 sdw3-1 sdw4-1

all_net_2文件: sdw1-2 sdw2-2

第25页

Greenplum数据库安装手册 sdw3-2 sdw4-2

然后分别针对两个网段继续测试:

gpcheckperf -f /usr/local/greenplum-db/gpconfigs/all_net_1 -r N -d /tmp > checknetwork.out

gpcheckperf -f /usr/local/greenplum-db/gpconfigs/all_net_2 -r N -d /tmp > checknetwork.out

10.2.2 磁盘性能检查

测试磁盘性能主要针对Segment Host进行测试。因此配置一个all_segs的文件进行测试,并且指定多个目录启动并发测试,测试结果会更好。

all_seg配置文件内容举例如下(与数据库初始化可用同一配置文件): sdw1-1 sdw1-2 sdw1-3 sdw1-4 sdw2-1 sdw2-2 sdw2-3 sdw2-4 sdw3-1 sdw3-2 sdw3-3 sdw3-4 sdw4-1 sdw4-2 sdw4-3 sdw4-4

第26页

Greenplum数据库安装手册 执行如下命令进行测试: 内存及磁盘:

gpcheckperf -f /usr/local/greenplum-db/gpconfigs/all_hosts_single -r ds -D -d /data1/primary -d /data2/primary -d /data1/mirror -d /data2/mirror> checkio.out

磁盘:

gpcheckperf -f /usr/local/greenplum-db/gpconfigs/all_hosts_single -r d -D -d /data1/primary -d /data2/primary -d /data1/mirror -d /data2/mirror

某台机磁盘检查:

gpcheckperf -h sdw6 -h sdw7 -h sdw8 -h sdw9 -hsdw10 -r d -D -d /data1/primary -d /data2/primary -d /data1/mirror -d /data2/mirror

检查磁盘IO的目标目录是数据库的数据文件目录,测试工具会写入系统内存的两倍大小的数据量。

第27页

Greenplum数据库安装手册 第十一章 初始化数据库

在Master上使用gpadmin用户登录执行系统检查

11.1 配置文件

请注意,Greenplum3.x版本和4.x版本的初始化配置文件格式存在差异,配置时建议从 $GPHOME/docs/cli_help/gpconfigs/目录中获取样例文件,然后进行修改。

11.1.1 Greenplum4.x版本

获取配置文件样例: cp

$GPHOME/docs/cli_help/gpconfigs/gpinitsystem_config

$GPHOME/gpconfigs/

修改配置文件:

ARRAY_NAME=\SEG_PREFIX=gpseg PORT_BASE=40000

declare -a DATA_DIRECTORY=(/data1 /data1 /data1 /data1) //主实例 MASTER_HOSTNAME=mdw //主机名 MASTER_DIRECTORY=/data/master MASTER_PORT=5432 TRUSTED_SHELL=ssh CHECK_POINT_SEGMENT=8 ENCODING=UNICODE MIRROR_PORT_BASE=50000 REPLICATION_PORT_BASE=41000

MIRROR_REPLICATION_PORT_BASE=51000

第28页

Greenplum数据库安装手册 declare -a MIRROR_DATA_DIRECTORY=(/data2 /data2 /data2 /data2) //备实例

MACHINE_LIST_FILE=/usr/local/greenplum-db/gpconfigs/all_segs //segment主机列表文件

11.2 实例列表all_segs

只列出各个网段IP的主机名称,不能添加sdw1、sdw2等 sdw1-1 sdw1-2 sdw1-3 sdw1-4 sdw2-1 sdw2-2 sdw2-3 sdw2-4 sdw3-1 sdw3-2 sdw3-3 sdw3-4 sdw4-1 sdw4-2 sdw4-3 sdw4-4

11.3 初始化数据库

gpinitsystem -c /usr/local/greenplum-db/gpconfigs/gpinitsystem_config -s mdw

第29页

Greenplum数据库安装手册

11.4 修改访问权限

作用:

修改Master数据目录(MASTER_DATA_DIRECTORY)下pg_hba.conf文件。需要了解客户实际情况,有多少客户端的IP地址以及角色需要访问数据库。举例如下:

host all gpadmin 10.32.38.0/16 trust 数据库名角色名客户端IP范围认证方法

数据库名:可指定具体的数据库名称,也可使用all; 角色名:可指定具体的数据库角色名称,也可使用all;

IP范围格式:IP 地址/CIDR,如:10.32.38.0/16;255.0.0.0表示 IPv4 CIDR 掩码长度 8,255.255.255.0表示 IPv4 CIDR 掩码长度 24,而 255.255.255.255 表示 CIDR 掩码长度 32;32就表示指定IP,24就表示小子网。

修改完后数据库重载参数文件: su gpadmin //登录pgamin用户 gpstop -u

第30页

Greenplum数据库安装手册 第十二章 安装Command Center

12.1 安装Agent

gpadmin用户执行如下步骤。

1、使用gpperfmon_install命令,Greenplum安装完成后已经包含该命令。安装后会建立名为gpperfmon的数据库,默认使用gpmon用户。命令行中红色部分为系统用户gpmon的密码。

gpperfmon_install --enable --password gpmon --port 5432

gpperfmon_install --enable --password gpadmin --port 5432

2、重启GP数据库 gpstop -r //关闭GP数据库

gpstart //开启GP数据库

3、确认监控采集进程是否已经启动。 ps -ef |grep gpmmon

4、确认Agent写入的数据是否正常,检查是否有记录写入。 psql -d gpperfmon -c 'select * from system_now;'

5、拷贝Master主机拷贝配置文件到Standby Master的相应目录 scp$MASTER_DATA_DIRECTORY/pg_hba.conf smdw:$MASTER_DATA_DIRECTORY/

scp ~/.pgpass smdw:~/

第31页

Greenplum数据库安装手册 12.2 安装CommandCenter控制台

使用root用户执行。

1、在Master主机上解包安装Command Center:

unzip greenplum-cc-web-1.2.0.1-build-2-RHEL5-x86_64.zip

2、运行安装文件:

/bin/bash greenplum-cc-web-1.2.0.1-build-2-RHEL5-x86_64.bin

3、创建除mdw以外的hosts文件,如all_others。注意主机名不能重复,同一台主机只允许一个主机名。

source /usr/local/greenplum-cc-web/gpcc_path.sh 4、运行命令安装其他服务器 gpccinstall -f ./all_others

5、修改安装目录的属主

chown -R gpadmin:gpadmin /usr/local/greenplum-cc-web*

6、切换到gpadmin用户,配置Command center,需要修改master的配置文件,让gpmon用户具有连接gp的权限。

添加host all gpmon ::1/128 md5 后gpstop -u

gpcmdr --setup

按照提示内容输入,如果在连接数据库步骤中报错,请检查数据库日志, 如果没有配置standby节点,则在最后系统要求确认是否拷贝到standby节点的时候选择no

7、启动Command center gpcmdr --start ccname(实例名)

第32页

Greenplum数据库安装手册 第十三章 AIX下安装工具包

如果客户需要在AIX环境中访问和连接GP数据库以及部署ETL应用(需要使用gpfdist)是,则需要安装相应的几个GP工具包:

1. greenplum-clients-4.2.1.0-build-2-AIX5-powerpc_64:包含psql和

pgadmin等客户端工具

2. greenplum-connectivity-4.2.1.0-build-2-AIX5-powerpc_64:包含ODBC

和JDBC接口驱动。另外JDBC的jar版本包含三个列举如下,需要根据主机所使用的JDK版本:

postgresql-8.3-605.jdbc2ee.jar(JDK1.3) postgresql-8.4-701.jdbc3.jar(JDK1.4、JDK1.5) postgresql-8.4-701.jdbc4.jar(JDK1.6)

3. greenplum-loaders-4.2.1.0-build-2-AIX5-powerpc_64:包含gpfdist工

由于GP工具包的打包方式问题,因此在AIX环境中安装需要有Linux相对应的几个工具包:bash与gtar。否则无法安装bin包。

首先需要在AIX中安装如下版本的rpm包: bash-3.2-1.aix5.2.ppc.rpm tar-1.14-2.aix5.1.ppc.rpm

并且GP工具包必须要使用bash运行,执行如下:

bash ./greenplum-loaders-4.2.1.0-build-2-AIX5-powerpc_64.bin

第33页

Greenplum数据库安装手册 第十四章 附录

14.1 dd测试

有时候需要使用dd命令测试磁盘IO性能。测试命令如下: 并发写测试:

dd if=/dev/zero of=/data1/a.test bs=32k count=520000 & dd if=/dev/zero of=/data1/b.test bs=32k count=520000 & 并发读测试:

dd if=/data1/a.test of=/dev/null bs=32k count=520000 & dd if=/data1/b.test of=/dev/null bs=32k count=520000 &

14.2 多次初始化

Greenplum数据库可以多次初始化,前提是每次初始化的数据目录(Master和Segment的数据目录)必须不相同。

gpstart和gpstop可以通过-d参数指定Master数据库目录,启动不同的数据库。如果不指定-d参数,系统则默认使用~/.bashrc文件中所设置的MASTER_DATA_DIRECTORY。

同时只能启动一个GP数据库。

14.3 反复初始化数据库

重新初始化数据库有两种方法:

第一种:如果数据库初始化失败,则使用初始化过程中生成的一个Backout脚本清除安装失败留下垃圾文件和目录(不一定能成功)。

~/gpAdminLogs/backout_gpinitsystem__

第二种:如果数据库初始化失败,可关闭数据库,删除所有数据目录,再执

第34页

Greenplum数据库安装手册 行一次数据库初始化命令。该方法实践证明定能成功,在这个过程中,可能会出现多机信任key验证不通过的问题,可参考附录“重新建立多机信任密钥问题”章节进行处理。具体步骤如下: (1)关闭Greenplum数据库(非常关键) gpstop

(2)删除所有Greenplum数据库目录 Master主机及Standby Master主机: rm -rf /data/master Segment主机: rm -rf /data/primary

如果segment有创建备实例,则还需另删除mirror数据目录 rm -rf /data/mirror

(3)重新创建Greenplum数据库目录 Master主机及Standby Master主机: mkdir -p /data/master Segment主机: mkdir -p /data/primary

如果segment有创建备实例,则还需另创建mirror数据目录 mkdir -p /data/mirror (4)初始化数据库

gpinitsystem -c /usr/local/greenplum-db/gpconfigs/gpinitsystem_config -s smdw

14.4 安装后修改数据库参数(非必要)

Greenplum数据库正常安装以后,数据库参数配置允许根据客户的实际情况进行修改。一般情况下不建议主动修改数据库参数。因此本步骤暂时放到附录中。

第35页

Greenplum数据库安装手册 数据库参数修改方法是修改数据目录(MASTER_DATA_DIRECTORY)下的postgresql.conf配置文件。然后根据参数的定义,重新装载配置文件或者重启数据库。

说明:

Local是指每台服务器的配置文件都需要修改; Master是指只需要在master主机上修改; Restart是指需要重启数据库;

Reload是指运行gpstop –u重新装载配置参数即可。

参数名称 max_connections max_prepared_transactions gp_interconnect_setup_timeout max_fsm_pages max_fsm_relations gp_vmem_protect_limit work_mem stats_queue_level 参数类型 integer integer String integer integer integer String boolean 参考值 200 200 3min 200000 1000 8192 32MB off 设置说明 Local,restart Local,restart Master,reload Local,restart Local,restart Local,restart Master,reload Master,reload

14.5 安装Greenplum clients

【安装机器】:ETL主机 如果是压缩文件则先解压:

unzip greenplum-clients-4.1.1.0-build-4-RHEL5-x86_64.zip /bin/bash greenplum-clients-4.1.1.0-build-4-RHEL5-x86_64.bin

修改该主机需要用到client和loaders工具的用户的~/.bashrc配置,增加 source

/usr/local/greenplum-clients-4.1.1.0-build-4/greenplum_clients_path.sh

14.6 安装Greenplum loader

第36页

Greenplum数据库安装手册 【安装机器】:ETL主机 如果是压缩文件则先解压:

unzip greenplum-loaders-4.1.1.0-build-4-RHEL5-x86_64.zip /bin/bash greenplum-loaders-4.1.1.0-build-4-RHEL5-x86_64.bin

修改Master主机需要用到client和loaders工具的用户的~/.bashrc配置,增加

source

/usr/local/greenplum-loaders-4.3.6.2-build-1/greenplum_loaders_path.sh

14.7 安装后数据测试

数据库安装完成后,需要进行数据库建立、数据装载、查询和关键SQL语句的测试。

1、创建数据库:createdb -T template1 testdb 2、启动gpfdist准备导数:

nohup gpfdist -p 8088 -d /data/testdata -l /data/testdata/gpfdist_test.log & 启动后,检查gpfdist进程状态: ps -ef |grep gpfdist 3、创建外部表和库表:

drop external table if exists BS_CDR_GSM_LOC_02_ext ; create external table BS_CDR_GSM_LOC_02_ext (

N_ROWS numeric(8), SOURCE_TYPE VARCHAR(2), CALL_TYPE numeric(3), IMSI_numeric VARCHAR(15), MSISDN VARCHAR(19),

OTHER_PARTY VARCHAR(11), SDATE timestamp,

第37页

Greenplum数据库安装手册 STAT_DATE numeric(8), PERIOD_TIME numeric(2), CALL_DURATION numeric(5), DURATION60 numeric(3), DURATION6 numeric(4), MSRN VARCHAR(11), MSC VARCHAR(10), LAC VARCHAR(4), CELL_ID VARCHAR(4),

OTHER_LAC VARCHAR(4), OTHER_CELL_ID VARCHAR(2), TRUNK_GROUPOUT VARCHAR(7), TRUNK_GROUPIN VARCHAR(7), FILE_NO VARCHAR(20), STOP_CAUSE VARCHAR(1), ORIGIN_NO VARCHAR(15), DEAL_TIME VARCHAR(10), AREA_ID numeric(7),

VISIT_AREA_ID numeric(7), CALLED_AREA_ID numeric(7), CALLED_VISIT_AREA_ID numeric(7), PURVIEW_AREA_ID numeric(7), ROAM_TYPE numeric(1), EDGE_FLAG CHAR(1), A_ASP numeric(1), A_BRAND_ID char(2), A_SERV_TYPE VARCHAR(2), TERM_TYPE numeric(7), B_SERV_TYPE VARCHAR(2), B_HOME_TYPE CHAR(1),

第38页

Greenplum数据库安装手册 OTHER_ASP numeric(2), C_SERV_TYPE VARCHAR(2), CARRIER_TYPE numeric(4), LONG_TYPE numeric(9), USER_ID numeric(16), PAY_MODE char(1), CHANNEL_NO VARCHAR(4), CFEE numeric(7), LFEE numeric(6),

OTHERFEE numeric(5), REAL_CFEE numeric(7), REAL_LFEE numeric(6), REAL_OTHERFEE numeric(5), FREETIME_ITEM numeric(3), FREETIME numeric(6), VPN_ID varchar(16), VPN_FLAG CHAR(1), FREE_CODE VARCHAR(40), FREETIME_ITEM2 numeric(3), FREETIME2 numeric(5), FREETIME_ITEM3 numeric(3), FREETIME3 numeric(5), FREETIME_ITEM4 numeric(3), FREETIME4 numeric(4), FILE_NAME VARCHAR(36), DAY_numeric numeric(2),

ORIGIN_NO_AREA_ID varchar(8), ORIGIN_NO_ASP char(2),

ORIGIN_NO_TERM_TYPE varchar(7), CDR_NO varchar(3),

第39页

Greenplum数据库安装手册

$psql template1 -c ‘drop role gpmon’ $dropdb gpperfmon

5,最后将gpperfmon的相关安装文件删除

$rm -rf $MASTER_DATA_DIRECTORY/gpperfmon/data/* $rm -rf $MASTER_DATA_DIRECTORY/gpperfmon/data/*

6,重启数据库

【gpcc】

$gpstop $gpstart

步骤:

第一步:使用gpadmin用户登录 第二步:执行gpperfmon_install命令:

gpadmin@linux116:~> gpperfmon_install--enable --password gpmon--port 5432 20140519:16:15:07:026251gpperfmon_install:linux116:gpadmin-[INFO]:-PGPORT=5432 psql -f/usr/local/greenplum-db/lib/gpperfmon/gpperfmon3.sql template1 >&/dev/null 20140519:16:15:28:026251

gpperfmon_install:linux116:gpadmin-[INFO]:-PGPORT=5432psql -f

/usr/local/greenplum-db/lib/gpperfmon/gpperfmon4.sql gpperfmon>& /dev/null

20140519:16:15:29:026251gpperfmon_install:linux116:gpadmin-[INFO]:-PGPORT=5432 psql -f/usr/local/greenplum-db/lib/gpperfmon/gpperfmon41.sql gpperfmon >&/dev/null 20140519:16:15:33:026251gpperfmon_install:linux116:gpadmin-[INFO]:-PGPORT=5432 psql -f/usr/local/greenplum-db/lib/gpperfmon/gpperfmon42.sql gpperfmon >&/dev/null 20140519:16:15:36:026251

gpperfmon_install:linux116:gpadmin-[INFO]:-PGPORT=5432psql -f

/usr/local/greenplum-db/lib/gpperfmon/gpperfmonC.sql template1>& /dev/null

20140519:16:15:36:026251gpperfmon_install:linux116:gpadmin-[INFO]:-PGPORT=5432 psql template1 -c\

第45页

Greenplum数据库安装手册 20140519:16:15:36:026251gpperfmon_install:linux116:gpadmin-[INFO]:-PGPORT=5432 psql template1 -c\ENCRYPTED PASSWORD'huawei123'\>& /dev/null 20140519:16:15:37:026251

gpperfmon_install:linux116:gpadmin-[INFO]:-echo\gpperfmon gpmon md5\ 20140519:16:15:37:026251

gpperfmon_install:linux116:gpadmin-[INFO]:-echo\all gpmon 127.0.0.1/28 md5\

20140519:16:15:37:026251gpperfmon_install:linux116:gpadmin-[INFO]:-touch /home/gpadmin/.pgpass>& /dev/null

20140519:16:15:37:026251 gpperfmon_install:linux116:gpadmin-[INFO]:-mv-f /home/gpadmin/.pgpass /home/gpadmin/.pgpass.1400487307 >& /dev/null 20140519:16:15:37:026251

gpperfmon_install:linux116:gpadmin-[INFO]:-echo\>> /home/gpadmin/.pgpass 20140519:16:15:37:026251

gpperfmon_install:linux116:gpadmin-[INFO]:-cat/home/gpadmin/.pgpass.1400487307 >> /home/gpadmin/.pgpass

20140519:16:15:37:026251gpperfmon_install:linux116:gpadmin-[INFO]:-chmod 0600 /home/gpadmin/.pgpass>& /dev/null

20140519:16:15:37:026251gpperfmon_install:linux116:gpadmin-[INFO]:-PGPORT=5432 gpconfig -cgp_enable_gpperfmon -v on >& /dev/null

20140519:16:15:43:026251gpperfmon_install:linux116:gpadmin-[INFO]:-PGPORT=5432 gpconfig -cgpperfmon_port -v 8888 >& /dev/null

20140519:16:15:49:026251gpperfmon_install:linux116:gpadmin-[INFO]:-PGPORT=5432 gpconfig -cgp_external_enable_exec -v on --masteronly >& /dev/null

第46页

Greenplum数据库安装手册 20140519:16:15:55:026251gpperfmon_install:linux116:gpadmin-[INFO]:-gpperfmon will be enabled after afull restart of GPDB 第三步:重启greenplum数据库 gpadmin@linux116:~> gpstop -r

出现的问题: 现象:

一般起不来GP的话,去看/data/master/gpseg-1下面的gp_log文件下面查看gp_start.log日志。

这个一遍是gp_hda.conf文件配置错误,出现没法登陆问题。以后在配置的时候,应该注意 完整争取的gp_hda.conf文件:

第四步:

第47页

Greenplum数据库安装手册 确认监控采集进程是否已经启动

[root@mdw ~]# ps -ef|grep gpmmon|grep -v grep gpadmin 12327 12307 0 23:38 ? 00:00:00 /usr/local/greenplum-db-4.3.0.0/bin/gpmmon -D

/data/master/gpseg-1/gpperfmon/conf/gpperfmon.conf -p 5432 确认Performance Monitor数据库写入数据是否正常,检查是否有记录写入 [gpadmin@mdw ~]$ psql -d gpperfmon -c 'select * from system_now' ctime | hostname | mem_total | mem_used |

mem_actual_used | mem_actual_free | swap_total | swap_used | swap_page_in | swap_page_out | cpu_user | cpu_sys | cpu_idle | load0 | load1 | load2 | quantum | disk_ro_ra

te | disk_wo_rate | disk_rb_rate | disk_wb_rate | net_rp_rate | net_wp_rate | net_rb_rate | net_wb_rate

———————+———-+————+————+—————–+—————–+————+———–+————–+—————+———-+———+———-+——-+——-+——-+———+———–

—+————–+————–+————–+————-+————-+————-+————-

2014-05-07 23:43:00 | sdw2 | 2108235776 | 2081308672 | 141631488 | 1966604288 | 4194295808 | 0 | 0 | 0 | 0 | 0.13 | 95.73 | 0 | 0.14 | 0.13 | 15 |

0 | 2 | 0 | 5461 | 5 | 5 | 1408 | 2848

2014-05-07 23:43:00 | mdw | 2108235776 | 874029056 | 101134336 | 2007101440 | 4194295808 | 0 | 0 | 0 | 0.33 | 0.2 | 95.47 | 0.01 | 0.08 | 0.05 | 15 |

0 | 3 | 0 | 14025 | 9 | 8 | 5457 | 2469

2014-05-07 23:43:00 | smdw | 2108235776 | 1075228672 | 90112000

第48页

Greenplum数据库安装手册 | 2018123776 | 4194295808 | 0 | 0 | 0 | 0 | 0.07 | 96.47 | 0 | 0 | 0 | 15 |

0 | 1 | 0 | 1093 | 1 | 1 | 26 | 103

2014-05-07 23:43:00 | sdw1 | 2108235776 | 2079322112 | 141742080 | 1966493696 | 4194295808 | 0 | 0 | 0 | 0 | 0.13 | 95 | 0.05 | 0.13 | 0.11 | 15 |

0 | 1 | 0 | 2730 | 5 | 5 | 1403 | 2848 (4 rows)

拷贝Master主机拷贝配置文件到Standby Master的相应目录

[gpadmin@mdw ~]$ gpscp -h smdw /data/master/gpseg-1/pg_hba.conf =:$MASTER_DATA_DIRECTORY/

[gpadmin@mdw ~]$ gpscp -h smdw ~/.pgpass =:~/ 第五步:

安装Performance Monitor控制台

Performance Monitor控制台通常安装在Master主机上,也可以安装到独立的服务器上,由于安装目录权限问题,建议先使用root用户执行

[root@mdw ~]# ./greenplum-perfmon-web-4.1.1.3-build-4-RHEL5-x86_64.bin [root@mdw ~]# chown -R gpadmin.gpadmin

/usr/local/greenplum-perfmon-web-4.1.1.3-build-4

修改Master主机root,gpadmin和gpmon用户的.bashrc配置,增加

source /usr/local/greenplum-perfmon-web-4.1.1.3-build-4/gpcc.sh 【 /usr/local/greenplum-cc-web/gpcc_path.sh】

第六步:

第49页

本文来源:https://www.bwwdw.com/article/ul2r.html

Top