天蝎整机柜服务器技术规范2.5 - 图文

更新时间:2023-03-16 03:23:01 阅读量: 教育文库 文档下载

说明:文章内容仅供预览,部分内容可能不全。下载后的文档,内容与下面显示的完全一致。下载之前请确认下面内容是否您想要的,是否完整无缺。

天蝎项目整机柜服务器解决方案

天蝎整机柜服务器技术规范

2.5

天蝎项目组 2014/8/29

天蝎整机柜服务器技术规范 2.5

文档版本修订记录

“天蝎技术规格2.5”修订记录

版本 draft

修订人

阿里巴巴、百度、腾讯、 中国电信、英特尔 阿里巴巴、百度、腾讯、 中国电信、英特尔

时间 2012.12.30

变更内容简述 汇总原始需求

和vendor讨论需求与部分 实现

完善各模块定义,及硬件 相关的技术细节 修订各模块定义,及完善 技术要求细节,统一术语 描述。

2014.08.29

审批发布

Rev 0.3 Rev 0.5

2013.06.28

阿里巴巴、百度、腾讯、 2013.11.08 中国电信、英特尔 阿里巴巴、百度、腾讯、

Rev 0.9 中国电信、中国移动、英 2014.08.19 特尔

Rev 1.0

开放数据中心决策委员 会

2 / 75

天蝎整机柜服务器技术规范 2.5

目录

目录 ................................................................................................................................................................3 第一章 前言 ............................................................................................................................................5 1.1概述 .................................................................................................................................................5

1.2术语说明 .........................................................................................................................................6 第二章 机柜系统(Rack Subsystem)...................................................................................................7 2.1尺寸规格 .........................................................................................................................................7

2.2功能分区 .........................................................................................................................................7 2.3后部规格 .......................................................................................................................................10 2.4顶部规格 .......................................................................................................................................11 2.5底部规格 .......................................................................................................................................13 2.6承重设计 .......................................................................................................................................17 2.7并柜设计 .......................................................................................................................................17 2.8接地方式 .......................................................................................................................................18 2.9 Busbar及结构位置 ........................................................................................................................19 2.10电源框机构设计 .........................................................................................................................21 2.11 RMC机构设计..............................................................................................................................26 2.12风扇机构设计 .............................................................................................................................28 2.13机柜背板机构设计 .....................................................................................................................29 2.14服务器节点机构设计 .................................................................................................................29

2.14.1节点托盘背板机构 ..........................................................................................................29 2.14.2服务器定位及机柜背板定位设计...................................................................................32 2.14.3服务器止位设计 ..............................................................................................................35 2.14.4服务器固定孔设计 ..........................................................................................................37

第三章 网络系统(Network Subsystem) ..........................................................................................39 第四章 供电系统(Power Subsystem) ..............................................................................................39 4.1电源框(Power Shelf)......................................................................................................................39

4.2电源模块(PSU).........................................................................................................................41 4.3主铜排(Busbar) ........................................................................................................................45 4.4节点连接器(Clip) .....................................................................................................................47 第五章 散热系统(Cooling Subsystem) ............................................................................................47 5.1散热区域(Cooling Zone) ..........................................................................................................47

5.2风扇模组(Fan Tray) ..................................................................................................................48 5.3风扇盒(Fan Cage).....................................................................................................................48 5.4风扇(Fan)..................................................................................................................................48 5.5风扇背板(Fan Board) ...............................................................................................................50 5.6控制策略 .......................................................................................................................................51 第六章 机柜管理系统(RMC Subsystem).........................................................................................53

6.1系统组成 .......................................................................................................................................53

6.2系统拓扑图 ...................................................................................................................................53

3 / 75

天蝎整机柜服务器技术规范 2.5

6.3管理系统功能 ...............................................................................................................................54

6.3.1节点监控 ............................................................................................................................54 6.3.2电源监控 ............................................................................................................................55 6.3.3风扇监控 ............................................................................................................................55 6.3.4通讯接口 ............................................................................................................................56 6.3.5 CLI命令规范........................................................................................................................56 6.3.6 IPMI命令规范.....................................................................................................................56 6.4 RMC单元........................................................................................................................................56

6.4.1尺寸 ....................................................................................................................................56 6.4.2硬件配置 ............................................................................................................................57 6.4.3散热 ....................................................................................................................................57 6.4.4连接电源框接口 ................................................................................................................57 6.4.5 PIN功能定义.......................................................................................................................58 6.5机柜背板(RBP)..........................................................................................................................62 6.6服务器托盘背板(TBP) .............................................................................................................64 6.7节点信号转接板(NSTB)...........................................................................................................65 6.8电源框背板(PBP) .....................................................................................................................65 第七章 服务器节点(Server Node) ..................................................................................................67 7.1服务器托盘(Server Tray)尺寸..................................................................................................67

7.2主板(Mother Board)尺寸.........................................................................................................67 7.3托盘背板(TBP) .........................................................................................................................68 7.4节点供电需求 ................................................................................................................................68 7.5面板规格 .......................................................................................................................................69 7.6指示灯功能定义 ...........................................................................................................................69 第八章 环境及机房要求 ......................................................................................................................70 8.1工作环境 ........................................................................................................................................70

8.2存储环境 .......................................................................................................................................70 8.3机房要求 .......................................................................................................................................70 第九章 电磁辐射 ..................................................................................................................................71 附录 ..............................................................................................................................................................72

附录 1服务器节点配置参考............................................................................................................72 附录 2 RMC软件 CLI命令规范........................................................................................................75 附录 3 RMC支持的 IPMI命令规范 .................................................................................................75 附录 4整机柜管理框架指南............................................................................................................75

4 / 75

天蝎整机柜服务器技术规范 2.5

第一章前言

1.1 概述

天蝎 2.5整机柜服务器解决方案,是在天蝎 1.0技术规范基础上的演进版本。仍然 采用模块化设计方案,分为机柜子系统、网络子系统、供电子系统、服务器节点 子系统、集中散热子系统、集中管理子系统共六大部分组成。

主要改进点:

1.定义了 2100mm、2300mm两种规格的机柜; 2.重新定义了机柜的内部尺寸,统一为 538mm内框; 3.重新定义了每 U的高度为 46.5mm; 4.增强了机柜背板功能,并可实现热插拔维护;

5.服务器节点与机柜系统解耦,可实现服务器节点混插互换; 6.明确定义了风扇的尺寸,统一为 140*38规格; 7.增加了机柜顶部扩展功能;

机柜子系统采用了当前流行标准机架的外形尺寸,高度为 2100mm和 2300mm两种 规格、宽度 600mm、深度 1200mm。机柜实际可用空间分别为 42U和 46U ,分为 上、中、下三部分,最上面 19U(或 23U)、最下面 20U为服务器和交换机空间, 可部署 1U1、1U2、1U3形态的服务器节点,或 TOR网络交换机,且在机柜顶部预 留扩展功能,实现交换机外置机柜顶部,对交换机数量进行扩展。中间 3U空间用 于部署 PSU和 RMC单元。

集中电源子系统占 3U空间,采用模块化设计方案。最多可容纳 10个 PSU模块,可 提供双路输入冗余,实现 N+N或 N+1模块冗余,单路支持 7~12KVA的供电容量。 电源支持 220VAC、380VAC、240VDC、336VDC等多种输入规格, PSU集中输出至 12VDC铜排,机柜内铜排设计可分为上下两段,每段设计容纳最大电流为 600 安培。服务器节点、风扇通过 12VDC Busbar直接取电。

5 / 75

天蝎整机柜服务器技术规范 2.5

集中散热子系统,采用了风扇墙共享设计,由 RMC或机柜背板(RBP)实现独立 风扇控制。以 Cooling Zone为单位独立设计,采用了 N+1冗余设计,可以实现独 立维护,并对节点透明。

1.2 术语说明

RMC: PBP: RBP: NSTB:

Rack Management Controller,机柜管理单元; Power Back Plane,电源框背板; Rack Back Plane,机柜背板;

Node Signal Transfer Board,节点信号转换板,位于 Server Tray里面, 用于连接 Tray Back Plane和 Rack Back Plane;

TBP:

Tray Back Plane,服务器托盘背板;

Cooling Zone :共享散热区域;; Fan Tray: Fan Cage: Fan: FB: MB: Node: Server: PSU:

风扇模组;

风扇盒,含支架和风扇; 单体风扇;

Fan Board,风扇背板; Mother Board,服务器主板; 服务器节点;

同 Node,服务器节点;

Power Supply Unit,电源模块,又称电源模组;

Power Shelf :电源框; Rack: Busbar: SU: RTC:

机架框体;

12VDC主铜排,又称母排;

Scorpio Rack Unit,文中简称 U,机柜高度单位,1SU=46.5mm;

Real-Time Clock,实时时钟芯片

6 / 75

天蝎整机柜服务器技术规范 2.5

第二章机柜系统(Rack Subsystem)

2.1 尺寸规格

天蝎 2.5机柜分 2种规格,2100mm高度和 2300mm高度。

其主要差别在于 2100mm高度的可用空间为 42U、2300mm高度的可用空间为 46U。 其他参数见下表,括号内为允许的制造公差范围。

表格 1 Rack尺寸规格

项目

高度(含滚轮)

规格 1描述 2100mm(±2mm)

规格 2描述 2300mm(±2mm) 46U

有效使用空间(U)42U 深(长)度 外框宽度 1U高度 内框宽度

1200mm(±2mm) 600mm(+0mm,-3mm) 46.5mm

538mm(0,+2mm)

最小节点调节高度 1U

2.2 功能分区

(1 )水平分区

柜内水平空间分为三部分:前部、中部、后部。 前部空间:含理线及立柱空间,占 150mm 中部空间:节点托盘的空间,占 850mm 后部空间:含静压腔和风扇窗空间,占 200mm

图示如下:

7 / 75

天蝎整机柜服务器技术规范 2.5

图表 1 机柜水平布局

(2 )垂直分区

机柜垂直方向分为下、中、上 3个区间:Node Zone 1、Power Zone、Node Zone2 U编号定义:从机柜的底部自下往上顺序为 1U~42U或 1U~46U 各分区尺寸定义如下:

表格 2 机柜垂直分区尺寸定义

规格1 规格2

机柜下部空间:20U(Node zone1) 机柜下部空间:20U(Node zone1) 20U x 46.5mm=930mm 3U x 46.5mm=139.5mm

20U x 46.5mm=930mm 3U x 46.5mm=139.5mm

机柜中部空间:3U(Power Zone) 机柜中部空间:3U(Power Zone)

机柜上部空间:19U(Node zone2) 机柜上部空间:23U(Node zone2) 19U x 46.5mm=883.5mm 23U x 46.5mm=1069.5mm

Node Zone1可用于部署服务器节点和交换机,要求交换机可以部署在任意 U位置; Node Zone2可用于部署服务器节点和交换机,要求交换机可以部署在任意 U位置; Power Zone用于部署 PSU和 RMC;

3. RMC位置

8 / 75

天蝎整机柜服务器技术规范 2.5

RMC在机柜内和 Power Shelf共享空间,位于 Power Shelf内部,前视图左侧

4.布局概览

布局中安装交换机位置,要求设计 21inch->19inch转换支架,用于部署 19 inch商用交 换机。21inch->19inch转换支架以 1U为单位设计,可以安装在 Node Zone1和 Node Zone2 的任意 U位置,以满足交换机安装在不同位置的需求。

机柜分区概览参考下图示意:

Node Zone2

Node Zone2

Power Zone Power Zone

Node Zone1 Node Zone1

图表 2 机柜垂直分区示意图

机柜顶部预留扩展柜功能,在交换机数量及节点数量无法满足要求时,可通过在机 柜顶部增加一结构框体,用于安装固定交换机,实现交换机数量扩展功能,具体如下图 所示。图中仅为示意,满足 19”交换机安装,增加的机柜顶部交换机固定架后,机柜总

9 / 75

天蝎整机柜服务器技术规范 2.5

高度不超过 2500mm,可按照增加的交换机数量进行灵活设计,其机柜顶部交换机固定 架可作为附件,按需发货。

图表 3 机柜顶部扩展示意图

2.3 后部规格

机柜后部规格要考虑风扇窗、机柜背板、Busbar位置和固定。 1.风扇窗

表格 3 风扇窗规格需求

项目 风扇窗形态 风扇窗固定位置

描述

高度 4U,可覆盖 4U或者 4U以上空间散热需求 可按照 1U(46.5mm)为单位进行固定,可以以 1U为最 小单位调整上下位置

风扇窗固定方式 风扇窗把手

前后抽拔,固定方式不限,要求能采用免工具方式维修 符合人体工程学,便于双手拆卸和安装

10 / 75

天蝎整机柜服务器技术规范 2.5

基准面 C为机柜内宽 538mm左基准面。

2.10 电源框机构设计

电源框(Power Shelf),也称为电源模组。

在整机柜第 21U~23U位置为放置电源框的空间,截取机柜 21U~23U如下图所示。

电源框可依照 19”或 21’’机柜标准进行设计。若按照 19’’设计,后端固定需要依照如下 图所示尺寸进行相应匹配设计。

图表 13 电源框结构示意图

如下图为电源框前端固定孔位相关尺寸定义: (匹配 19”电源框体)高度≤ 135.4mm。

图表 14 电源框前端固定孔尺寸图

21 / 75

天蝎整机柜服务器技术规范 2.5

图表 15 电源框前端固定孔尺寸细节图 A

如下图为电源框后端固定孔位相关尺寸定义:

图表 16 电源框后端固定孔尺寸图

22 / 75

天蝎整机柜服务器技术规范 2.5

图表 17 电源框后端固定孔尺寸细节图 B

如下图为电源框深度尺寸定义及电源框后部与系统 Busbar相连接的位置尺寸定义:

图表 18 电源框深度尺寸定义与机柜 Busbar连接位置尺寸图

23 / 75

天蝎整机柜服务器技术规范 2.5

图表 19 电源框与机柜 Busbar连接位置尺寸细节图 C

如下图为电源框 Busbar与机柜 Busbar相连接的螺丝孔

锁紧扭力:45kgf.cm 位置尺寸定义如下:

图表 20 电源框与机柜 Busbar连接螺丝孔位置图

24 / 75

天蝎整机柜服务器技术规范 2.5

剖面 A-A:

图表 21 电源框与机柜 Busbar连接螺丝孔剖面图

细节图 D:

图表 22 电源框与机柜连接螺丝孔尺寸细节图 D

25 / 75

天蝎整机柜服务器技术规范 2.5

下半段长度:覆盖 20U; 42U:

上半长度:覆盖 19U; 下半段长度:覆盖 20U;

注:Busbar长度可根据实际的节点数量和交换机位置而调整

宽度 厚度 最大承载电流

建议宽度 76mm 3mm

整个机柜分上下两个 Power Zone,Busbar分上下两段。 每段 Busbar最大可承载电流 600A,整个 Rack可承载 1200A; Derating 20%

机柜中的安装位正负 Busbar安装在机柜的前视图左边。 置 参见章节 2.9 Busbar及结构位置定义。

机柜 Busbar正负从机柜后面看,机柜 Busbar及 Power Shelf Busbar左负右正,如下图:

红色正,蓝色负。即靠近机柜边是正。

绝缘层 Busbar温度 Busbar材质 Busbar损耗

Busbar本体应该有保护的绝缘措施,且在机柜中有保护的机构件; 最大负载及环温 40℃时 Busbar上的温度小于 65℃

铜材:T2牌号;镀层:Ni,要求通过相关环境测试和插拔 100次 机柜 Busbar分上下二段,共 4根 Busbar的功率损耗在测试时环境 50℃条件下: <24W@700A <36W@1000A

防护罩 不影响节点插拔,结合节点 clip尺寸定义防护罩内径尺寸。防护罩 的各个面(尤其是与整机柜内部风流向正对面)表面需要开孔,开 孔率大于 60%

46 / 75

天蝎整机柜服务器技术规范 2.5

4.4 节点连接器(Clip)

Clip位于服务器的 Tray Back Plane 上,详细规格如下表。 表格 10 Clip规格 项目

规格描述 推荐使用:

参考型号

TYCO:1982995-1(参考文件108-19360) FCI :10125600

最大承载电流 位置 参考厂家 可插拔次数

最大承载电流100A

参考章节2.9 Busbar及结构位置 泰科&FCI

每个Clip应该大于100次

第五章散热系统(Cooling Subsystem)

散热系统包括散热区域(Cooling Zone)、风扇模组(Fan Tray)、风扇盒(Fan Cage)、风 扇背板(FB)组成。

5.1 散热区域(Cooling Zone)

共享散热区域,即 Cooling Zone,是指机柜后部用于安装 Fan Tray的空间。中间没有阻 挡且共享风扇的空间详细规格见下表。

表格 11风扇窗规格 项目 使用环境 静压腔 Fan Tray数量

规格描述

温度要求10-35摄氏度 湿度要求20%-80% 大于150mm

Cooling zone大小可调整,半柜20U空间可分割成4或5个 Fan Tray

47 / 75

天蝎整机柜服务器技术规范 2.5

cooling zone隔离要求结构设计需支持分隔、贯通两种要求

5.2 风扇模组(Fan Tray)

风扇模组规格如下表:

表格 12 Fan Tray规格

项目 宽 高 固定方式 固定孔位 运维 风扇数量

规格描述 ≤21英寸

4U(与结构相匹配)

参见章节 2.12风扇机构设计 参见章节 2.12风扇机构设计 支持热插拔 3个

5.3 风扇盒(Fan Cage)

风扇盒规格如下表:

表格 13 Fan Cage规格

项目 尺寸

描述

风扇 Cage的总深度需控制在 50mm以内(包括风扇百叶、风扇、 结构等的深度),以保持风扇静压箱的深度。

固定方式 运维 安规

卡扣式方式固定 支持热插拔

满足国家相关安规规定

5.4 风扇(Fan)

统一采用 140*38mm规格风扇,详细规格见下表。

48 / 75

天蝎整机柜服务器技术规范 2.5

表格 14 Fan 规格

项目 尺寸

规格描述

140mm*140mm*38mm

详细尺寸(含风扇)参考下图:

风扇接口 连接 FB连接器 PIN功能定义

8 pin

推荐使用 MOLEX 44133-0800 or EQUIVALENT PIN1:------( SOLDER WITH PIN5 ) PIN2:------( LED +/ GREEN LIGHT ) PIN3:------( LED - )

PIN4:------( LED +/ RED LIGHT ) PIN5:------( - ) PIN6:------( PWM ) PIN7:------( FOO ) PIN8:------( + )

风扇类型 参考型号: Delta ADDA Sunon

PFM1412DE AS14012XB387BB0 PSD12E0PMB1-8A

风扇 PQ特性曲线参考上述详细型号,PQ特性参考下图曲线要求:

49 / 75

天蝎整机柜服务器技术规范 2.5

Fan连接 FB的参考 AWG#22 cable Fan功能要求

风扇在 0%-100%不同的 duty cycle时均不能停转

5.5 风扇背板(Fan Board)

风扇背板(Fan Board)是指 Fan Tray里面的连接小卡,用于风扇(Fan)取电和传递 RBP 的风扇控制信号。

a)取电:FB要设计连接器,从 Basbar取电共给风扇使用,实现方式有厂商自行考虑; b) FB的尺寸、固定方式未定义,厂商自行设计;

c)连接 FAN连接器:8PIN,推荐 MOLEX 44133-0600 or EQUIVALENT或同其他同规格兼

容型号;

d)连接 RBP连接器: 16PIN,推荐 MOLEX 5016451620;

e)连接 RBP端 PIN定义,参见章节 6.5 RBP连接 FB端 PIN定义; f) 连接 Fan端信号 PIN定义如下表所示;

50 / 75

本文来源:https://www.bwwdw.com/article/ls3v.html

Top