GPU服务器整体与外观
虽然各厂商的专业GPU服务器存在一定的设计差异，但总体而言，大部分结构相近，通过这些厂商服务器结构的了解，有利于对GPU服务器硬件有进一步的了解与掌握。
NVIDIA DGX A100服务器半拆解图如下：
ASUS（厂商）HGX H100服务器GPU模组与机头半抽拉状态：
某些厂商的GPU服务器正视图/前面板：
某些厂商的GPU服务器（风冷）后视图/后面板：
某厂商的GPU服务器（液冷）后视图/后面板：
GPU服务器各部分模块与部件
GPU服务器各部分模块如下图：
GPU服务器各部分部件如下图：
GPU服务器中最核心的两大模块，分别为GPU节点（除去机壳之外就是GPU模组），以及机头（除去机壳之外的CPU计算节点）。
GPU模组及构成
GPU模组如下所示：
GPU模组各部件：
GPU模组主要核心部分包括GPU模组板（UBB）、GPU芯片、NVSwitch芯片，以及GPU散热器：
-
GPU模组板（UBB)，即Unit Base Board，用于搭载多个GPU整合为矩阵平台，为GPU之间和GPU与CPU之间，提供高速的数据交换能力。
-
OAM GPU模块，是一种基于开放标准（Open Accelerator Module）设计的GPU模块，可以插入到GPU模组板上，例如SXM A100 GPU。
-
NVSwitch芯片，用于供多GPU之间进行超高速数据通信。
-
GPU散热器，用于为GPU散热。
CPU计算节点（机头）及构成
CPU计算节点（机头）各部件：
-
1-CPU计算节点机箱盖：安装于CPU计算节点机箱上，保护内部部件；
-
2-存储控制卡：为SAS/SATA硬盘提供RAID支持，具有RAID配置、RAID扩容等功能，支持在线升级存储控制卡固件、远程设置；
-
3-提升卡/Riser卡：转接卡，PCIe卡通过Riser卡安装到服务器；
-
4-超级电容固定座：用于将超级电容固定到机箱；
-
5-服务器管理模块：为服务器提供各类IO接口及HDM带外管理功能；
-
6-OCP转接模块：用于安装OCP网卡（遵循开放计算项目（Open Compute Project）规范设计的网络接口卡）；
-
7-导风罩：为CPU散热器和内存提供散热风道，同时为超级电容提供安装位置；
-
8-CPU散热罩：为CPU散热；
-
9-内存：用于暂时存放CPU中的运算数据，以及与硬盘等外部存储设备交换的数据，产品支持DDR5内存，支持RDIMM或LRDIMM；
-
10-CPU：集成内存控制器和PCIe控制器，为服务器提供强大的数据处理功能；
-
11-标准PCIe网卡：一种网卡，支持安装到标准PCIe槽位；
-
12-后部硬盘笼：用于扩展后部硬盘；
-
13-网卡转接模块：网卡转接模块包含4卡和8卡两种规格，以适配不同数量的网卡；
-
14- OCP网卡：仅支持安装到OCP转接模块上；
-
15-汇流条：用于接通电源转接板和PCIe Switch转接板之间的电流通路；
-
16-电源转接板：将外部电源提供给GPU节点，并将电源状态传递到主板；
-
17-加密模块：用于为服务器提供加密服务，提高服务器数据安全性；
-
18-M.2 SSD卡：为服务器提供数据存储介质；
-
19-超级电容：用于在系统意外掉电时为存储控制卡上的Flash卡供电，实现存储控制卡上数据的掉电保护；
-
20-CPU计算节点电源模块：为CPU计算节点运行提供电力转换功能。电源模块支持热插拔，支持1+1冗余；
-
21-GPU电源模块：为GPU节点、风扇、前部硬盘框模块、网卡转接模块等运行提供电力转换功能。电源模块支持热插拔，支持3+3冗余；
-
22-PCIe Switch转接板：用于扩展PCIe信号；提供PCIe Switch，实现GPU与硬盘和网卡的高效互联；
-
23-主板：服务器最重要的部件之一，用于安装CPU、内存等，集成了服务器的基础元器件，包括BIOS芯片、PCIe插槽等；
-
24-计算节点机箱：将计算节点中所有部件集中到一起。