序号

设备名称

技术要求

1

管理登录节点

1、规格：标准2U机架式，配置安装导轨；

2、处理器：配置2 X Intel Xeon 4316(2.3Ghz/20C/150W/）；

3、内存：配置8 X 32GB/DDR4/3200MHz/ECC/REG；

4、硬盘：配置2 X SSD/960GB/SATA 6Gb/2.5寸/企业级；    

5、RAID：支持RAID 0,1,5,6,10,50,60,JBOD，2G缓存，超级电容；

6、网卡：2个千兆网口，1块25G双口光卡，1块Mellanox CX-6 VPI HDR  IB 100Gb/s 单口QSFP56网卡；

7、电源：标配2个800W白金交流电源模块，支持1+1冗余电源模式；

8、管理功能：支持IPMI2.0，对外提供1个100/1000 Mbps RJ45管理网口，支持iKVM 远程管理；

▲9、集成安全性：支持TPM加密模块接口，机箱开盖入侵检测，加锁机箱上盖板，配置指纹开机识别模块，提升系统安全性（提供产品彩页证明）；

10.全新原装产品，3年原厂售后上门服务。

3

大模型计算节点

1、规格：4U标准机架式，配置安装导轨；

★2、处理器：配置2 X Intel Xeon 8457C (2.6Ghz/48C/350W/）；

★3、内存：配置32 X 64GB/DDR5/4800MHz/ECC/REG，标配32DIMM插槽；

4、硬盘：配置2 X SSD/960GB/SATA 6Gb/2.5寸/企业级，2 X SSD/7.68TB/U.2/NVME/企业级，标配12个3.5/2.5寸热拔插硬盘插槽，板载支持2个M.2 NVMe SSD；

5、RAID卡：配置独立RAID卡，支持RAID 0，1，10；

※6、GPU：8 X 高性能GPU卡，单卡显存80G HBM2，支持7个MIG实例，单卡AI稀疏矩阵算力TF32≥750TFlops、FP16（BF16）≥1500Tflops（提供GPU产品彩页或GPU制造商官网截图材料证明）；最大支持10块全高全长双宽GPU卡；

7、网卡：后置2个千兆RJ45网口，1块Mellanox CX-6 VPI HDR 200 IB 100Gb/s 单口QSFP56网卡；

8、电源：具备 PMBus功能的 2700W 2+2高效冗余电源；

9、管理功能：支持IPMI2.0，对外提供1个100/1000 Mbps RJ45管理网口，集成iKVM，支持远程管理；

10、I/O端口：后置2个USB 3.0接口、1个VGA接口、1个IPMI RJ45管理口、1个ID灯；前置2个USB 3.0接口、1个VGA接口、一个COM口；

11、以上参数提供制造商产品彩页证明；

▲12、产品通过中国节能产品认证、中国环境标志产品认证（提供证书复印件证明）；

13、全新原装产品，3年原厂售后上门服务。

5

智算集群管理软件

软件系统由超算集群软件模块和人工智能开发管理模块组成，为保证兼容性和运维便利性，超算集群软件模块和人工智能开发管理模块须为同一品牌（提供计算机软件著作权登记证书复印件证明）；

一、超算集群软件模块要求：

1、整体要求：支持最新版的64位企业级Linux操作系统。

2、集群监控管理：

（1）直观的集群物理拓扑视图，显示节点的占用状态和节点温度。可配合作业调度系统，显示本地作业排队情况，方便动态掌握用户作业信息。

（2）通过WEB界面监控并展示集群当前节点各部件的状态，包括CPU平均使用率、内存使用率、硬盘利用率、GPU利用率在内的多种参数（提供产品功能界面截图证明）。

（3）集群网络视图中用户可以查看集群整体网络运行情况，包括总体网络吞吐率、单节点网络吞吐率在内的多种参数。

（4）支持对单机或批量节点进行操作，包括：远程开机、关机、重启、删除节点、允许节点提交作业、拒绝节点提交作业、执行并行命令等操作。

3、作业调度：

（1）采用主流作业调度方式，支持多种作业提交方式，包括GUI一件提交、命令行、作业脚本和可执行文件等。支持通过浏览器进行集群使用操作。支持作业计算过程图形界面的交互操作。

（2）资源调度支持对CPU、GPU、FPGA等进行统一调度，支持异构集群作业调度模式。

（3）支持用户组和用户任务配额管理，支持配置最大运行作业数、最大排队作业、最大处理器核心数等资源限制。

（4）作业调度支持多队列管理，支持对队列设置不同管理策略，管理员用户可自定义队列策略。

4、可靠性：集群节点自动热备份，发生故障时不影响调度业务的正常运行。支持多级容错，包含系统级容错、作业级容错，即系统发生故障（如网络中断、系统宕机）或作业因为偶然故障（如磁盘空间不足，获取许可证失败）引起的作业失败时，该作业能被重新调度到其它机器上执行。

5、用户管理：

（1）提供web界面进行用户/组管理，包括集群用户/用户组的创建，显示，修改和删除。

（2）具备3层组织架构管理，如集群管理员、账户管理员、成员等，通过设定对组织及用户进行资源配额（提供产品功能界面截图证明）。

6、存储管理：  

（1）支持各种分布式文件系统：Lustre, NFS等；平台存储可提供提供AES-256级别加密强度来加密待传输的数据，实现用户通过Web方式上传数据的方式隐私安全；支持断点续传、文件搜索、下载、压缩、解压、新建和删除等功能。

（2）集群软件支持对用户组和用户使用存储空间进行配额管理，支持分别设定用户组或用户最大可使用存储空间，支持对单一目录进行存储空间管理。

（3）存储管理模块支持对用户组和用户存储文件数量进行配额管理，支持设定用户组或用户最大可存储操作文件数量。

7、深度学习作业调度：支持多种AI计算框架：支持TensorFlow，Caffe，Pytorch等AI框架集成，支持开源数据集，便于提取进行训练。

8、集群登录：

（1）支持通过内部集成webSSH登录或者使用第三方登录软件putty、Xshell登录集群（提供产品功能界面截图证明）。

（2）支持B/S架构的远程可视化，显示远程应用窗口。

9、作业报表：

（1）提供导出单日报表、某用户单日报表、日期范围报表、某用户日期范围报表（提供产品功能界面截图证明）。

（2）支持灵活、可自定义的计费策略；支持按照CPU、GPU、存储使用情况计费或者自定义计费策略。管理员可按需对所有用户产生计费报表，并通过Excel输出报表。

10、开发环境：

（1）GNU C/C++/Fortran编译器。

（2）JAVA、python开发环境。

（3）Intel MKL、BLAS、LAPACK、ScaLALACK、FFTW等函数库。

（4）并行环境Intel MPI、MPICH、OpenMPI等。

（5）提供多种高性能计算软件安装服务，如Gaussian、Vasp、Amber、Pytorch、Anaconda、alphafold2等以及基于各种 MPI 的自研软件等应用的集成，并提供后续安装的计算软件集成服务，支持自定义软件模板，通过模板快速提交训练任务。

二、人工智能开发管理模块要求：

1、整体要求：

（1）提供对容器+镜像的管理，支持网页端容器全生命周期管理，对异构资源进行高效管理、调度、监控。对外提供 Restful API 和命令行接口，方便用户进行二次开发；

（2）多数据中心管理，用户可以选择使用某一数据中心的资源，同时具备3层组织架构管理，如管理员、组织管理员、成员等，通过设定对组织及用户进行资源配额；

（3）平台可集成多种深度学习各种框架（如TensorFlow，pytorch，caffe，keras，hovorod，ray，Matlab等）用户模型开发、模型训练等，支持自定义框架扩展；

（4）支持 Glusterfs/Longhorn等分布式存储系统；

★（5）平台支持设置用户优先级（5>4>3>2>1），优先级高的用户可以优先使用平台资源，提升平台资源的使用效率（提供产品功能界面截图证明）；

（6）提供完整的计量计费功能，管理员可通过计费模块对GPU、CPU、内存等资源进行费用设定，根据用户使用时长进行计费；

▲（7）支持用户通过微信或支付宝等方式在线充值，支持虚拟充值，在后台管理系统上由运营人员进行充值，支持免费使用（提供产品功能界面截图证明）；

2、GPU资源集中管理分配

（1）支持多个物理区域的GPU卡资源统一纳管，统一分配；支持单机单卡，单机多卡，多机多卡以及VGPU-单GPU卡多用户共享方式分配资源；以任务方式分配计算资源；任务完成计算资源回收；

（2）支持GPU按照型号进行分组，当用户需要某一种类型的GPU卡时，就会从资源池中调度这一类型型号的卡给用户；

（3）支持管理集群中GPU服务器及GPU卡的运行状况，包含CPU、内存使用率，系统盘使用率，GPU总数/使用数，GPU属性模式等；

3、深度学习计算服务：

（1）支持用户按需设置深度学习环境，包括深度学习框架，网络模型，GPU及CPU资源；训练完成销毁运行环境，释放计算资源；支持快速创建深度学习环境，应用程序及硬件资源相互隔离，独立运行；支持 Tensorboard 训练过程输出的日志可视化；

（2）支持实时查看运行环境的GPU、CPU、内存、显存、温度等信息；支持 Web 和 SSH 远程访问环境；支持开发环境映射内部端口号；

▲（3）支持对环境做一键式/定时快照和备份，用于环境的快速回滚，且支持环境框架、资源配置动态调整（提供产品功能界面截图证明）；

（4）提供web端高效协同AI算法模型开发工具，提供Jupyter lab和jupyter notebook的集成，支持AI相关数据集成到Jupyter中，支持一键添加代码和数据集，提供在线编程及部署功能，支持通过Pycharm、VScode等工具进行远程调试（提供产品功能界面截图证明）；

4、模型训练服务：

（1）支持可视化作业管理、版本管理、克隆任务（参数管理）等功能，基于参数管理可以快速创建任务，提升模型训练任务的迭代效率（提供产品功能界面截图证明）；

（2）支持任务优先级和排队机制，创建训练任务时支持脚本文件和 Python 文件，支持运行命令预览功能，支持一键保存模型，训练完成自动释放算力资源；支持 Tensorboard 对训练过程输出的日志进行可视化展示；

（3）集群支持分布式并行训练功能；支持将平台所有可使用的GPU、CPU、内存、硬盘等资源虚拟化，实现按需申请分布式训练所需要的硬件资源功能；支持实时监控每个节点的运行情况；

（4）支持 AuToML 超参数调优，支持用户选择主流语言如 Python 编写的应用程序的超参数，并原生支持许多 ML 框架，例如 TensorFlow、MXNet 、PyTorch、XGBoost 等多种机器学习算法，支持参数保存，基于参数快速创建试验；

▲（5）模型训练为了预防任务因硬件故障、作业卡死等问题，除了代码层面做好checkpoint设置之外，平台具备自动调度可用资源延续中断的训练进度，确保训练任务持续无误的能力，支持用户自定义训练任务的重启次数和checkpoint的保存位置（要求提供软件功能截图）；

5、镜像管理：支持用户创建个人私有镜像仓库，支持镜像分组，支持在线上传私有镜像；支持镜像自动适配封装和在线编辑适配脚本；支持在线设置镜像标签，支持下载、多版本管理、镜像共享；支持从NVIDIA NGC、dockerhub 等网站在线拉取镜像；（提供产品功能界面截图证明）；

6、模型管理及服务：

（1）支持统一的模型管理功能，可以集中管理所有在模型训练中得到的模型，导入并管理在本地开发的模型，满足模型需要不断迭代和调试的管理需求，支持对模型进行多版本管理，可以将模型发布为服务；支持模型下载；

（2）支持将训练好的 AI 模型部署成在线服务（Web Service），支持自定义推理脚本，支持在线 UI 预测推理功能并为用户提供API 接口；支持设置模型服务自动停止时间、服务实例个数 ，服务的启动停止等（提供产品功能界面截图证明）；

7、数据管理：

（1）用户按需申请存储空间大小，提供 scp 访问/Web 访问，支持对个人存储的扩容/重命名/修改密码/共享存储/删除等功能；

（2）支持数据标注工具服务化，集成label studio，支持多人单任务同时标注，可离线完成文本，图片，视频，时间序列等各种标注任务，内置CV、NLP、ASP等多种标注方式，支持将结果导出为JSON、CSV、YOLO等格式，同时提供丰富的API，支持用户二次开发（提供产品功能界面截图证明）；

8、软件兼容性：支持X86和ARM架构服务器，支持NVIDIA全系列GPU卡，包含但不限于H800、A800、A100、RTX A6000、RTX3090、RTX4090等，同时支持昇腾等产品。