采购内容：本采购项目采购内容为AI大模型推理运行环境硬件1套及相关软件。硬件主要包括服务器（中央处理器、图形处理器、内存、硬盘、网络/卡、主机箱），显示器，公共数据存储设备，不间断电源等；软件主要包括操作系统、通用软件、专用软件等。提供开源大模型及配套软件安装调试及外挂专用数据库构建技术培训；提供接入所办公局域网技术服务，实现办公端调用大模型实现推理应用服务；3年免费上门技术服务。

采购数量：1台

主要功能或目标：推理运行环境为CUDA生态，总算力不低于0.6PFLOPS@FP16，支持9B参数以上的大模型推理，提供知识库调用、文章阅读、文本生成、多语言翻译等多种大模型基础服务能力；预部署主流开源大模型Qwen2-7B、Qwen1.5-14B、Qwen2-VL-7B、ChatGLM3-6B、GLM-4-9B等，提供模型加速和并发推理方案，至少支持vLLM、fastchat、Xinference；支持模型切换能力，在前端模型推理服务不变的情况下，后端模型可任意切换；支持大模型应用基础软件，至少包括LangChain、LangChain-chatchat、nextchat等。

需满足的要求：如上。