大模型部署应用服务器显卡及软件　　竞争性磋商公告

一、项目名称：大模型部署应用服务器显卡及软件

二、项目编号：********

三、采购人：苏州大学采购与招投标管理中心

地址：江苏省苏州市东环路**号凌云楼***室

邮编：******　　　　　　　传真：*************

联系人：罗老师　　　　　　电话：*************

电子邮箱：******@****.***.**

技术联系人：乔老师　　　 电话：***********

电子邮箱：*****@****.***.**

四、采购货物品名、数量及主要性能参数要求

大模型部署应用服务器显卡及软件　　*套

*、要求提供*张基于主流架构的专业级***卡及配套授权。

*、每张显存≥***，性能特点：****算力≥** ******。

*、扩容要求：能够平滑扩容至学院和我校现有电子信息学院光电混合交换智算平台（平台联系人李老师，电话：***********），实现平台统一管理（要求提供承诺函，并在中标后七日内完成测试，否则视为无效响应）。

*、资源总览：系统支持查看总览页，总览页需清晰展示算力池相关信息，包括但不限于算力资源总量、已使用量、剩余量等，并通过页面效果展示显卡已占用、未占用或者健康状况；能够展示统计模型服务调用情况，包括热门调用榜和失败调用榜、调用服务名称、调用次数；支持查看最近日期的操作日志。

*、支持新建用户自定义的私有数据集并支持新建配比数据集，包括用于微调的数据集和用于二次预训练的数据集。用户在我的数据集页面，点击创建可进入创建页面，支持填写数据集名称、数据集描述、所属算力池、版本描述。平台要具备兼容性与灵活性，支持从本地导入****、*****、***格式数据集，也支持从指定存储路径导入数据集，确保各类数据资源都能顺利融入到业务流程之中。

*、支持启用数据回流，保存大模型运行过程中的用户请求和模型数据（需提供产品相关功能截图证明）。

*、支持数据集多版本管理，用户能对不同阶段、不同调整的数据集版本进行有效梳理与调用。同时支持全面查看数据集信息，包含数据集数据量、数据集大小、创建时间等，方便用户精准把握数据集特征。平台需支持一键训练操作。

*、支持查看训练任务的训练日志和组件日志，并支持通过自定义日期时间过滤筛选。支持可视化管理训练**********，根据时间线查看**********，支持设置按频率周期性定时保存训练任务的**********，并持久化驻留到本地***中，不影响训练性能，在恢复训练时可以快速拉起实现断点续训。

*、支持创建模型压缩任务，支持选择***资源处理量化任务，支持大语言模型进行****量化压缩，并提供对齐语数据集功能，实现业务感知量化。（需提供产品相关功能截图证明）

**、支持创建模型加密任务，可以选择大语言模型进行动态加密，通过结构加密、权重加密、算子加密机制，使得加密后的模型可以实现“部署即安全”的效果，防止泄露被盗用。（需提供产品相关功能截图证明）。

**、支持创建模型服务，支持选择模型类型和模型版本，支持指定算力池和单实例算力，支持指定网关和访问入口，支持指定实例数量，支持单实例部署、多实例模型服务；支持设置温度、多样性、重复惩罚，支持设置自定义系统******。

**、支持创建大模型服务时选择单实例算力分配方式，包括整卡分配和自由切分。自由切分支持通过制定主机和***，并按算力百分比和显存大小分配算力，显存支持***单位，最小粒度为*.****。整卡切分支持选择算力规格（需提供产品相关功能截图证明）。

**、支持查看模型服务列表，支持重新启动、编辑、查看监控、查看日志、在线体验、删除操作。支持查看推理服务的服务详情，支持查看业务调用、***、吞吐、首字符时延、***显存使用率、***使用率、***使用率、内存使用率监控趋势图，并支持通过日期时间过滤；支持查看模型服务的推理服务日志和组件日志，并支持通过日期时间过滤筛选。要求支持在页面表单中创建自定义模型服务，支持选择模型名称和模型挂在路径（需提供产品相关功能截图证明）。

**、支持在模型推理的用量观测页面中查看的模型服务和各*** ***的用量监控统计。支持以日为单位的基于***/*****的大模型用量监控图表，如调用次数柱状图、输入*****数柱状图、输入*****数柱状图（需提供产品相关功能截图证明）。

**、支持自定义镜像管理，支持创建、导入自定义镜像，支持查看自定义镜像列表，支持部署和查看镜像说明。支持查看镜像说明，删除自定义镜像（需提供产品相关功能截图证明）。

**、支持平台存储配置，支持配置外置存储类型包括外置文件存储和************；其中外置存储支持标准***协议第三方存储对接作为平台存储使用。

**、支持查看告警记录，包括实时告警和历史告警，支持查看告警详情。支持根据告警对象搜索，支持根据日期时间筛选，根据等级、对象类型、所属算力池过滤。并提供操作审计，支持查看任务详情，支持根据审计对象搜索，支持根据日期时间筛选，根据状态行为过滤。

**.质保期不少于*年。

五、评分标准

本次磋商采用综合评分法，总分为***分，具体内容如下：

（一）技术参数、配置及整体综合性能分（**分）

*．技术参数及配置（**分）

以供应商提供的能直接反映该产品技术参数的彩页或产品说明书等作为主要评判依据，其他情况由磋商小组根据实际情况进行评判。

（*）所提供产品多项不满足磋商公告要求（偏离），或参数偏离超出用户教学、科研可接受范围的，经磋商小组评审可作为无效响应文件。

（*）所提供产品不满足磋商公告要求（偏离）、配置不详、技术参数不明确、缺漏项的，每处扣*分。

*．综合性能情况（**分）

（*）所提供产品性能参数优于竞争性磋商文件中技术要求情况（磋商小组认为超出指标有意义的）（*分）。其中优于项，每处加*分。

（*）所提供产品的市场反馈情况（*分）。根据所提供产品的品牌影响力、市场占有率（同行业为主）、现有用户的反馈情况、使用提供产品发表的学术论文情况等综合评定。

（二）价格分（**分）

*．基准价：满足竞争性磋商文件要求且价格最低的报价为基准价，基准价为满分**分。

*．其他供应商的报价得分按照下列公式计算：报价得分＝（基准价／报价）×**分。

（三）综合商务（**分）

*．综合实力（*分）

根据供应商综合实力评定。

*．售后服务与培训情况等（**分）

（*）质保期（*分）。符合磋商文件要求的，得*分，每增加一年质保期加*分。

（*）服务、技术支持与培训承诺情况（*分）。

根据磋商响应文件的相关承诺、服务网点设置情况、服务响应时间、现有用户对产品售后服务情况及服务水平的反馈等综合评定。

*．其它优惠措施等（*分）

根据供应商提供的在磋商文件要求范围以外，磋商小组认可的优惠措施综合评定。

六、磋商响应报价应包括所报仪器设备费、安装调试费、测试验收费、培训费、运行维护费、税金(含美国产品被加征关税)、国际国内运输费、保险和其他为完成本项目所发生的一切费用。

七、供应商资质要求

（一）具有独立承担民事责任的能力；

（二）具有良好的商业信誉和健全的财务会计制度；

（三）具有履行合同所必需的设备和专业技术能力；

（四）有依法缴纳税收和社会保障资金的良好记录；

（五）近三年内，在经营活动中没有重大违法记录；

（六）本项目不接受联合体报价。

八、磋商响应文件的组成

（一）磋商响应文件一般由下列材料组成（部分表格样式见附件*），复印件须加盖供应商公章，所有材料须按序装订成册：

*. 目录（磋商响应资料与页码对照表，原件）。

*. 磋商响应函（原件）。

*. 响应基本情况一览表（原件）。

*. 详细配置清单（原件）。

*. 技术规格偏离表（原件）。

*. 公司简介（包括公司资质、公司业绩、公司荣誉等，原件）。

*. 资格证明材料

（*）营业执照（复印件）。

（*）法定代表人授权书（原件）。

（*）法定代表人身份证明材料（如身份证、护照等）（复印件）。

（*）法人授权代表身份证明材料（授权代表投标需提供，如身份证、护照等）及单位社保证明（复印件）。

（*）近三年内在经营活动中没有重大违法记录承诺函（原件）。

（*）依法缴纳税收和社会保障资金的相关材料（复印件）。

（*）最近一年度审计报告或财务报表（复印件）。

（*）仪器设备生产或经营企业许可证（如有，复印件，特殊行业必须提供）。

（*）仪器设备销售代理授权证明（进口货物非生产制造厂商投标的，须按第*.*条要求提供，专项授权书提供原件、代理证书提供复印件）。

（**）有关质量认证中心出具的质量体系认证证书（如有，例如：***、***、**、**等，国家强制要求的设备必须提供，复印件）。

（**）近三年来与本次磋商仪器设备相同产品的用户名单及联系方式（以教学、科研用户为主，原件）。

*. 服务措施、服务承诺（主要包括针对本项目的服务、培训方案及其他优惠措施等）（原件）。

*. 供应商认为应该提供的其他材料。

（二）特别说明

*. “磋商响应文件”应装订并密封，并加盖投标单位公章。

*. 正本一份，副本三份，如副本与正本有出入，以正本为准；

*. 相关材料及填写规范按照《苏州大学招标采购仪器设备投标人须知》第三条“投标文件”中的具体要求执行。

九、货物交货期、交货地点、付款方式、安装、调试、验收以及售后服务等相关商务要求，参照《苏州大学招标采购仪器设备投标人须知》第**条中的要求执行。

十、磋商文件价格：人民币***元（相关缴纳事宜详见附件*），售后不退。

十一、报名：供应商在报名前，须认真阅读《苏州大学招标采购仪器设备投标人须知》和本磋商公告，完全了解并接受其所有条款及要求，并在****年**月*日**:**前将报名函（格式见附件*）发送邮件至采购人处（******@****.***.**）。

十二、递交磋商响应文件相关事宜：

（一）顺丰快递邮寄方式（建议优先采用）

*. 寄达时间：****年**月*日**:**前。

*. 收件人信息：

　收件人：罗老师

　联系方式：***********

　收件地址：江苏省苏州市东环路**号苏大东校区凌云楼***室（采购与招投标管理中心）

（二）现场递交方式

*. 递交时间：****年**月*日**：**～**：**

*. 递交地点：江苏省苏州市东环路**号苏州大学东校区东大门

十三、递交磋商文件截止时间：****年**月*日**:**。

十四、磋商时间：****年**月*日**:**。

　　磋商性公告附件.***