YD_T 4389-2023 AI服务器及能力平台技术要求.docx

《YD_T 4389-2023 AI服务器及能力平台技术要求.docx》由会员分享，可在线阅读，更多相关《YD_T 4389-2023 AI服务器及能力平台技术要求.docx（20页珍藏版）》请在优知文库上搜索。

1、ICS33.040.40CCSM32YD中华人民共和通信行业标准YD/T43892023Ai务器及能力平台技术要求Technica1.requirementsforAIserversandcapabi1.ityp1.atforms2023T1.f1.实施2023-07-28发布中华人民共和国工业和信息化部发布目次前吉I1.1范附I2规范性引用文件13 术语、定义和缩略语I3.1 术语和定义I3.2 缩略语24 AI能力平台技术要求34.1 总体要求34.2 功能要求44.3 接口要求135 A1.服务器技术要求135.1 总体要求135.2 配置要求145.3 环境要求145.4 云计算技术要

2、求14前言本文件按照GBrr1.j2020标准化工作导则第1部分：标准化文件的结构和起草规则3的规定内容起草，请注意本文件的某些内容可能涉及专利，本文件的发布机构不承担识别这些专利的谎任,本文件由中国通信标准化协会提出并归口。本文件起草的位：中国电信柒团有限公司、中国信息通信研究院、北京百度网讯科技有限公司.本文件主要起草人：陈子开、李锋、高飞、王峰、郭亮、赵继壮、谢明媚、李洁、康亚京、程帅、郑超、张学鹏、王少鹏、黄冠-、高达、程浩然，AI服务器及能力平台技术要求1范B1.本文件规定了A1.版务器的标注平台、训练平台、模型管理平台、模型服务平台、培咄资源平台等子平台的技术要求.本文件适用于AI

3、服务平台的设计、建设及服务器设备选型参考。2规范性引用文件卜列文件对于本文件的应用是必不可少的.凡是注日期的引用文件，仪所注日期的版本适用于本文件。凡是不注日期的引用文件，其域新版本（包括所有的修改单）适用于本文件，GBT34990-2017信息安全技术信息系统安全管理平台技术要求和测试评价方法GB/T37956-2019信息安全技术网站安全云防护平台技术要求3术咻定义和语下列术语和定义适用于本文件.3.1术语和定义3.1.1模型mode1.训练完的结果文件和配设文件集合（包括网络结构、参数等13.1.2弓障engine将模型部署为稳定服务时,模型可进行推理的容器环境.3.1.3能力abi1.

4、ity模型部署完成后提供稳定访问的服务，能力部署时包括模型和引擎两个部分。注：业务层需提供一个管理功能,对各能力有版本、谓用权限的管理,3.1.4数据9(处理dataprprardVideoMouseOCR光学字符识别Optica1.CharacterRecognitionPCIE高速外设互联标准Periphera1.ComponentIn1.eruiHinectExpressRAID独立磁盘冗余阵列RedundantArrayoIndependentDisksSAS串行连接SCS1.接口Seria1.AttachedSCSISATA串行高级技术附件Seria1.AdvancedTechno1

5、.ogyAttachmentSNMP简单网络管理出议Simp1.eNCIWorkManagementProIOCO1.SSD固态硬盘So1.idStateDrives4A1.能力平台技术要求4.1 总体要求4.1.1 A1.能力平台总体柒构AI能力平台应采用分层次、结构化设计思想实现高内聚低耦合的功能架构，能修灵活适应业务的发展与变化.具体如Ka）异构计算层：计算基础资源层，应提供GHkCPU计算资源，并考虑支持FPGA等其他类计算资源.b）I计算引擎：应支持各类成熟开源的深度学习框架，可用于进行各类人工智设神经网络模型的训练，以及人工智能模型的分布式运行支探.平台应内置成熟的开源深度学习框架

6、，提供主流通用的AI深度学习和机器学习模型（包括且不限于SK1.eam、Tesoif1.ow.Keras,Pxtoivh.Caffe等）。0标注平台：应实现数据的标注工作，包括图像、语音、文木等标注，宜实现标注任务分配、任务监控、标注人员管理、标注页面、标维管理等.d）训练平台：应实现业务场景管理、数据集管理、模型训练、生命周期管理与发布等工作,模型训练中应支持自动化训练，选定自动化训练后,平分可自动进行数据的预处理、数据采样、数据分别、模型训练、模型脸证、模型选优、桢型测试等工作,最终自动输出最优模型.OAI通用能力服务：负责A1.能力管理和展现、在线预测等。应提供包括智能语音、计算机视觉、

7、自然语言处理等在内的通用能力.OAI能力平行运营管理：是A1.能力平台的管理门户,统一出入口,统一管理数据、能力、运营管理训练等各类操作，保障系统整体安全.应提供CPU、GPUi1.算资源的按需分配调度设力,提供业务容化系统服务.4.1.2 AItK力平台内部鲁梆魅系A1.能力平行各模块之间的关系可以归结如3a）标注平台对训练数据型进行标注，b）标注平台将原始文件与标注结果进行存储.c）训练平台从标注平台获取己完成标注的数据集信息，d）训练平台从存储池扶取训练数据和标注数据.）训练平台调用训练引擎进行训练。D训练结束,训练引擎返回训练结果。R）训练平台将训练完成的AI能力发布到AI超市。h）A

8、I能力平台负贡AI能力管理和展现、在线预测等。4.2 功要求4.2.1 峰注平台标注平台应支持用户上传私有数据或同步共享范围内的共有数据，标注平台对数据进行标注，产生带标签的样本集，包括数据标签辉、数据标注引擎、标签索引。标注平台应实现对标注工具的配置管理，包括对文本类、图片类、语音类、视顺类等进行标注时的不问工具，同时，标注平台应配翼多轮标注和多轮检杳，满足单个标注任务和数据可以经过多个用户审核确认，来保证标注结果的准确性。至少支持选举模式和检杳模式两种标准模式。4.2.1.1 耐E标注项目管理应实现标注项目的全流程管理，包括项目的创建和维护、项目的查看、进入项目创建任务等功能,其中项目的创

9、建和维护应支持项目分类管理,创建标注项目依据应是以业务作为驱动,即以标注业务类型进行项目的划分.4.2.1.2任务发布发布任务过程中，应支持图片文件与操作员之间关联，发布任务成功后，图片文件与具体操作员建立操作关联关系。打标任务创建在项目之3单个项目可支持创建多个打标任务,打标任务由文件、标注员、审核员、起止时间、提醒时间、抽样率、质检、验收合格率等元索组成在默认设置下，每个任务都应支持多标注员和审核员的参与，人员之间平均分配图片，每张图片只发布一次.在自定义设置下，应自定义最大发题量（一张图最大支持发布的数量），支持一张图片发布给多个人。平台应支持用户自定义抽样率，在设置完抽样率后，可对标注

10、后的文件迸行抽样审核。抽样率应体现到每个标注员上，以便从标注员的维度统计抽样文件数.4.2.1.3ft*2E打标视图主要由三部分组成，包括图片列表、打标区域、标零列表.其中图片列表用于选中打标的图片，打标区域即在图片上进行图形标注行为，标签列表给出图像相关联的标签。4.2.1.4妍种审核人员对标注员标注的图片进行审核实现审核任务处理和标注信息隐藏功能。4.2.1.5标签理标签管理实现时标注所用标签的统管理功能，要求实现以下内容，a）标签的划分应由行业、标签分类组成,即系统有多个行业,每个行业卜可支持多个标签分类.彩个标签分类卜由若干个标签组成b）行业、标签分类、标签应能区分是系统定义，还是自定

11、义。C）应支持每个标签,和唯一Code的对应.code为系统随机分配,不允许用户进行修改，避如Ode被重现使用从而造成标笠的错误d）标签发布后，管理员在任务分配上进行配置时，同一类的标签应有限制条件，避免类似同关瑕疵被定义成多种瑕疵的错误。C）标签管理之用户权限：审核员及标注员,应支持只查看标签管理页面,不允许对标签进行编辛t修改等操作：项目管理员、客户管理员及系统管理员应支持对自定义标签模块进行增删改查等操作；中心管理员应支持对系统标签进行增删改查。4.2.2训练平台提供场景的构建、数据集的管理，以及模型自动化训练、模型生命周期管理、模型发布等。422.1IHHUB场景视图要求实现以卜内容.

12、a）应提供仪表欢来展现该用户权限可见下的场景数收、各类型场景数后、模型数信、模型已发布故城、模里发布率、AP1.服务调用次数、AP【服务调用次数环比等指标，点击指标应可以查看详情列表.b）应提供服务排名功能，点击某个服务，展现该服务一周内的调用次数趋势图，C）应提供训练任务、标注任务的监控视图，包括总数、完成情况等.可以查看详情列表.42.2.2Ma应提供根据场景名称、场景类型搜索的功能，场景应包括场景名称、场景类卷、场景描述、创建人、创建日期、操作等属性.a）场景新增：支持向导式创建场景。1）应支持根据任务类里来进行场景类型的选择，至少应包括OCR、图像分类、目标物体检测3种任务类型.2）应支持场景的基本信息配W.,例如场景名称、场景描述、场景编码等信息.3）场景新建成功提示，应显示场景配置信息,包括场景类型.场景名称、场景埸码、场景描述察4）应提供数据臾新建、快狗训练等相关链接，方便用户具备一次操作完成的界面能力，b）场景