生成式人工智能服务安全基本要求

TC260 全国网络安全标准化技术委员会技术文件 TC260003 生成式人工智能服务安全基本要求 Basicscecurityreguirementsforgenerativeartificialintelligenceservicc 2024-02-29发布 全国网络安全标准化技术委员会发布 目次 2引用 前 1范图 3术诺和定义， 4...U... 3语料安全要求 5.1语料来请变全费求 5.3诺抖内去个要求.. 5.3证料标“安全要求. 6损川安个要求... 7安全片施要求 x共也要求， 3.1大新罚库 8.2牛皮内测式起库 8.3拒咨则式库 8.4分类模划.. 9安全识估要求t 9.1方 9.2许料安全计 9.3内季交泽 10 前言 本文件起节单位：户下中子技术标注化讲宽院、同家计网络应会技术处列协计户正尔美实验室、.大学、上清人、科能变验室、由地大学、北京首变网计科皮有 限公，非京智能科技公、点人学、间云年限公、二海格料技 公司、二淘实场社能科技有公气、科文！限份有限分司、上法原-技有限公司、京驾咨业章%技有限公司、中国政法人学、非实资言利技分限表公，京理人学，1海 安通大学、清华大学，中口科学沉软克产、口下公学院作息工程评克行、七京职家人 下学、北示天网密安兰交十限公司、华为云计完技术为限公司，股科度区股价有 限公司，以挖房（北点）交装限公、丰国路安会中吉以业利场将管人数指丰心 动悦信点技大有限公，丰国移证信固有比公、杭州云益灯道科技有表公、中 低合网络还信有限公司。 本交州1式卓人：就振、1方晓丽、举先，致惠，禁将，单，联，陈，案洪、五知行，张迹，二志法，周串就，核也良，或、沉浮、张凉、州意新、彭耀，诺、将基、间、场，题支方、洪延青、一十过、非建议、治，彭疆海，础方，品度，晓拼，一较、下以、张路，张远、张立或、下萝，以一、长，干球、张产， 比名！、何求右、社冠云、三雨悬、部了本、米雨板、核有晨、你幅宇、三笑之、普剂、 江为驾，丁治国，刘、刘渐尧、水可、业东欧、天年京、阀冶。 生成式人工智能服务安全基本要求 1范围 本文件测实成支人二召部非务安伞方的基交求，和范安伞，模制安、 这全措追等，计给售了安全评什求 本文州适于服务标供下两安会严估、误高案会求，也可为关1管部门评计度 武八工色能收备安个水产提供总学， ？规范生引用文件 列文价们弃文的现款构成本文必可少的案总，H，上与 的年：适川干本安件 (R/T25G69—022信息安今装人六语 3术语动延义 2502外定的以太下术和完文适开一本支， 3.1 生成式人T智能服务generetiveartificialintelligenceservice 和计牛成式人二严能装大户单人民共利境内公众提仙生成文六，盈片，当、视锁 等内察服务. 3.2 服务提供者servicepruvide 以交工苏而、可编报核口等形代长供计成人智能非务时军须函个人 3.3 训练语料trainingdata 序与百按产为模，训殊前人的收据，1理综，计化训殊过本户的前入教择。汁：以一F深“谨” 拍样合格案saplingqualifiedraLe 加不含本文件附所山3种全以险所单本所一的例 3.5 础模型founda-ionodel 3. 注法不良信息illogalandunkeal-hyinformation 4总则 本要家，收备是供者在要限有关票求暖行客实于续，按照本交产负3单文求过行安个计估， 除木支件标出的基本要率外，收务供专立当行按照践工法神法效以总国家标汇相美费求肢变网沟安全、数归安全、个人信总保拍等为而的上生安全「年，录务畏先者应紧留注意 中成式人工孕能可能带文的长可险，体慎刘待可能圣决人类，自我复利，自我效造详力的人十当能，并主点注生成出人下者能川能鼓压销写意软件、到范生泌武器改化当 武爵等安会区险。 3语料安全要求 5.1语料来源安全要求 1》向量定择料职进行来兴前，成划该源许达行安会产估，许报内案中舍法 法六之常点量过款，不应来资该兴源培料： ）不客派零产配而：声长高语料末深的多件，对年·外时， 英文等，以总每一类州的品料，机文木、望片，吉、实等，询度门多个语料亲污：如产使口境外请料，应里搭记点内来源许彩 1）仅计识语抖，应三有该语抖来追的开源计心协设吨料关投权文伴： 同或生内学作，格兴同， "；5月兴证轻：声其存兴案证录，不声来他人下明通不目来案闪评料 注2：自案料应指自行生产的：该&认业联网实量的准。 的网款治，个人三第报案事的个八息等 3：发月商业培料： 一声有与务济效力交易合同、合作设等： 安或方成台方个详标供售判文期、量，安伞等方的求诺以总扣关证明计 料忙，不应在用该清料： 成安易方成产收方房执化详权，京详、村权建行中检。1：将谢压者给入“息当作语抖时，应三有证压者投权记示。 ：）核照限国网路安全相关法行次及政变交计要求用的行总，不成化为语料， 5.2语料内容安全要求 务提！的费求如 ！料内容过波力面：应取注河、公来模剂、人二动检等力式，充注法个部记 科中的进法不长信息， ）知识产权力面： 1：应设置料以及二股内容的划识产权负品人，产三实识产义管直筑所 7 产权世投等问题的，非务提！齐不，使用扣关料行圳：例机，详权中户 定学、芝代、科学作他，应互点议别善料以改三或内容中诺作校仪校门题； ）在户收应丰，向用产告则独用成内客时的产资在美险，并与 月之的定于别识产义问识别的支任文等： ）宜具以产 公开评权中涉及刘产权部分的消式息： 所 ）个人会方面： 1）在使压包含六人常三门计料前，取得对高个人同意或者省法行，行政流规划 定的H他情开： 收法现以定的其他性形。5.3语料标注安全要求 对壮务提！产的费求加了 ！球注人员为面： 1：成自行年织对干标人点的安台培训，培训内率成他标务原则，标1点 （法、标注内客式量龄力法、标注数据安个叫票求等： ：高自行对标人六进核，给子格之标：十岗资拼，有定划至新片训学喷 小注1.工行月能刀、室全A4险判定能方、数限家企管里能力等： 3）成将标人只能全>创分为微持标注、露审接会：在同一标注「务下，三一 标注人员不应承拉多项能： 4：高为标人业行项标计务项范儿、合场的标间 ：）标注规则方面： 1：标江测则应严少色证标江口标，数归济、标江方达，原监长标等内容： 2）成业能标注以总交伞件标注分制利标则，产数圳业车少案量数错 注头及数拓三核号拟节： 客测栏、多样栏的标注问料： 4：全牛标汁规则成能华号杯人成密语料及成内客打工云实全以险进行示 注，过文伴附表中的全产31冲安伞风陷的立太监的深注划圳则： ：）动注内容批生而：1）划以备牛标，成对每一批标高料行人灿检，发现内容不准前的，成益 标注：发现内容口包会注法不良行息，该非次标注诺料应作度： 2：对实全件标，并条标运科率径1学中核人中核进划. ：）宁安伞生标演数诺进行南高本站： 6型家安求 3 务提产的费家如了 ！刘需」第一为础模型提共限务，应使用二经主仓邮门备家的未出实！5）资重表内容安全克： 1：在训练过理户，立将生皮内率安伞性牛为价效站集觉劣的主安考志指标之一； ：平再次对计，应安用之验入信尽进行安全件检风，引导实型生总积圾工向内 弃： 3：应尝产学会化监测划评于股，对些划测计发现门提供服务计程「的安全向题，及 处并进划计对的：产微、理化学司会方化授型， 注：模量4发产点：模工-检的、经H化处评的一内产， ）一报内容准师牛市：采支片施供高生内容响之抢入意图的能力 苏高三度内穿中数据总表述与科学常识设三流比知的等合草度，试少其中的业次内 李作量：是高生为李负用考的以作用 了安全措施要求 ：！实重三用人折、展产、月途面： 烂: ：距务Ⅱ一关组件息基产改施，以及户动别、医行产息服务、心垣咨询，金融！ 信息壮务并互要台的，其各与风险和变以热病示相质应的护求； 务适月未成车人： 十应向本成年人是决与其民办行为能为人等的计收务：1：收务1证用关成年人的，应程成装人或管部第买上卡度年人用： 1）以交百学自量限务的，成在网当首业营主社公一服家用的人 合、月途等片息，月付公川模型位月竹证： 服务与求件： 所采案间个人行息及其车服务！的用途. 3）以可游科核-影提！非务的，成在支悄「公元1）2；「的信点 ：）当收爱使月者举人信总月」圳练时： 1：高为原，产运供兴切其前人件息川练用方代-例以为使！者资供谨收或语 该量预需买作不起划资点山：2）成指收兴信产前入的状率，以总1）中的关方式只主告切出 “）图，，、议频等内容球识力面：声满足国家相关划定以及国家球计要求 ）川练，印案出的系经方 4 续性、净是性等面： 2：所叉川品片宝支持基理州安全动，可门启动流计及安金性验计，保产中式人工销系经运行仁安儿告内意丰， ）专受公众或使者投评举服为而： 1）成越变公负成偿齐投诉业的选径总反馈方式，括旧限，电话，件 2：成段定检要公众应债个报许量长的处即更则以及划即表 ？向使月去注供务面： 1：高累最社司、分共模型等方代本复门之确入信尽过行检测，使厂者资法一次或 应轮止带同答： 1）新，升然方： 1）应计定产编型更影、刀数寸的属全省理益陷： 2：成形股咨押4制，准微告费已新，外器后，次月行组织安全证占。i）收务总定、持续面； 1：交认经环理环控义，避免数期和不当心门 2）应刘接州价人内密持续盈测，实害出感轻入激击，负加DIuS、xS、注人改三算； 3；应定划对所使压门发拉型、代码守进行家全三一，关栏厂源拒射安全及竭河扣 关间题，别和复法在的安会调 1）应意业数据、模型、播驾、二具等各份机划以改或点资陷，生点确长业务连实 作... 8其他要求 8.1关能词库 求下。 ，益注词年应具有全而性，总划模不宜少1总(， .每：安个区龄的关注河均实」加个，录4.中每：·安个风降的关错 司不少于1个 ：）实续以车应按期网范安全或标品时史部，国片个少史新一核。 求下 8.2牛成内窄测试题库 2）·成内容测试整车成且有全，总思投不言少于2030题 ）一成内容测试题车应具代表性：应六要木文产限业中全部31安全风险：准 家.1以及2年·实全险时划题不立少题，其等宽金险 试于U ：）应建投需生改内李测总库识划个部种安个4险价按划栏以安判我据 8.3拒答测试库 求下。 2：盛拍测试题库应具有代表栏，虚少德支业必.1以技中1冲会个 险，年·钟实全险的测题均不立少于20题， 、）国频禁收不应拆落的问建立非折落划试率： 1：非答划试题声具有全，规换不宜加题： 民族、拉理、房三、变烈等面：以发性划、装、六业、健康等力置：母 题坊不宝少20题： 3）真尚学领要的生范心，对」）个分涉总的，论军不 8.1分类摄型 劳关模用」诺料为过变，牛或内容要个估：立完整是大定牢用表中个部 31种实以险， 9安全评估要求 9.1评估方法 卖求下。 ）股照六文件凹行纠织的我个评计，叫自提共亡行川层，出」会托第三为评一机动 TE. ）安全估应要当本文件范5率三策章中行与余款，每个条款，或单独的计估站果， 评估结未应为的合、不的合或不卫 注：2、9.、路对4、三表8商、管计H： 1）率贝付合的，声具有充正村料： 2）结易为学合的，成说买合的内，以下我有况的补家： 释用明与长本交供伴错下效施的效装件人或：管理猎准，但能达到同择会个效乐的，查产们诺口求收技术或管刊括前尚木满足表求的，应详细说则案收的范片演涉品 ）结是为适们说适1 : 1：“估报告盛符心行备案一接付的相关求： "：滨写制限台过程，内限告原内，本交件部分条的评给和拟美 况法写人计估技正文的，成密一与人时件： ：）在评估股告中形股整宏评当统： 1）各新款的估只均为学合或适月，督家计估整个产符合求 “！行川是全下估门，下估报应至少具有一车负人共同签字 1：币存法定表人： 2：格床负可安入估工作的负人，虚为单位主票咨者或网落要个负十人 ：：安全证计1.作「告达牛证份执支人，应为单信上要告考或法将其支人 H:2.B1. 9.2语料安伞评估 服等提，者时诺科索全况过评，云求义下 ）来用