欧盟 - 美国人工智能术语和分类法 - 第二版

欧盟-美国贸易和技术理事会第1工作组：技术标准 关于AI分类和术语的分组 欧盟-美国人工智能术语和分类 第二版 履行欧盟-美国术语和分类法第一版中概述的承诺 人工智能（以下为第一版），欧盟和美国的人工智能专家来自欧盟-美国贸易和技术理事会(TTC)第一工作组(WG1)人工智能分类和术语分组1 在第六届欧盟-美国TTC部长级会议（TTC6）之际开发了第二版。 经过对通过征询意见收集的外部输入的初步分析和一系列 内部磋商，WG1专家从第一版增加了13个新术语，并修改了24个术语在第二版的发展。 正如欧盟-美国贸易和技术理事会（TTC）第三次部长级声明所述，可信人工智能和风险管理评估和衡量工具联合路线图(AI 路线图)用于告知双方的AI风险管理方法和值得信赖的AI 大西洋，并在与AI相关的国际标准机构中推进协作方法。以下路线图对旨在协调欧盟和美国基于风险的方法的具体活动的建议，欧盟和美国共同准备了关于人工智能术语和分类法的初稿。关于 第四届欧盟-美国TTC部长级会议(TTC4)之际，来自欧盟和美国的成员介绍了第一版。总共定义了65个术语，参考了欧盟的关键文件， 美国和其他学术来源。 通过欧盟委员会和国家标准与技术研究所（NIST）， 外部专家有机会在2023年10月27日之间的第一版上提供他们的意见 和2023年11月24日。征求意见是通过欧盟委员会的通信网络、内容和技术总局(DGCNECT)和通过 NIST专用的“AI政策贡献”页面。 通过征求更广泛的专家网络的意见，该文件可以更好地反映不同的观点和专业知识有助于提高工作的整体质量 由WG1的专家承担。 随附的文档反映了一个迭代过程，该过程都将专家输入纳入了输入符合先前定义的标准和方法，用于开发 术语和分类学-并利用WG1专家来完善和扩展文档。 1WG1专家JesseDunietz（NIST），GryHasselbalch（InTouchAI.EU），IrinaOrssich（DGCNECT，欧洲 委员会），AndreaRenda（CEPS），RevaSchwartz（NIST）和ElhamTabassi（NIST）。专家的工作得到了支持 卡米尔·福特（CEPS），罗伯特·普拉斯（CEPS），克里斯蒂娜·饶（InTouchAI.EU），罗伯特·肖尔茨（DGCNECT）和弗雷迪·Trinh （DGCNECT）。 输入响应调用的初步分析 以下是WG1专家对欧洲收到的投入的初步分析摘要 CommissionandNIST.TheCallforinputgenerated34totalcontributions,whichwerecomparedagainst 第一版分为三大类： 1.提出修正的现有术语，更新定义的来源为 可用。这些贡献按术语和群集分组，以突出重复建议和那些收到最多的输入的集群。 2.现有的新术语、其拟议定义及其来源。这些按术语分组在接近比赛的基础上，突出反复出现的建议。 3.未提供投入的现有条款。 几个建议是交叉的或解决了如何将术语组织到分类法中的问题。WG1 专家分析了这些评论以开发第二版。值得注意的是，列表中的65个术语中有24个 warenotsubjecttoinput.TheWG1expertsconsiderthisevidenceofanemergingconsensusonthese 跨大西洋AI生态系统中的术语。 A.方法论 Themethodologyusedtoconductthisanalysisisdetailedbelow.Allreceivedinputhavebeenpublished 在附件中。 1.方法论：循序渐进 步骤1.评论的初始处理 Theinputwascollectedandfirstreadforrelevance.ThosecommentswhichdidnotprovideinputontheTTC内部关于人工智能的术语列表或更广泛的合作努力被删除。此外，那些 在第一版中提到被列为“未决”的术语的评论-因为它们在相关立法或机构文件也被删除。 步骤2.评论的初步审查 WG1专家通读了整套答复，以确定对当前 一组定义和潜在的新术语，包括在第二版中，由外部提供专家输入。 鉴于名单的性质，根据各自的专业领域，WG1专家专门注意有权威参考文献支持的提案，这提出了改进的明确理由术语本身或相关定义。提案未附有 参考文献，WG1专家试图找到支持文献和官方文件，以加强在修订清单时考虑这些建议的情况。 在审查输入时，WG1专家转向了广泛认可的现有定义 学术文献、机构参考和关键的欧盟-美国政策文件等文件列出在TTC可信人工智能和风险管理联合路线图中。 Thereviewprocessprioritizedcommentsthatalignedwiththeprimaryselectioncriteriastatedinthefirst edition.Thesecriteriarequiredsubmittedcommentstocontributetoward1)anessentialunderstanding 基于风险的人工智能方法，以及2)推进欧盟与美国在人工智能方面的合作。 最后，一些提交的材料提供了宝贵的贡献，详细说明了相关的正在进行的工作协会和机构，其中WG1专家已采取应有的注意。然而，提交 只有当它们包含完善或修改原始清单的具体建议时，才考虑合并的条款。 这个过程有助于确定那些输入最多和最少的聚类和术语。 步骤3.特定输入评审和结果初步分析 WG1专家讨论了第2步中确定的修正案和术语。他们注意到 follows: 1.为特定现有术语生成的输入频率，并密切关注现有术语收到几项拟议修正案的条款和拟议修正案的实质内容修正案。 2.输入频率暗示相同的特定新术语，并密切关注那些经常性术语及其提供的定义。 TheWG1expertswentoverthelistofinputonexistingtermstodividinginputinputintothreecategories.After 专家们回顾了41项现有条款，这些条款是投入的主题： 1.修订了作为输入主题的现有条款的21条，考虑到建议的修正案以及新专家来源的发布和新的增加自第一版出版以来，工作组的专业知识； 2.考虑对6项现有条款的修订； 3.没有考虑对14个现有条款的修订，因为这些条款不符合修订标准在方法论中概述(参见：步骤2)。 本次审查得出以下意见： 1.某些新术语与现有术语的讨论相融合。因此，WG1专家 将新术语提案与现有术语列表进行交叉引用，并在相关情况下使用对新术语和定义的建议，作为对现有术语的修正。 2.某些新术语不符合审议标准或提及的术语 在第一版中被认为是“未决”，因此从分析中被丢弃。 3.某些新术语被认为过于宽泛或过于具体，无法纳入《公约》的范围术语文件。这些术语被标记为集体审查，目的是 更明确地定义术语文档的范围。 3.输入中未涉及的那些术语。 步骤4.修订和内部协商 通过一系列内部协商，修订过程如下： 现有条款:WG1专家分析了他们正在考虑的27个现有术语修订，并根据外部输入和/或交叉引用提供了修订的定义具有内部专业知识和权威外部来源的输入。而输入的含义 已被审议，并在适当的情况下反映在条款的修订中，直接建议文本的修订并不总是直接使用。最终，修改了24个术语。 新术语：WG1专家审查了拟议的新条款，并评估了它们的总体与现场和练习的相关性。基于外部输入和内部讨论 协商后，WG1专家选择了9个新术语来定义。他们收集了 选择或制定拟议新术语的定义，并将术语组织成五个术语 “群集2“第一版的。 待定条款:WG1专家审查了第一版的未决条款，以评估是否它们应该被纳入第二版。 步骤5.第二版的发展 作为最后一步，WG1专家审查了所有修正案，以确保基于共识的定义基于权威来源。结果是随附的文件。 WG1专家感谢所有外部专家为这项工作做出的贡献。 2集群包括：人工智能生命周期、度量、技术系统属性、治理和可信。 1.集群：AI生命周期.......................6附件A.要求专家输入......... BIG数据7 DATAAUGMENTATION7 DATA中毒7 F饮食工程7 KNOWLEDGEREPRESENTATION7 LIFECYLEOFANAISYSTEM8 LOSSFUNCTION(也称为成本功能)8 M鼻炎学习8 N语言处理8 PROMPT8 PROMPT工程8 R钢筋学习9 S纱线数据9 T淋雨数据9 2.集群：测量10 (AI)准确性10 AISYSTEM11 ADAPTIVELearning(适应性)11 EXPERT系统11 F简化的学习11 3.集群：技术系统 附件B.概述：新的和修订的 条款............................................................... 附件C参考资料................................ 属性11 HUMAN的价值AI12 HUMAN-中心AI12 LARGE语言模型(LLM)12 MODEL12 NEURAL网络13 4.集群：治理14 A可审计性AISYSTEM14 5.集群：信任15 BIAS15 HARMFFULBIAS15 C构造(也知道HALLUCINATION)15 DATALEAKAGE15 DEEP假15 D说明16 EVASION16 OPACITY16 TRUSTWORTHYAI17 1.集群：AI生命周期 Term定义参考 对抗性机器学习与设计ML有关的领域 可以抵抗安全挑战的算法，研究攻击者的能力，以及了解攻击后果。 派生自对抗_ML 和对抗性_ML_II 自治（自治AI系统）一个系统的独立程度人的参与和操作能力 没有人为干预。[不同的AI系统具有不同的自治级别。]一个自治系统有一套学习，响应的适应性和分析能力 到没有预先编程的情况或预期的(即基于决策的响应)在系统部署之前。自治或半自主AI系统可以 表征为“人在循环”， “human-on-the-loop”或“human-out-of-the- 循环“系统取决于它们的级别人类有意义的参与。 从DOD_TEVV和AI法案简化 大数据 数据增强 一个包罗万象的术语，指的是大型、复杂的数字数据集，其存储、分析、管理和处理同样需要 复杂的技术手段和大量的计算 power。数据集有时会链接在一起，以查看模式 在一个域中影响其他领域。数据可以被结构化为固定的字段或非结构化的，并且通常在高 率。对大数据集的分析，通常使用人工智能，可以揭示模式，趋势，或以前不明显的潜在关系。 一种增加训练数据集大小和质量的技术，源自Data_Augmentation 通过更改原始训练数据来创建新的训练示例。训练更好的机器学习模型。 基于专家输入的修订。 数据中毒一种安全攻击，恶意行为者修改从对抗_ML_II派生的训练数据目的是破坏学习的模型，从而使AI 系统学习它不应该学习的东西。 特征工程 特征工程是从原始数据中提取特征的行为-即，提取数据各方面的数字表示-以及将它们转换为适合机器的格式 学习模式。 Feature_Engineering_ML 知识表示 以声明方式形式化知识的艺术，通常用于Elsevier_Knowledge_Representation 符号AI系统，如专家系统。Springer_Knowledge_RepresentationPsychologyPress_Knowledge_Representation AI系统的生命周期 损失函数(也称为成本函数) 机器学习 自然语言处理提示 工程提示 AI系统生命周期阶段通常涉及几个阶段 包括：1)规划设计，2)数据收集和处理，