可信AI技术和应用进展白皮书

可信AI技术和应用进展白皮书2023 摘 要 人工智能的飞速进步和应用带来了前所未有的机遇和挑战，也将可信人工智能推向产业发展的前台。2021年，中国信通院《可信人工智能白皮书》首次系统提炼出业内较为统一的可信AI特征要素，在安全鲁棒、隐私保护、公平性、可解释的大框架下，可信AI正在金融、保险、制造、医疗等领域加速落地。伴随人工智能技术底座不断夯实和大模型、AIGC等的爆发式增长，人工智能迈出了走向通用人工智能的关键一步，2023年4月中共中央政治局会议强调“重视通用人工智能发展，营造创新生态，重视防范风险”，可信AI成为新阶段平衡创新与风险的重要技术手段。 本报告基于统一的可信AI认知维度，梳理总结可信AI技术和应用发展现状，提炼面向新阶段大模型和AIGC引发的新需求，形成以技术为保障的可信AI评估体系和工具。全文主要观点如下： 一是归纳了可信AI发展变迁的产业技术背景，即近期算法、算力、数据基础不断夯实，人工智能固有技术风险持续放大，可信AI技术成为AI领域关键底层能力，各国也正在围绕生成式人工智能监管、人工智能伦理等推动治理。 二是梳理了现阶段可信AI四大技术方向发展情况。可信AI已在行业领域落实成具体产品和实践案例，总体上正从创新整合解决方案阶段迈向形成可信系统机制的阶段，完整的实践链路、健全的标准和系统机制将逐步落地。 三是概括了面向大模型和AIGC 的可信AI探索，即大模型时代下可能面临的安全可信挑战，主要包括大模型的生成式攻击和防御、 大模型自身的安全风险和隐患、大模型的可解释性和公平性问题等三大类。 四是构建了以技术为保障的可信AI评估体系，面向产业发展需求，构建了包括隐私保护检测、可解释性检测、公平性检测和鲁棒性检测的可信AI检测指标体系，并提出了具体的评估内容、指标和方式，并可进一步赋能大模型与AIGC发展。 最后，本白皮书从技术、产业、生态和监管维度对可信人工智能发展提出了建议，对趋势进行了展望，将迎来研究应用更加均衡、内在动力更加多维、外在监管更加全面的发展局面。 目录 第一章人工智能迈向发展新阶段............................................................................................ -1- 1.1人工智能发展迎来全新时代....................................................................................... -1- 1.2人工智能可信面临全新挑战....................................................................................... -2- 1.3全球人工智能治理机制进展....................................................................................... -5- 1.3.1基于政策法规的治理机制.................................................................................. -5- 1.3.2基于生态共识的治理机制.................................................................................. -9- 第二章可信AI产业实践深入发展.-11- 2.1应用AI鲁棒性技术对抗恶意攻击............................................................................-12- 2.1.1提升文本识别对抗能力.......................................................................................-13- 2.1.2提升图像伪造识别能力.......................................................................................-14- 2.1.3提升生物核身检测能力......................................................................................-16- 2.2应用AI可解释性技术提升决策透明度...................................................................-17- 2.2.1用于模型归因的可解释......................................................................................-18- 2.2.2复杂关系网络的可解释......................................................................................-20- 2.2.3融合专家知识的可解释......................................................................................-21- 2.3互联网平台公平性探索..................................................................................................-22- 2.3.1纠偏营销定价歧视................................................................................................-24- 2.3.2改善信息茧房现象................................................................................................-25- 2.3.3强化弱势群体保护................................................................................................-26- 2.4AI应用实践中的数据模型安全和隐私保护...........................................................-26- 2.4.1终端社交内容中的隐私保护..............................................................................-28- 2.4.2IoT（物联网）人脸特征隐私保护算法..........................................................-28- 2.4.3多方安全计算助力行业跨机构协作................................................................-30- 第三章面向大模型和AIGC的可信AI探索........................................................................-31- 3.1大模型和AIGC的发展与生态...................................................................................-31- 3.1.1大规模深度学习模型发展历程.........................................................................-31- 3.1.2大模型时代下AIGC的产业生态与可信挑战..............................................-33- 3.2大模型的生成式攻击和防御.......................................................................................-35- 3.2.1大模型的生成式攻击..........................................................................................-35- 3.2.2面对生成式攻击的防御挑战.............................................................................-37- 3.3大模型自身的安全风险与隐患...................................................................................-39- 3.3.1大模型的数据泄漏问题......................................................................................-39- 3.3.2大模型的伦理道德问题......................................................................................-42- 3.3.3大模型的攻击对抗问题......................................................................................-44- 3.4大模型的可解释性及公平性.......................................................................................-47- 3.4.1大模型的可解释性................................................................................................-48- 3.4.2大模型的公平性....................................................................................................-49- 第四章以技术为保障的可信AI评估......................................................................................-50- 4.1可信AI检测工具...........................................................................................................-50- 4.2可信AI检测框架...........................................................................................................-53- 4.