行业研究公司研究宏观策略财报招股书会议纪要 Token 低空经济十五五 AIGC 大模型

2024年人工智能算法影响评价体系构建与应用实践报告

信息技术 2024-03-31 - 清华大学，

人工智能算法影响评价的背景：界定治理问题
- 算法歧视治理风险：算法决策目标选择的主观性、数据集偏差、模型架构选择可能导致歧视，现行反歧视法律框架在算法决策环境下面临挑战。
- 算法公平治理风险：算法公平目标内涵多样且存在冲突，算法设计者和部署者难以覆盖全过程，需对治理目标进行解构并贯穿算法应用过程。
- 算法安全治理风险：算法安全治理难以在侵权法和产品责任法框架下得到有效回应，需将治理重心从结果转向过程。
- 算法治理的特殊性：算法不能被视为独立的产品或服务，其功能效用发挥及其治理影响的释放都根植于所处环境，需跳出经典监管理论范畴。
人工智能算法影响评价的内涵：描述治理实践
- 算法影响评价与算法审计的共性与差异：二者都要求打开私主体的决策权力边界，并将公共性考量融入到算法设计、应用过程之中，但分析对象、过程和制度局限存在差异。
- 人工智能算法影响评价的三种模式：环境影响评价模式、数据保护影响评估模式、列表清单评估模式，每种模式都有其优缺点。
- 人工智能算法影响评价的国别特征：欧盟、美国、英国、加拿大与中国，各国在算法影响评价的制度选择方面体现了一定的侧重，并具有差异化特点。
人工智能算法影响评价的治理逻辑：监管者与被监管者的合作
- 协同治理视角：算法影响评估要求将被监管者主体纳入治理范畴，形成多元主体协同以实现治理目标的治理格局，但协同治理在实践中往往被视为程序性要求而非实质性要求。
- 管理主义视角：算法影响评估反对自由放任的算法技术创新与应用行为，但仍然可能忽视或相对忽视社会性目标的实现，且利益相关方可能质疑算法影响评估的真实效果。
- 制度同化视角：算法影响评价制度的建立和执行并非基于理性计算，而是缘于社会化过程，即受到社会环境影响过程中而不断同化的过程。
人工智能算法影响评价的未来改革：形成政策建议
- 人工智能算法影响评价的制度要求：开放性、合作性、责任性，开放性是合作性和责任性的前提与基础，合作性是决定人工智能算法影响评价成功与否的关键，责任性要求在一定程度上回应实质性治理目标的实现与否。
- 通用人工智能算法影响评价的体系框架：理论基础与层次结构，借鉴心理计量学和机器行为学的理论融合创新，从技术、组织、社会三个层面解构人工智能算法影响评价的基本框架和思路。