致加利福尼亚隐私保护局关于拟议的自动化决策技术风险评估法规草案的公开信中,多个组织和个人对加州消费者隐私法案(CCPA)的最新草案表示强烈不满,认为其大幅削弱了对工人和消费者的保护。核心观点包括:
-
定义变更削弱监管范围
- 拟议的自动化决策技术(ADMT)和“重大决策”定义过于狭窄,仅涵盖自动化使用的ADMT,且排除对独立承包商工作分配、ADMT训练数据和生物识别技术的监管。据 agency 估算,仅10% 的企业受 ADMT 法规约束,远低于预期。
-
通知和数据访问机制失效
- 删除了ADMT导致不利决策时的使用通知要求,使工人无法主动发现算法对其产生的影响。此外,即使申请数据访问,雇主无需共享实际决策输出,削弱了知情权。
-
退出机制形同虚设
- 拟议法规放宽了雇主免于覆盖的豁免条件,允许企业仅凭“非歧视性”声明即可规避监管,缺乏实质性评估要求。
-
风险评估工具被弱化
- 删除了企业需记录评估结果、披露隐私风险标准、提交风险报告等关键条款,并取消了“隐私风险高于收益则禁止处理”的强制规定,使监管流于形式。
-
整体偏离立法初衷
- 法规未能实现CCPA保障消费者和工人“有效控制数据”的目标,且未涵盖工作场所算法对隐私、工资、种族性别平等及组织权的影响。提案者认为,加州应制定更完善的法规,推动负责任的AI发展,而非屈从商业利益。
核心数据:仅10% 的企业受ADM法规约束,远低于预期。
研究结论:现行草案未能保护工人免受算法侵害,违背了CCPA立法精神和选民意愿,需重新修订以实现透明化与公平性。