核心观点
- **加州AI法案(SB-1047法案)**历经10次修改,目前已在加州议会层面通过,等待州长Gavin Newsom签署。法案落地概率较高,但仍有不确定性。
- 法案内容:对模型设定计算量和成本门槛,现有模型均不在其列,但下一代最强模型或进入监管范畴;要求开发者承担责任、具备“全面关闭”模型的能力、进行评估、聘用第三方审计、保护“吹哨人”权益;赋予监管方提起民事诉讼的权力,要求成立前沿模型委员会、提供公共云计算集群。
- 修订版让步:违法责任降级(刑事责任降为民事责任)、化监管为协商(不设前沿模型局,改设委员会;公共计算集群由科技部管理改为联盟管理)、收窄微调模型适用范围(增加开发成本门槛)。
正反双方争论
- 支持者:侧重AI监管必要性,包括法案发起人Scott Wiener、马斯克、Anthropic、Yoshua Bengio和Geoffrey Hinton等学者。
- 反对者:担心遏制AI创新,包括OpenAI、Meta、Google、李飞飞、吴恩达等。
研究结论
- 法案落地存在不确定性,但概率较高。
- AI创新存在不确定性,若未进行合适监管,技术快速发展可能造成不可逆损伤。
- 地缘政治博弈风险可能带来更广泛的不确定性。