计算机行业投资策略报告：加州AI法案落地在即，平衡安全与创新

投资评级:看好(维持) 核心观点 证券研究报告 最近12月市场表现 计算机 沪深300 上证指数 3% -5% -13% -21% -29% -37% 分析师杨烨 SAC证书编号：S0160522050001 yangye01@ctsec.com 联系人郑元昊 zhengyh03@ctsec.com 相关报告 1.《华为引望引入多方投资，乾崑智驾条线清晰》2024-09-01 2.《英伟达财报高增长，B系列Q4开始产能爬坡》2024-08-29 3.《英伟达Q2业绩前瞻》2024-08-25 盘点加州AI法案临近出台始末。2024年2月，《前沿人工智能模型安全创新法案（SafeandSecureInnovationforFrontierArtificialIntelligenceModelsAct）》（后文简称SB-1047法案）被提出。2024年5月21日，加州参议院通过该法案。2024年8月19日，经部分妥协后，法案重要修订版颁布。2024年8月28日，加州众议院也通过该法案。至此，历经10次修改后，法案被提交至加州州长GavinNewsom。2024年9月30日前，州长必须决定是否签署。州长签署则法案生效，若州长不签署，在加州参议院、众议院均达到三分之二票数赞成，法案亦可直接生效。我们认为加州AI法案颁布与否仍存变数，但落地概率更高。 SB-1047法案最新修订稿明确对模型、开发者、监管者的具体要求。对模型，考虑大模型的设定计算量和成本门槛，现有模型均不在其列，但下一代最强模型或进入监管范畴。对模型开发者，SB-1047法案要求其承担应负责任具备“全面关闭”模型的能力、需对模型进行评估、聘用第三方审计、不得损害“吹哨人”权益等。对监管方，法案赋予其对违法行为提起民事诉讼的权力、要求成立前沿模型委员会、提供公共云计算集群等。 SB-1047法案回应公众诉求，在修订版中做较大让步。一是违法责任降级，由刑事责任降为民事责任。二是化监管为协商，不设前沿模型局，改设前沿模型委员会，公共计算集群CalCompute不由科技部管理，改为新设联盟管理。三是收窄适用的微调模型范围，通过增加1000万美元的开发成本门槛让大量中小初创企业的微调模型得以豁免，降低其合规成本。 正反双方争论激烈，业界与学界均存分歧。支持者：侧重AI监管必要性法案发起人ScottWiener认为加州率先进行立法可以保证AI发展同时具有创新性和安全性，企业界马斯克、Anthropic总体持支持态度，学术界YoshuaBengio和GeoffreyHinton等学者认可法案出台的必要性。反对者：企业界OpenAI、Meta、Google反对法案，并表示担忧，质疑AI监管的立法层级是否应该在州层级、认为法案会打击大模型开源开发者积极性、担忧法案会让AI公司搬离加州等。学术界李飞飞、吴恩达、部分联名机构反对SB-1047法案落地认为法案会抑制AI技术本身的创新、未能解决偏见和深度伪造等问题、造成“寒蝉效应”等。 风险提示：法案落地存在不确定性、AI创新存在不确定性、地缘政治博弈风险。 请阅读最后一页的重要声明！ 内容目录 1盘点加州AI法案临近出台始末3 2加州AI法案明确各方权责，部分让步监管强度4 2.1明确对模型、开发者、监管者的具体要求4 2.2最新修订版作重要让步，目的为降低监管强度、促进创新发展7 3正反双方争论激烈，业界与学界均存分歧8 3.1支持者：侧重AI监管必要性，马斯克、Anthropic、约书亚等支持8 3.2反对者：担心遏制AI创新，OpenAI、Meta、李飞飞等反对10 4风险提示12 图表目录 图1.加州AI法案（SB1047号法案）自提出起已历经10次修改4 图2.瑞士奶酪模型展示通过多层防御降低AI带来的潜在风险6 图3.SB-1047法案要求成立9人组成的前沿模型委员会7 图4.加州AI法案最终修订版与先前版本的主要区别和相关影响8 图5.马斯克发文支持SB-1047法案9 图6.YoshuaBengio和GeoffreyHinton等24名AI学者联名支持加州AI法案10 图7.李飞飞发文表达对SB1047法案的关切11 图8.人工智能联盟反对SB-1047法案的声明12 1盘点加州AI法案临近出台始末 加州AI法案出台在即，只待州长做签署决策。2024年2月，加州参议员ScottWiener提出《前沿人工智能模型安全创新法案（SafeandSecureInnovationforFrontierArtificialIntelligenceModelsAct）》（后文简称SB-1047法案或法案），自此全美各界围法案是否应由州层级率先推出、是否会抑制大模型创新速度、是否会降低开源大模型开发者的积极性、是否不利于学术界创新、人才培养等问题展开激烈讨论，历经10次修改，目前法案已在加州议会层面“过关”，等待加州州长GavinNewsom做最终签署决定。 2024年2月，SB-1047法案被提出。美国加州州参议员ScottWiener提出 《前沿人工智能模型安全创新法案》，由于法案或将对AI采取严格监管，可能导致对大模型创新的抑制，进而引发激烈争论。 2024年5月21日，加州参议院通过SB-1047法案。在加州参议院层面，法案以32票赞成、1票反对、7票弃权通过（达到2/3赞成）。 2024年8月19日，SB-1047法案部分妥协后，颁布重要修订版。加州众议院公布了法案的重要修订版，做出关键妥协，如违法者无需承担刑事责任、监管机构强度下降、法案适用模型范围调整等。 2024年8月28日，加州众议院通过SB-1047法案。在加州众议院层面，法案以48票赞成、16票反对、15票弃权通过（暂达到2/3赞成），法案被提交给加州州长GavinNewsom，等待最终签署。 2024年9月30日前，加州州长GavinNewsom必须决定是否签署SB-1047法案。若GavinNewsom同意签署，则法案通过，在加州生效；若州长否决，则法案重新进入立法机构环节，之后若在加州参议院、众议院均达到三分之二票数赞成，法案亦可直接生效。 我们认为加州AI法案颁布与否仍存变数，但落地概率或更高。一方面，加州州长GavinNewsom暂未对SB-1047法案发表观点，存在不确定性，但Newsom与法案提出者ScottWiener均为民主党成员，或将对法案通过有利。另一方面，即使州长层面否决，根据此前投票情况，加州参议院层面已获得2/3赞成，加州众议院层面虽然赞成不足2/3，仍需争取到弃权或反对方5票转投赞成，存在不确定性，但斡旋成功可能较大。 图1.加州AI法案（SB1047号法案）自提出起已历经10次修改 数据来源：加州参议院官网，财通证券研究所 2加州AI法案明确各方权责，部分让步监管强度 2.1明确对模型、开发者、监管者的具体要求 考虑大模型的设定计算量和成本门槛，现有模型均不在其列，但下一代最强模型或进入监管范畴。根据SB-1047法案要求，纳入监管的模型以2027年1月1日为界。截至2024年8月，根据律师事务所MORGANLEWIS和FOLEY&LARDNER的测算，2027年1月1日前的训练门槛要求超过了现有所有公布的大模型能力， 但是预计1年内出现的下一代最先进的大模型将触及该法案的监管范围。 2027年1月1日之前：满足下列任一要求即需纳入监管。 1）情景一：使用训练计算量大于𝟏𝟎𝟐�整数或浮点运算，且训练成本超过1亿美元的人工智能模型（成本以训练开始时经合理评估的云计算市场均价计算）。 2）情景二：使用训练计算量大于或等于3*𝟏𝟎𝟐�整数或浮点运算，且成本超过1000万美元的微调（fine-turning）模型（成本以微调开始时经合理评估的云计算市场均价计算）。 2027年1月1日之后：在上述要求基础上，适用模型的成本门槛保持不 变，但是计算量将会由政府管理机构（GovernmentOperationsAgency）重新制定，仍是满足任一情景即须纳入监管。 对模型开发者，SB-1047法案要求其承担应负责任、具备“全面关闭”模型的能力、需对模型进行评估、聘用第三方审计、不得损害“吹哨人”权利等。 模型开发者要对模型潜在风险负责。通过实施多层面的网络安全保护，防止对模型未经授权的访问与修改，同时模型开发者要对模型的衍生模型的潜在风险负责。我们认为，上述内容意味着开源模型开发者要对下游任意修改模型的风险承担责任。 模型开发者应具备“全面关闭”（fullshutdown）模型的能力。模型开发者在模型开发阶段，应预留全面关闭的能力，同时在考虑关闭模型时，应适当考虑模型关闭对关键基础设施造成中断的风险。 模型开发者要对模型进行潜在风险评估。对模型进行评估时，要评估模型本身或者模型衍生产品是否具备造成严重危害（criticalharm）的风险。严重危害指的是：1）模型制造或使用化学、生物、放射性或核武器，造成大规模伤亡；2）模型发动网络攻击，或其他造成大量人员伤亡或导致至少5亿美元的经济损失。 模型开发者要聘用第三方审计进行年审。法案要求自2026年1月1日起，模型开发者每年都要聘请一位第三方审计师，对模型是否符合该法案要求进行审计。 不得损害“吹哨人”权利。法案明确保护“吹哨人”权利，要求模型开发者不得阻碍员工向司法人员或劳动专员披露其涉嫌违反本法案的行为，不得对上述员工进行报复，若因模型开发者报复导致“吹哨人”权利受损，“吹哨人”可向法院申请救济等。 图2.瑞士奶酪模型展示通过多层防御降低AI带来的潜在风险 数据来源：AI-RISK官网，财通证券研究所 对监管方，法案赋予其对违法行为提起民事诉讼的权力、要求成立前沿模型委员会、提供公共云计算集群等。 法案授权司法部长可对违反法案要求的行为提起民事诉讼。比如若大模型导致他人死亡或身体伤害、财产损失、财产盗窃或侵占，危害公共安全等行为，可对违法行为提起民事诉讼，处罚以民事罚款为主。 法案特设前沿模型委员会。委员会设在政府内部，独立于科技部，州长可在参议院批准下任命前沿模型委员会执行官，执行官作为行政首长确保委员会职责顺利进行，委员会由9名成员组成，委员不得在任职期间从被监管主体获得财务利益。 法案要求创建“CalCompute”的公共云计算集群。目的是加大科研创新惠及公众、通过增强计算资源的可得性以实现公平创新，CalCompute应尽可能设立在加州大学内部。 图3.SB-1047法案要求成立9人组成的前沿模型委员会 数据来源：加州立法机构官网，财通证券研究所 2.2最新修订版作重要让步，目的为降低监管强度、促进创新发展 回应公众诉求，法案修订版做出较大让步。主要通过降低违法惩治力度、化监管为协商、收窄模型适用范围等方式做出让步，从而降低中小开发者合规成本、鼓励支持大模型学术创新。主要让步点如下： 违法责任降级，由刑事责任降为民事责任。尽可能减少强监管对大模型创新的遏制，民事责任的惩罚以罚款为主，较刑事处罚大幅降低。 化监管为协商。1）不设前沿模型局，改设前沿模型委员会。2）公共计算集群CalCompute不由科技部管理，改为新设联盟管理。上述两方面变化，将监管组织或政府权力，降级为融合各方利益、由各方利益代表组成的议事机构，将监管权力分散，避免监管权力集中而被滥用。 收窄微调模型适用范围，降低合规成本。过去针对微调模型只设定计算量门槛，最新修订版增加1000万美元的开发成本门槛，相当于提高该法案的模型适用门槛，收窄了监管范围，让大量中小初创企业的微调模型得以豁免，降低其合规成本。 图4.加州AI法案最终修订版与先前版本的主要区别和相关影响 数据来源：加州立法机构官网，财通证券研究所 3正反双方争论激烈，业界与学界均存分歧 3.1支持者：侧重AI监管必要性，马斯克、Anthropic、约书亚等支