核心观点
- 负责任人工智能(RAI)正从原则转向实践,民间社会正在领导开发具体的治理工具,包括标准、基准、审计和红队方法,将抽象价值观转化为可验证的、基于生命周期的证据。
- 人工智能风险正在加剧,由越来越强大的前沿和自主系统驱动,这些系统创造了新的故障模式并加剧了现有的危害。报告考察了从合成媒体和欺诈到生物特征监控和人工智能伴侣依赖的各种风险。
- 公共人工智能(Public AI)正作为一种强大的替代方案出现,强调共享计算、社区治理的数据集、开源安全工具和公共利益机构,以便大学、非营利组织、政府和社区能够塑造人工智能生态系统,而不是仅仅由企业塑造。
- 社会影响,如劳动力替代、气候负担、经济集中和对民主的威胁,需要全社会的治理,包括更强的以权利为基础的监管、全球标准协调以及对非营利组织和公共监督的投资。
- 2026年的一个核心挑战是决定谁决定人工智能的用途,报告呼吁扩大RAI素养、加强信息完整性防御、为高风险用途(例如人工智能伴侣、合成媒体)制定更清晰的保障措施,并协调一致地推动问责制、公共利益人工智能的未来。
关键数据和研究结论
- 人工智能风险评估:斯坦福大学人工智能研究所的《2025年人工智能指数报告》记录了模型在常见基准上的性能大幅提升,以及人工智能在医疗保健和交通等领域的快速普及;但也强调了标准化评估方法、安全和公平性测量的持续差距,以及行业和公共部门在负责任人工智能实践方面 uptake 不均。
- 人工智能安全:人工智能现在已成为关键基础设施的神经系统,数据和信息的完整性对于安全运行至关重要。数据投毒可以意外地很好地工作,表明少量文档就可以后门非常大的模型。人工智能代理的失败需要法医级别的证据。
- 人工智能隐私:新的证据表明,在生物特征和个性化方面至少存在两个突出的隐私差距需要解决:1)对先进人工智能系统如何学习和适应人们保持透明的控制;2)法律框架需要真正约束侵入性感知和推理。
- 人工智能公平性:人工智能现在是系统性地不平等的根源,导致系统性边缘化群体遭受更高的价格、更低的工资、更长的排队时间和更少的选择。人工智能公平性失败表现为更高的价格、更低的工资、更长的队列和系统性边缘化群体更少的选择。
- 人工智能对人权、民主和法治的影响:人工智能系统部署在许多关键领域,可能对人权、民主参与和法治产生重大影响。需要建立一个连接规范、法律、机构、采购和实践的整个社会治理堆栈。
- 人工智能对劳动的影响:人工智能对劳动的影响将更多地取决于制度选择,而不是原始能力。同样的系统可以专注于减少苦役、提高质量和提高工资,也可以证明加强监控、去技能化和裁员,这取决于部署周围的激励和治理。
- 人工智能对气候、可持续性和能源的影响:人工智能建立在迅速扩大的能源和材料系统之上,该系统正在重塑电网、用水和当地社区。需要将道德和环境可持续性作为单一实践整合到人工智能生命周期中。
- 人工智能的经济影响:如果今天的人工智能繁荣可能是一个泡沫,那么公共(特别是地方社区、工人和纳税人)将承担过大的风险,而集中的参与者将获得大部分收益。
- 公共人工智能基础设施:公共人工智能基础设施是获得广泛访问、持久问责制和长期创新能力最短的途径。公共人工智能定义了一个堆栈,其中公共和公民行为者共同管理计算、数据、模型和开发者工具,具有开放的接口和可移植性。
- 公共数据:公共数据不仅仅是可用的数据;它是指社区可以在语言、能力和环境中使用、治理和受益的数据。公共数据努力应该优先考虑资源不足的语言。
- 公共计算:公共、共享、通用计算使包容性人工智能研究、有弹性的公共服务和问责制创新成为可能。治理正在从“训练运行有多大?”转变为“系统在部署期间或迭代训练期间消耗多少推理计算?”
- 模型开发:静态计算阈值将很快涵盖许多更多模型。需要投资可扩展的证据管道,以适应前沿类模型数量的增长。
- 公共利益人工智能:技术未来我们想要的是服务于所有人的需求,人工智能解决方案以负责任的方式应用于社会最紧迫的问题。公共利益的定义不能从一般态度调查或创新叙事中推断出来;它必须通过与不同公众的深入、持续的参与来建立。
- 重新想象的未来:雄心勃勃的人工智能未来不仅仅是技术场景。它们是关于技术是为谁服务的,以及它能实现哪些类型的生活的故事、记忆和图像。如果我们想要不同的结果,就需要改变塑造我们如何想象、资助和评估技术的文化和叙事基础设施。
未来展望
- All Tech Is Human计划在2026年利用人工智能负责任地服务于其使命,作为公共利益人工智能的坚定实践者。
- 该组织打算开发一个由人工智能驱动的负责任技术工作职位板,以更好地匹配各种人才与有意义的角色,浮出新兴技能,并使生态系统对试图进入该领域的人更容易导航。
- All Tech Is Human还打算扩大其负责任技术指导计划,使用人工智能辅助匹配、指导和资源策展,始终以人类判断、社区规范和公平为中心,使新声音和非传统途径更容易在这个领域找到家。
- 该组织还打算深化对公共人工智能基础设施的承诺:人工智能被视为共享资产,而不是一系列孤立的產品,而是在公共利益下得到管理。
- All Tech Is Human计划在2026年支持并扩大正在进行的努力,以建立和治理在公共和公民宪章下的社区数据集、共享计算和开源工具。
- 该组织打算与志同道合的组织合作,原型“公共利益运营商”,他们可以托管和维护这些资源。
- 跨所有这些,All Tech Is Human看到负责任人工智能素养是主线。明年,该组织将扩大其教育工作,使RAI不仅仅是专家和内部人士的领域,而是一种共享的公民能力。