人工智能研报总结
执行摘要
加拿大在人工智能研发方面处于领先地位，但应用和治理滞后。2025年毕马威调查显示，加拿大在使用人工智能的常规性和信任度方面排名垫底，34%的加拿大人愿意信任人工智能。低信任度是阻碍人工智能在加拿大应用的主要障碍之一。委员会研究发现，人工智能技术发展迅速，其社会影响日益明显，需要建立有效的治理和监管措施。
人工智能的本质
人工智能是指技术模仿人类智能的能力，包括预测性人工智能、对话式人工智能和生成式人工智能。人工智能技术已广泛应用于银行、网络搜索、虚拟助手和社交媒体等领域。人工智能本身无所谓好坏，关键在于使用者的知识、能力和主动权。
机遇与风险
机遇：
- 改善基本服务互动，提高效率，促进各领域成本节约。
- 提升包容性人工智能素养和教育，建立信任，减轻高风险应用危害。
- 反映加拿大和原住民数据多样性的AI技术，提供更安全、更具包容性的AI。
风险与挑战：
- 加拿大在人工智能应用和整合方面落后于其他国家。
- 对人工智能的低信任度和理解不足阻碍其应用。
- 经济和人口规模限制国内投资和基础设施建设，面临失去人才和市场机会的风险。
- 数据和数字基础设施依赖外国服务提供商，影响数据隐私和网络安全。
- 先进人工智能对人类构成生存威胁。
- 人工智能加速危机，压缩从造成伤害到升级的时间。
- 人工智能可能复制历史数据中的偏见和歧视，加剧现有障碍和不平等。
- 人工智能助长错误信息和虚假信息的传播，影响数字信息和机构的信任。
- 人工智能对年轻人的影响难以全面评估，可能导致过度依赖、认知能力下降、健康建议不充分、社交技能受损。
- 人工智能系统加剧老年人、女性和边缘化社群遭受网络伤害的风险。
- 人工智能与和数据主权相关的政策与监管决策必须尊重原住民的数据主权。
- 人工智能可能导致大规模失业，动摇税收基础，威胁社会保障网的持久性。
加拿大人工智能治理和监管
加拿大人工智能的治理和监管属于联邦和省/地区共同管辖的范围。目前尚无全面的法律框架对人工智能进行监管，但政府已制定多种指导方针和政策。
机遇：
- 强大、透明的治理框架可以增强加拿大人对人工智能的信任，促进其应用。
- 合理的国内治理和监管可以鼓励发展以人为本、包容性人工智能，体现加拿大价值观。
- 加拿大可以与其他“中等强国”合作，开发以人为中心的、安全的AI。
风险与挑战：
- 人工智能技术全栈的治理和主权难以确保，全球性使得在加拿大境外减轻危害变得困难。
- 人工智能技术的容量和能力迅速发展，基于证据的监管和政策决策面临挑战。
- 许多流行的AI工具开发者难以理解决策和响应生成方式，限制有效监管。
- 人工智能治理与监管的路径范围广，从完全去监管到谨慎的基于风险的监管，实现平衡存在挑战。
- 有效的监管和治理必须尊重和保护原住民的权利和主权。
- 现有立法大多产生于数字时代之前，不适用于人工智能技术。
建议与下一步行动
建议：
- 制定国家人工智能素养战略，提升全民人工智能素养与教育。
- 弥合研究到应用之间的差距，持续投资于主权计算能力和基础设施，支持公共部门部署。
- 利用人工智能提升包容性与可及性，减少偏见，消除获取障碍，提升无障碍性和包容性。
- 主动劳动力市场准备，评估人工智能对劳动力市场的影响，支持劳动力转型和适应项目。
- 实施全面的人工智能监管框架，规范人工智能，建立独立监管机构。
- 保护并执行数据治理和主权原则，将保护加拿大境内数据隐私和主权列为优先事项。
- 推广以人为本的人工智能，促进以人文为中心、体现加拿大价值观的AI发展与采用。
下一步行动：
- 听取人工智能与数字创新部长关于更新国家人工智能战略的报告。
- 听取加拿大身份与文化部长关于C-34法案《安全社交媒体法案》的报告。
- 深入研究如何保护和发展加拿大数据/数字治理主权。
- 协同全球治理，应急准备及危机对潜在发展所带来的生存威胁的回应超级智能。
- 利用以人为本的AI造福社会。
- 研究人工智能对加拿大和/或全球劳动力市场的影响。
