香港生成式人工智能技术及应用指南
背景
生成式人工智能（AI）作为现代人工智能的重要分支，能够根据人类意图和指令自动生成文本、图像、音频和视频等内容信息。近年来，生成式AI技术取得突破，相关产品和服务的应用和推广迅速。指南旨在为香港的科技开发者、服务提供者和服务使用者提供相关准则和最佳实践，以确保生成式AI技术安全、负责任地发展。
生成式AI简介
- 概述：生成式AI利用机器学习算法，根据大量数据自动生成文本、图像、音频和视频等内容信息，为用户提供个性化、定制化的服务体验。
- 主要原理：基于深度学习中的生成模型，通过无监督或自监督学习、自回归等方法，模型学习大量训练数据的分布特征，从而生成新内容。
- 主要模态：
- 文本生成：自动生成自然语言文本，包括单模态和多模态生成。
- 图像生成：自动生成全新的图像内容，包括文本到图像和图像到图像两种模式。
- 音频生成：自动合成相应的声波波形，包括文本到音频和音频到音频两种模式。
- 视频生成：自动合成相应的视频内容，例如根据文本、图像、视频片段等生成新视频。
- 主要服务领域：知识问答、角色扮演、写作辅助、编程辅助、数学推理、AI代理、AI艺术等。
生成式AI治理
- 技术局限和服务风险：
- 技术局限：模型幻觉、模型偏差、黑盒问题、数学推理能力有限、对输入变化的敏感性、数据完整性风险等。
- 服务风险：内容安全、谣言制造、模型越狱、数据泄露等。
- 模型生命周期和人工监督：规划与数据收集、模型开发、部署和集成、使用和维护等阶段均存在风险，需要人工监督。
- 治理五个维度：个人数据隐私、知识产权、犯罪预防、可靠性和可信度、系统安全。
- 治理五项原则：
- 遵守法律法规：所有环节均需遵守相关法律法规和监管标准。
- 安全和透明：消除模型和服务中的不安全性和不透明性。
- 准确性和可靠性：通过技术手段和科学方法确保生成内容的准确性和可靠性。
- 公平性和客观性：避免信息失衡和模型偏差，确保内容公平、客观、包容。
- 实用性和效率：提升技术效用，确保生成内容精准、高效、高质量。
实践指南
- 科技开发者：建立综合团队，采用正确的 working practices，包括建立数据团队、算法工程团队、质量控制团队、运营原则、合规团队等。
- 服务提供者：建立负责任的服务框架和服务开发流程，包括确保服务合规、数据安全、系统安全、系统可信度、服务采购、风险评估、试点项目、服务维护等。
- 服务使用者：积极履行AI良性使用的责任，包括合法合规使用、保持独立判断、建立组织政策和指南、了解责任和义务、引用和归因、隐私保护、谨慎传播、尊重知识产权等。
香港生成式AI治理政策框架
- 应用导向原则：推广AI的道德发展，强调透明度和问责制，明确标记和可追溯性，提高公众意识，加强国际合作。
- 行业导向原则：平衡道德规范与行业特定特征，根据行业需求灵活管理，确保个人安全、保护个人数据、维护系统可靠性，并制定行业特定指南，例如金融、医疗、法律、教育、新闻、旅游、零售、物流等行业。
附录
- 特定国家和地区治理要求：中国大陆、美国、欧盟、英国、新加坡等国家和地区的治理要求和政策。
- 香港生成式AI治理框架特点：坚持务实平衡策略，利用现有法律框架，通过行业自律或监管沙盒进行管理。
