AI安全：构建负责任且可靠的系统
引言
AI已成为日常生活中无处不在的助力，随着其能力和普及性的扩展，安全因素变得愈发重要。AI安全的核心在于防止意外后果的发生，并保护系统本身免受外部威胁，如网络攻击和内部错误。AI安全问题可能导致法律和财务责任，以及对人类造成从轻微不便到生命损失的各种后果。AI安全要求所有相关方在AI生命周期中共同承担责任，最大程度降低风险并确保负责任地利用AI。
AI安全的关键利益相关者
AI的整个生命周期中，安全最佳实践是众多个人和企业的共同责任，主要参与者及其角色包括：
- 云计算服务提供商：提供基础的AI计算资源，负责审查软硬件供应商、实施严格的权限管理和物理安全措施，以及实施可靠的网络安全措施。
- 模型构建者：开发和训练AI模型，负责采用安全设计方法、测试漏洞和潜在危险功能，以及使AI系统遵循以人为本的价值观。
- 企业负责人和运营者：部署和维护支持AI的系统，负责建立用户测试和红队测试工作流程，与模型构建者分享反馈，以及保护用户数据隐私，确保AI使用方面的透明度。
示例：AI在关键基础设施领域的应用
AI系统有可能彻底改变关键基础设施，如邮政、电网和水处理等，但技术上的失误可能带来灾难性后果。AI在关键基础设施领域的应用具有以下优势：
- 利用AI驱动的威胁检测提升公共安全。
- 通过分析数据模拟潜在的网络攻击，加强基础设施防御。
- 实时生成异常或故障报告，用于预防危机和快速应急响应。
但也存在风险，如AI工具可能对用户产生负面影响，AI系统的错误可能导致服务中断，以及不法分子可能利用AI制造复杂的网络攻击。
第1阶段：开发
AI安全始于模型开发的最早阶段，远在AI系统进入市场之前。
- 在AI开发中采用安全设计方法：将伦理道德和安全因素融入模型开发过程，从基础设施到软件开发全程奠定坚实的安全基础。
- 优先选择高质量的数据源：AI训练数据对于模型开发至关重要，应谨慎选择数据源，避免使用有害或未经授权的数据。
- 网络抓取数据：高体量但风险高，可能包含不准确、有害和受版权保护的内容。
- 人工生成数据：质量高但成本高，可能使模型接触到有害内容。
- 合成数据：高效率但风险低，适合扩展现有数据集，但过度使用可能抑制AI的创新。
- AI训练数据最佳实践：遵循透明的数据供应链、具有代表性的数据集和人机协作等最佳实践，有助于开发出优先考虑AI安全性的强大基础模型。
示例：AI在教育领域的应用
教育是AI最常见的应用领域之一，AI有望促进全球各地的不同学习者公平地获取信息，但也必须优先考虑模型的安全性。
AI在教育领域的应用具有以下优势：
- 通过将学术资源翻译为多种语言，加强信息的公平获取。
- 通过AI学习助手为学生提供个性化支持，助力提升学习成果。
但也存在风险，如AI系统中的算法偏见可能对边缘化学生群体产生严重影响，以及LLM可能延续有害的刻板印象，对学生的自我认知和对他人的看法产生负面影响。
第2阶段：部署
从开发到部署的全过程中，保持坚实的模型安全性基础需要运营者与开发者之间紧密协作。
- 监督与反馈机制：持续监督和迭代改进对于保持安全、稳定的部署至关重要。
- 持续监督：部署自动化工具以实时监测模型准确度，主动识别性能下降或模型偏见等潜在问题。
- 迭代反馈：建立透明的反馈机制，让运营者与开发者之间能够共享观察结果、报告异常、应对挑战，并高效实施更新。
- 模型评估：严格审查模型行为，确保与用户需求一致，并达到较高的安全标准。
示例：AI在医疗领域的应用
AI正在改变医疗领域，其应用涵盖临床研究、患者护理以及心理健康干预，但也存在安全和伦理问题。
AI在医疗领域的应用具有以下优势：
- AI基础模型加快了基因组模拟和数据处理，推进了精准医疗并确定了新的治疗路径。
- AI聊天机器人和机器学习工具可以提供实时反馈和支持，帮助那些缺乏心理健康专业人士帮助的个体。
但也存在风险，如AI系统依赖于高质量、多样化的数据集来避免偏见，以及在高风险环境中使用AI建议可能带来风险。
第3阶段：应用
确保AI在应用中的安全性需要细致的监控和跨职能协作。
- 确保AI应用安全的最佳实践：在AI数据流程和算法系统中坚持较高伦理和透明度标准，与提供者合作，确保遵循相关标准。
- 减少算法偏见：使用高质量数据、持续改进，并根据不断变化的用例调整数据流程。
- 可解释AI (XAI)：具有透明逻辑的模型更易于评估、排查故障并进行改进，增强与人类最终用户之间的关系。
- AI全球化：确保多语言系统的安全性，需要语言学家和母语者的专业知识来准备自然语言数据集并评估模型输出。
示例：AI在心理健康领域的应用
AI提供了可扩展的解决方案，为患者和医疗保健服务者提供支持，但也引发了对安全和伦理问题的担忧。
AI在心理健康护理领域的应用具有以下优势：
- 在心理健康服务提供者短缺的社区中，AI聊天机器人可以提供初步咨询或持续支持。
- 研究人员可以借助AI分析复杂的数据集并运行模拟操作，从而推动科学突破和开发新的靶向治疗方法。
但也存在风险，如标注不当或带有偏见的数据集可能会加剧不当行为或有害行为，以及需要采取高标准的数据隐私和网络安全措施。
风险管理策略
AI部署后仍将持续存在安全挑战和机遇，风险管理成为AI生命周期的关键组成部分。
- 人机协同（AI-in-the-loop）系统：可以训练和指导从业者、危机咨询师及亲友，从而更高效地提供AI心理健康支持。
- 常见的AI安全风险及应对策略：包括信息危害、AI武器化、有害内容、法律责任等，需要采取相应的解决方案。
示例：AI在法律领域的应用
AI有可能会重塑法律环境，但也带来了新的挑战，需要进行细致的风险评估。
AI在法律领域的应用具有以下优势：
- 检索增强生成(RAG)等AI解决方案可以优化模型，实现安全、准确的知识管理和法律研究。
- 法院可以借助AI驱动的管理工具提升司法系统的效率，并确保被告享有快速审理权。
- AI工具可以提供低成本的法律援助和文件翻译等资源，从而促进法律服务和信息的公平获取。
但也存在风险，如利用过时或偏见数据集进行训练的AI系统可能会通过引用已被推翻的案例导致法律研究产生不准确的结果，以及生成式AI的幻觉可能会输出虚构或不准确的信息。
结语
AI安全并非一个待实现的目标，而是一种愿景，需要全面的协作、灵活适应以及共同承诺，从而实现持续改进。在法规要求复杂且容错率极低的情况下，端到端的安全实践有助于在降低风险的同时推动变革性创新。克服安全挑战以构建可靠的AI系统需要我们共同的担当和努力，同时也可能改善人类生活并促进人类与智能系统之间的信任。
