基于大语言模型（LLM）的系统安全：关键授权实践

摘要

• 背景：随着大语言模型（LLM）的广泛应用，其安全设计和最佳实践指导不足。
• 挑战：LLM的非确定性和缺乏控制，对系统架构师和工程师构成挑战。
• 目标：为工程师、架构师和安全专业人士提供LLM系统设计风险和挑战的指导。
• 关键原则：
  • 输出可靠性评估：评估LLM结果可靠性。
  • 授权：授权决策点在LLM外。
  • 认证：LLM不负责认证。
  • 漏洞：假设LLM存在特定攻击。
  • 访问：最小权限原则和按需访问。
• 关键组件：
  • 编排器：协调LLM输入、输出和与其他服务交互。
  • 向量数据库：管理高维数据向量。
  • LLM缓存：缓存LLM输出。
  • 验证器：防止攻击。
• 设计模式：
  • 检索增强生成（RAG）：利用外部数据。
  • 上下文数据：提供上下文信息。
  • 使用向量数据库的RAG访问：使用向量数据库检索数据。
  • 使用关系数据库的RAG访问：使用关系数据库检索数据。
  • 使用API调用外部系统的RAG：调用外部API。
  • LLM系统编写和执行代码：使用LLM编写和执行代码。
  • 基于LLM的自主智能体：使用LLM创建智能体。
• 结论：强调LLM系统安全设计的重要性，并建议采用纵深防御方法。