OWASP大语言模型应用程序十大风险项目旨在提高对大语言模型应用程序中常见的10大最关键风险的认识,提供修正策略的建议,并最终改善LLM应用程序的安全状况。这10大风险包括提示注入、数据泄漏、沙盒不足、未经授权的代码执行、SSRF漏洞、过度依赖大语言模型生成的内容、人工智能未充分对齐、访问控制不足、错误处置不当和训练数据投毒。这些风险可能导致数据泄漏、未经授权的访问或者其他安全漏洞等意想不到的后果。防范这些风险的方法包括对用户提供的提示词进行严格的输入校验和净化、使用上下文感知过滤器和输出编码来防止提示词操作、定期更新和微调大语言模型以提高其对于恶意输入和边界用例的理解能力、监视和记录大语言模型的交互以检测和分析潜在的提示词注入尝试等。