论文翻译：2024 High-Confidence Computing A survey on large language model (LLM) security and privacy: The

总目录 大模型安全相关研究：https://blog.csdn.net/WhiffeYF/article/details/142132328

A survey on large language model (LLM) security and privacy: The Good, The Bad, and The Ugly
大型语言模型 (LLM) 安全性和隐私调查：优点、缺点和不足之处

https://arxiv.org/pdf/2312.02003

https://www.doubao.com/chat/3134909552147970

速览

• 研究动机：大语言模型在安全领域应用渐广，但其安全与隐私问题引发关注，需深入探究。
• 研究问题：LLM对安全和隐私有何影响？存在哪些风险和威胁？有何漏洞及防御措施？
• 研究方法：通过全面搜索谷歌学术，收集281篇相关论文，按应用效果和研究方向分类分析。
• 研究结论：LLM对安全和隐私有积极贡献，但也存在风险、威胁和漏洞，现有防御措施有成效也有不足。
• 不足：对模型和参数提取攻击研究有限且偏理论，安全指令调优探索不足，模型架构安全研究稀缺。

这篇论文主要探讨了大语言模型（LLM）在安全和隐私方面的作用、影响及相关问题，通过全面的文献综述，分析了LLM在安全领域的应用、潜在风险和威胁，以及自身存在的漏洞和防御措施，为理解和研究LLM的安全与隐私问题提供了系统的视角。

1. 研究背景：LLM发展迅速，在多领域广泛应用，也引起了安全社区的关注。论文围绕LLM对安全和隐私的影响、潜在风险、自身漏洞及防御机制提出了三个关键研究问题，并通过收集281篇相关论文进行分析。
2. LLM对安全和隐私的积极影响
   • 代码安全：LLM可用于代码安全的整个生命周期，如辅助安全编码、生成测试用例、检测漏洞和恶意代码、修复代码等。多数研究表明，LLM在这些方面优于传统方法，但