On Large Language Models Safety, Security, and Privacy: A Survey (Journal of Electronic Science and Technology, ~2025)1. 核心问题与动機Core Problems and Motivations大型语言模型LLMs如 GPT 系列已在机器翻译、智能对话、内容生成等领域带来革命性影响但其广泛部署也暴露了严重的信任危机。论文指出LLMs 面临的主要挑战包括幻觉hallucinations、后门攻击backdoor attacks、隐私泄露privacy leakage等这些问题严重削弱模型的可靠性和有效性。关键动机先前文献常将Safety安全性、Security安全和Privacy隐私混淆使用缺乏清晰界定。这导致研究碎片化难以系统性解决问题。作者提出更清晰、合理的定义框架在 LLMs 情境下Safety聚焦于模型输出是否符合人类价值观如避免有害、偏见或错误内容Security强调模型抵抗外部攻击如提示注入、资料中毒的能力Privacy则关注防止训练资料或使用者输入中的敏感信息泄露。动机还包括 LLMs 的双刃剑特性一方面提升生产力另一方面在训练pre-training/fine-tuning和推论inference阶段都存在系统性漏洞。论文强调随着 LLMs 应用到医疗、金融、自动驾驶等高风险领域这些问题若未解决可能引发严重社会与伦理后果。论文通过全面文献回顾填补定义混乱的空白并为后续研究提供结构化taxonomy分类体系涵盖训练与推论两个主要阶段。2. 结果/成果Results/Achievements论文的主要成果是提供一个系统性综述框架而非提出新算法。具体包括定义澄清与 Taxonomy明确区分 Safety、Security、Privacy 三者并绘制 LLMs 生命周期中的漏洞与防御映射图涵盖训练与推论阶段。这是相较先前工作的重大改进提供更合理的分类基础。漏洞与防御全面概述Safety 相关讨论幻觉、对齐alignment问题、偏见生成等。防御包括 RLHFReinforcement Learning from Human Feedback、DPO 等对齐技术以及安全提示工程。Security 相关涵盖提示注入prompt injection、jailbreaking、后门攻击、资料中毒data poisoning、模型提取攻击等。防御机制包括对抗训练、输入过滤、模型监控等。Privacy 相关聚焦成员推断攻击Membership Inference Attacks、训练资料提取、PIIPersonally Identifiable Information泄露等。防御包括差分隐私Differential Privacy、资料清洗、联邦学习等。独特贡献强调 LLMs 因规模巨大、黑箱特性与上下文依赖性带来独特的挑战如在推论阶段的动态攻击更难防御。论文整理了大量最新文献截至 2025 年初并指出多数防御在真实大规模部署中的局限性。整体成果为研究社群提供了一份清晰的「地圖」帮助开发者与研究者快速定位特定问题并选择对应防御策略。3. 分析与洞见Analysis and Insights多角度分析技术层面LLMs 的 Transformer 架构使其易受梯度泄露或提示操纵影响。训练阶段的资料污染会放大到整个模型而推论阶段的 adversarial prompts 则能绕过安全对齐。论文强调传统机器学习的安全技术如差分隐私在 LLMs 上需重新适配因为模型参数规模庞大计算成本高昂。伦理与社会层面Safety 不仅是技术问题还涉及价值对齐——模型可能在「帮助性」与「无害性」间权衡失衡。Privacy 则触及 GDPR、CCPA 等法规合规泄露风险可能导致身份盗用或企业机密外流。边缘案例与细微差别边缘案例开放源码 vs. 封闭源码模型的安全差异多语言或低资源语言下的不平等漏洞自主代理Agent情境下Security 与 Safety 的交互风险更高例如代理自主决策引发连锁危害。权衡Trade-offs加强 Privacy例如 DP-SGD常牺牲模型效用过度 Safety 对齐可能降低创造力或有用性。相关考量与其他领域如电脑视觉的比较LLMs 的自然语言特性使其攻击更「人性化」如社会工程攻击防御需结合人类认知模型。主要洞见现有防御多为被动或碎片化缺乏端到端end-to-end解决方案。LLMs 的 emergent abilities 使传统评估指标失效需开发新 metrics如 tail risk 评估。未来威胁可能来自模型自身演化如 scheming behavior in agents。论文呼吁跨学科合作结合法律、伦理与技术。4. 结论Conclusions论文结论强调尽管 LLMs 带来巨大潜力但Safety、Security、Privacy是其可信赖部署的基石。作者建议未来研究方向包括开发更 robust 的对齐方法与混合防御框架探索可解释性interpretability以提升透明度针对实际应用如边缘计算、多模态 LLMs的专门研究建立标准化评估基准与法规框架。总而言之这篇综述不仅总结现况更提供清晰定义与前瞻视野呼吁社群共同努力提升 LLMs 的稳健性与可靠性以实现安全、可信的人工智慧未来。文章链接ScienceDirecthttps://www.sciencedirect.com/science/article/pii/S1674862X25000023DOI10.1016/j.jnlest.2025.100301ResearchGatehttps://www.researchgate.net/publication/387878054_On_large_language_models_safety_security_and_privacy_A_survey