https://x7peeps.com/tags/%E6%8F%90%E7%A4%BA%E8%AF%8D%E6%B3%84%E9%9C%B2/index.htmlHugozh-CNWed, 23 Sep 2026 23:55:00 +0800https://x7peeps.com/AI/08-%E5%AE%89%E5%85%A8%E4%B8%8EAI%E8%9E%8D%E5%90%88/%E7%B3%BB%E7%BB%9F%E6%8F%90%E7%A4%BA%E8%AF%8D%E4%B8%BA%E4%BB%80%E4%B9%88%E9%98%B2%E4%B8%8D%E4%BD%8F%E4%BB%8E%E6%89%8B%E5%B7%A5%E8%AF%B1%E9%AA%97%E5%88%B0%E6%A2%AF%E5%BA%A6%E4%BC%98%E5%8C%96%E7%9A%84%E6%8F%90%E5%8F%96%E6%94%BB%E5%87%BB%E5%85%A8%E6%99%AF/index.htmlWed, 23 Sep 2026 23:55:00 +0800https://x7peeps.com/AI/08-%E5%AE%89%E5%85%A8%E4%B8%8EAI%E8%9E%8D%E5%90%88/%E7%B3%BB%E7%BB%9F%E6%8F%90%E7%A4%BA%E8%AF%8D%E4%B8%BA%E4%BB%80%E4%B9%88%E9%98%B2%E4%B8%8D%E4%BD%8F%E4%BB%8E%E6%89%8B%E5%B7%A5%E8%AF%B1%E9%AA%97%E5%88%B0%E6%A2%AF%E5%BA%A6%E4%BC%98%E5%8C%96%E7%9A%84%E6%8F%90%E5%8F%96%E6%94%BB%E5%87%BB%E5%85%A8%E6%99%AF/index.html系统提示词为什么防不住：从手工诱骗到梯度优化的提取攻击全景 导读：LLM 应用安全里有两个方向相反的攻击，经常被混为一谈。提示词注入是"写"——攻击者往模型上下文里塞指令，劫持模型行为；系统提示词提取是"读"——攻击者诱导模型把开发者藏起来的系统提示词原样吐出来。注入方向的攻防资料已经很多，本文专门拆"读"方向：攻击者怎么偷、真实世界里偷到了什么程度（三份独立研究交叉验证）、为什么"不要泄露提示词"这句话在结构上防不住，以及从设计卫生到系统向量的四层防御。文中所有数字均标注论文出处（arXiv 编号），可自行复核。