KNOWLEDGE DOMAIN / AI安全

AI安全

FRAMEWORK MAP

知识框架

LATEST SIGNALS

最近更新

  1. AI 对齐技术全景：从 RLHF 到 DPO、GRPO 与可扩展监督的演进 AI 对齐技术全景：从 RLHF 到 DPO、GRPO 与可扩展监督的演进
  2. 多智能体系统安全：身份验证、合谋攻击与通信防护 多智能体系统安全：身份验证、合谋攻击与通信防护
  3. 智能体安全检测评估框架：全链路多层防线 智能体安全检测评估框架：全链路多层防线
  4. Agent 安全运营体系：评估指标、监控与持续改进 Agent 安全运营体系：评估指标、监控与持续改进
  5. Agent工具调用层安全：参数校验、权限边界与沙箱逃逸 Agent工具调用层安全：参数校验、权限边界与沙箱逃逸
  6. Agent规划与推理层安全：目标漂移、逻辑劫持与可解释性 Agent规划与推理层安全：目标漂移、逻辑劫持与可解释性
  7. Agent 记忆系统安全：污染防护、泄露检测与权限隔离 Agent 记忆系统安全：污染防护、泄露检测与权限隔离
  8. 大模型红队测试：方法论、自动化工具与评测基准 大模型红队测试：方法论、自动化工具与评测基准

DOMAIN TAGS

领域标签