ARTICLE / ai

Function Calling 与 Tool Use:工作原理、编排模式与安全考量

Function Calling 是现代 LLM Agent 体系的基石能力——没有它,大模型只是一个封闭的文本生成器;有了它,大模型才能与真实世界交互。从 2023 年 6 月 OpenAI 首次在 GPT-3.5/GPT-4 中引入 Function Calling,到 Anthropic 为 Claude 推出 Tool Use,再到各开源模型纷纷跟进,工具调用已经从"锦上添花"变成了 Agent 架构的必选组件。

然而,绝大多数开发者对 Function Calling 的理解停留在"给模型一个函数定义,它就能调用"的浅层认知。本文将从协议原理出发,深入拆解工具调用的完整生命周期,系统对比 OpenAI 与 Claude 两大主流协议的差异,详解五种编排模式的实现方式,并从工程视角讨论安全控制与生产化部署的关键考量。


1. Function Calling 工作原理

1.1 完整生命周期

理解 Function Calling 的关键在于认识到:模型本身不执行任何代码。它只做一件事——决定"是否需要调用工具,如果需要,应该传什么参数"。实际的工具执行、结果回传、多轮交互都由外部系统(你的应用代码)控制。

一次完整的 Function Calling 交互遵循以下流程:

┌──────────────────────────────────────────────────────────────────┐
│                 Function Calling 完整生命周期                      │
│                                                                  │
│  用户输入                                                         │
│  "帮我查一下北京今天的天气"                                         │
│       │                                                          │
│       ▼                                                          │
│  ┌─────────────────────────────────────┐                         │
│  │ 1. Prompt 构建                      │                         │
│  │    messages: [系统提示, 用户消息]     │                         │
│  │    tools: [weather, ...]            │                         │
│  │    tool_choice: "auto"              │                         │
│  └──────────────┬──────────────────────┘                         │
│                 ▼                                                │
│  ┌─────────────────────────────────────┐                         │
│  │ 2. 模型推理                         │                         │
│  │    判断:需要调用 weather 工具        │                         │
│  │    生成: tool_call object            │                         │
│  │    {                                │                         │
│  │      "function": {                  │                         │
│  │        "name": "get_weather",       │                         │
│  │        "arguments": "{              │                         │
│  │          \"city\": \"北京\"           │                         │
│  │        }"                           │                         │
│  │      }                              │                         │
│  │    }                                │                         │
│  └──────────────┬──────────────────────┘                         │
│                 ▼                                                │
│  ┌─────────────────────────────────────┐                         │
│  │ 3. 应用层执行工具                    │                         │
│  │    result = get_weather(city="北京")  │                         │
│  │    → {"temp": 28, "condition": "晴"} │                         │
│  └──────────────┬──────────────────────┘                         │
│                 ▼                                                │
│  ┌─────────────────────────────────────┐                         │
│  │ 4. 结果回传模型                      │                         │
│  │    messages 追加:                    │                         │
│  │    - assistant(tool_call=...)        │                         │
│  │    - tool(tool_result=...)           │                         │
│  └──────────────┬──────────────────────┘                         │
│                 ▼                                                │
│  ┌─────────────────────────────────────┐                         │
│  │ 5. 模型生成最终回复                  │                         │
│  │    "北京今天天气晴朗,气温 28°C"       │                         │
│  └─────────────────────────────────────┘                         │
│                                                                  │
│  stop_reason: "stop"  → 流程结束                                 │
│  stop_reason: "tool_use" → 回到步骤 1(多轮循环)        │
│  stop_reason: "max_tokens" → 截断,需重试或放大预算      │
└──────────────────────────────────────────────────────────┘

三个容易被误解的点:

  1. 工具 schema 是"提示"不是"接口绑定":模型只是按 schema 格式生成参数文本,类型与业务正确性需要应用层校验兜底
  2. 是否调用工具是模型决策:tool_choice="auto" 下可能直接回答不调用;强制调用(required / {"type":"tool"})适合抽取类任务,但会诱发"硬凑调用"
  3. 多轮循环的成本:每次工具往返都是一次完整 API 调用且历史 messages 全量重传——Agent 的 Token 消耗大头在循环轮次

1.2 函数定义质量决定调用质量

{
  "name": "search_orders",
  "description": "按客户ID和状态搜索订单,返回最多50条、按创建时间倒序。客户ID格式为 CU-6位数字。",
  "parameters": {
    "type": "object",
    "properties": {
      "customer_id": {"type": "string", "pattern": "^CU-\\d{6}$"},
      "status": {"type": "string", "enum": ["open","paid","shipped","cancelled"]},
      "limit": {"type": "integer", "maximum": 50}
    },
    "required": ["customer_id"]
  }
}

经验规则:description 写"何时该用我"(模型选工具主要靠它,而不是名字);参数名语义化(customer_id 优于 cid);枚举优先于自由文本;返回值结构稳定,错误用结构化字段表达——模型读不懂堆栈跟踪。


2. OpenAI 与 Claude 协议差异

维度OpenAI Tools APIAnthropic Tool Use
调用载体assistant.tool_calls[]content[] 中的 tool_use block
结果回传role=tool + tool_call_idrole=user + tool_result block
并行调用原生多 tool_calls原生多 tool_use
强制选择tool_choice: "required"tool_choice: {"type":"any"}
流式增量delta.tool_calls 拼接input_json_delta 增量
特色设计Structured Outputs(语法约束解码)Computer Use / MCP 原生整合

Anthropic 把工具结果作为 user 消息的一部分(tool_result),OpenAI 用独立的 tool role——做协议转换层或自建 Agent Loop 时,这是最常踩的差异点。


3. 五种编排模式

  1. 单次调用(Single-shot):允许调用一次工具后作答,最稳,适合查询增强问答
  2. ReAct 循环:LLM ⇄ 工具多轮循环直到最终答案,Agent 的默认形态
  3. 并行扇出:模型一次发出多个独立 tool_calls,应用层并发执行——把 5 次往返压成 1 轮
  4. 路由分发:先过轻量分类器/小模型决定工具子集,再进主模型——工具超过 10 个时防选择退化
  5. 规划-执行分离:Planner 产出工具调用 DAG,Executor 按拓扑执行、失败局部重试——复杂任务的降本方案

工具数量是核心约束:15 个工具以内模型选择可靠;超过后出现"工具过载退化"(调错率与幻觉工具名显著上升),需要分组或语义检索预筛。


4. 安全考量:把 LLM 当成不可信的调用方

Function Calling 的本质风险:自然语言驱动的调用参数,等价于用户可控输入直通后端系统。

  • 参数注入:用户输入诱导模型把删除/查询参数填成敏感路径 → schema 校验 + 业务白名单双闸
  • 混淆代理(Confused Deputy):Agent 用服务账号权限替用户执行,却没校验用户本人对该资源有无权限 → 每次调用做用户级鉴权
  • 工具描述/返回值注入:MCP 工具返回文本中嵌指令,执行侧与 LLM 侧都要消毒
  • 最小权限与沙箱:文件/网络/数据库账号按任务降权;危险动作(写、删、支付)走 dry-run + 人审
  • 幂等与审计:工具调用带唯一 ID 可重放;全量记录"模型决定的参数 vs 实际执行的参数",出现偏差即告警

5. 生产化清单

  • 超时/重试/熔断包住每个工具,错误以结构化文本回喂模型让它自己改道
  • Token 预算护栏:Agent 循环设最大轮次与费用上限,防死循环烧钱
  • 可观测:调用链 trace(工具名、参数摘要、耗时、token 数),LangSmith/LangFuse/OpenTelemetry 皆可
  • 评估:建工具调用金标集(该不该调、调没调对、参数对不对),每次发版回归
  • 兜底:模型连续 2 次参数校验失败 → 降级为模板表单让用户补全,比无限重试便宜

6. 总结

Function Calling 把 LLM 从"文本生成器"升级为"决策器",但权责必须清楚:模型只做意图到参数的翻译,执行、鉴权、兜底永远是应用层的领地。工程上最稳的姿态,是把模型当成一个聪明但不可信的内部服务调用方——输入校验、最小权限、幂等、审计一个都不能少。做好这层隔离,Agent 的失败模式才会从"删库跑路"降级为"回答得不够好"。

(注:文中协议细节与能力对比整理自 OpenAI/Anthropic 官方文档现行公开版本,代码为示意;API 字段随版本迭代变化,落地前以官方 schema 为准。)

本文面向授权安全研究与防御建设,未经授权对任何系统实施文中技术属违法行为。