1. 大模型调用外部工具到底是怎么回事Function Calling 入门场景拆解你可能已经习惯了跟大模型聊天问它天气它凭训练数据里的旧信息瞎猜让它算个数它一本正经地给你一个错答案。原因很简单——大模型本身只是一个“文字接龙高手”它没有联网能力也不能真的打开你的电脑去执行什么操作。它唯一会做的事就是根据你给的上下文预测下一个最可能出现的词。那为什么现在很多 AI 应用能查实时天气、能读数据库、能帮你发邮件答案就是Function Calling函数调用也叫工具调用。说白了就是让大模型学会“喊人帮忙”它自己干不了的事就输出一段结构化的指令告诉外面的程序“你去帮我调用这个函数参数是这些”程序执行完把结果塞回来大模型再根据结果组织成人话回复你。打个比方。女朋友问你“明天会下雨吗”你大脑里并没有实时天气数据但你知道可以掏手机查一下。你打开天气 App看到“晴20℃”然后告诉她“不下雨明天晴天”。这个过程中你做了两件事第一判断该用哪个工具天气 App第二把工具返回的结果转述给提问的人。大模型调用工具是一模一样的逻辑只不过它“掏手机”的动作是输出一段 JSON。这段 JSON 长什么样大概是这样{ tool_calls: [ { id: call_abc123, type: function, function: { name: get_weather, arguments: {\city\: \北京\, \date\: \2025-06-01\} } } ] }看到没它不是输出“我要调用查询天气工具给我调用”这种自然语言而是一段严格结构化的 JSON。为什么必须结构化因为程序要解析它。自然语言有歧义JSON 没有。程序员永远喜欢确定的东西。那大模型怎么知道有哪些工具可以用靠你在 API 请求里传一个tools参数把工具列表通常是 JSON Schema 格式告诉它。同时你还可以在系统提示词里写清楚“什么时候用哪个工具、能不能并行调用”。模型既要知道“有什么”也要知道“何时用”。工具本身运行在哪里不在模型里而是在你的服务器或本地环境。模型只负责“决定调用”真正执行函数的是你的代码。执行完把结果返回给模型模型再生成最终回复。这就是一个完整的闭环。理解了这个流程你就能明白为什么需要 TaoToken 这样的统一 Key 通道不管你用哪家模型、调哪种工具认证和请求格式如果能统一开发和调试成本会低很多。接下来我就带你从零跑通一次工具调用。2. TaoToken 统一 Key 通道前置准备申请 Key 与理解 Base URL在真正写代码之前先把“通道”搭好。所谓通道就是你的请求从本地出发经过一个统一的入口再转发到具体的大模型服务。TaoToken 做的就是这件事给你一个统一的 API Key 和一个统一的 Base URL你不需要为每个模型厂商单独申请 Key、单独记不同的域名。先打开官网 https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content 注册账号。注册流程很常规邮箱加密码收个验证码就完事。登录之后进入控制台找到 API Keys 页面点“创建新 Key”。创建时建议给 Key 起个能认出来的名字比如“function-calling-test”方便以后管理。创建完立刻复制保存因为页面刷新后完整 Key 就不再显示了。拿到 Key 之后你需要记住两个核心地址项目值说明Base URLhttps://taotoken.net/api所有请求的统一入口API Keysk-xxxxxxxx你刚创建的那串字符Model IDgpt-4o/claude-3-5-sonnet等按需选择控制台有列表这里有个容易踩的坑Base URL 末尾不要多加/v1或者斜杠。TaoToken 的 API 地址就是https://taotoken.net/apiSDK 会自动拼接后续路径。如果你手动拼成https://taotoken.net/api/v1/chat/completions反而可能 404。我试过在环境变量里多写了一个斜杠排查了十分钟才发现。另外如果你用的是 OpenAI 官方 SDK它默认会往 Base URL 后面拼/chat/completions。所以设置base_urlhttps://taotoken.net/api就够了。如果你用的是其他语言的 HTTP 客户端直接 POST 到https://taotoken.net/api/chat/completions即可。关于 Key 的安全不要把 Key 硬编码在代码里提交到 Git。推荐用环境变量export TAOTOKEN_API_KEYsk-你的key export TAOTOKEN_BASE_URLhttps://taotoken.net/apiWindows 用户可以用set或者直接在 IDE 的运行配置里填环境变量。这样代码里只读os.environ换 Key 不用改代码。还有一点TaoToken 控制台里可以查看每个 Key 的用量和余额。建议先充一点点做测试跑通之后再按需增加。工具调用因为涉及多轮请求模型输出 tool_calls 算一次工具结果回传再算一次token 消耗会比普通对话多一些心里有个数就行。前置准备就这些不复杂。接下来进入正题写一个能真正跑起来的工具调用示例。3. 可复制配置用 Python 写一个天气查询工具调用这一节直接给可复制的代码。我用 Python 加 OpenAI SDK 来演示因为这是最常见也最容易上手的组合。如果你用 Node.js 或 Java逻辑完全一样只是语法不同。先安装依赖pip install openai然后创建一个文件tool_call_demo.py完整代码如下import json import os from openai import OpenAI client OpenAI( api_keyos.environ.get(TAOTOKEN_API_KEY), base_urlhttps://taotoken.net/api ) # 第一步定义工具列表告诉模型有哪些工具可用 tools [ { type: function, function: { name: get_weather, description: 查询指定城市指定日期的天气, parameters: { type: object, properties: { city: { type: string, description: 城市名称例如北京 }, date: { type: string, description: 日期格式 YYYY-MM-DD } }, required: [city, date] } } } ] # 第二步模拟工具的真实执行逻辑 def get_weather(city: str, date: str) - dict: # 真实场景这里会调用天气 API这里用假数据演示 fake_data { 北京: {2025-06-01: {weather: 晴, temp: 20℃}}, 上海: {2025-06-01: {weather: 多云, temp: 24℃}} } return fake_data.get(city, {}).get(date, {weather: 未知, temp: 未知}) # 第三步发起第一次请求让模型决定是否调用工具 messages [ {role: user, content: 帮我查一下北京 2025-06-01 的天气} ] response client.chat.completions.create( modelgpt-4o, messagesmessages, toolstools, tool_choiceauto ) msg response.choices[0].message print(模型第一次返回, msg) # 第四步如果模型要求调用工具就执行并把结果回传 if msg.tool_calls: messages.append(msg) for tool_call in msg.tool_calls: func_name tool_call.function.name args json.loads(tool_call.function.arguments) print(f模型要求调用 {func_name}参数{args}) if func_name get_weather: result get_weather(args[city], args[date]) messages.append({ role: tool, tool_call_id: tool_call.id, content: json.dumps(result, ensure_asciiFalse) }) # 第五步把工具结果回传后再请求一次让模型生成最终回复 final_response client.chat.completions.create( modelgpt-4o, messagesmessages, toolstools ) print(最终回复, final_response.choices[0].message.content) else: print(模型没有调用工具直接回复, msg.content)这段代码的关键点有几个。第一tools参数是一个列表里面每个元素描述一个工具包括名字、描述和参数 schema。描述写得越清楚模型判断越准。第二tool_choiceauto表示让模型自己决定要不要调用工具。你也可以强制它调用某个工具比如tool_choice{type: function, function: {name: get_weather}}。第三模型返回的tool_calls是一个数组意味着它可能一次要求调用多个工具并行调用。第四工具执行结果要以role: tool的消息追加到对话历史里并且带上tool_call_id这样模型才知道哪个结果对应哪个调用。如果你用的是 Claude 系列模型TaoToken 同样支持只是工具定义的字段名略有不同Claude 用input_schema而不是parameters。但通过 TaoToken 的统一接口你可以用同一套 OpenAI 格式去请求底层会自动适配。这就是统一通道的好处。配置文件方面如果你用 Cline 或者 Continue 这类插件通常需要在设置里填三个东西Base URL 填https://taotoken.net/apiAPI Key 填你的 KeyModel ID 填gpt-4o或claude-3-5-sonnet。有些工具用 JSON 配置文件格式大概是这样{ provider: openai, baseUrl: https://taotoken.net/api, apiKey: sk-你的key, model: gpt-4o }把这段保存到对应插件的配置目录重启插件就能用。注意 Base URL 不要带尾部斜杠Model ID 要和控制台里列出的完全一致大小写敏感。4. 验证请求与成功结果一次完整的工具调用长什么样代码写好了现在跑起来看看。在终端里执行export TAOTOKEN_API_KEYsk-你的key python tool_call_demo.py如果一切正常你会看到类似下面的输出模型第一次返回 ChatCompletionMessage( contentNone, tool_calls[ ChatCompletionMessageToolCall( idcall_abc123, functionFunction( nameget_weather, arguments{city: 北京, date: 2025-06-01} ), typefunction ) ] ) 模型要求调用 get_weather参数{city: 北京, date: 2025-06-01} 最终回复 北京 2025-06-01 的天气是晴气温 20℃。看到最后那行“最终回复”就说明整个闭环跑通了。模型第一次返回时content是None因为它决定调用工具而不是直接回答。工具执行完把结果回传后模型第二次返回才生成自然语言回复。这里有个细节值得注意模型输出的arguments是一个 JSON 字符串不是 Python 字典。所以你需要用json.loads()解析它。如果你直接当字典用会报TypeError: string indices must be integers。这个错误我见过很多人踩。另外如果你把tool_choice设成required模型会强制调用工具哪怕它觉得不需要。这在某些场景下有用比如你明确知道用户的问题必须查数据库才能回答。但大多数时候用auto就好。成功跑通之后你可以试着改一下用户问题比如问“上海明天天气怎么样”看看模型能不能正确提取城市和日期参数。如果参数提取错了通常是工具描述写得不够清楚。比如你把date的描述写成“日期”模型可能不知道要什么格式。改成“日期格式 YYYY-MM-DD”就明确多了。还有一个验证技巧在工具函数里加一行print确认它真的被调用了。有时候模型会“假装”调用工具实际上并没有输出tool_calls而是直接编了一个答案。这种情况通常是因为模型不支持 Function Calling或者tools参数没传对。用 TaoToken 的话控制台里能看到请求日志确认请求里确实带了tools字段。如果你用 curl 来验证可以这样发请求curl https://taotoken.net/api/chat/completions \ -H Authorization: Bearer $TAOTOKEN_API_KEY \ -H Content-Type: application/json \ -d { model: gpt-4o, messages: [{role: user, content: 北京天气}], tools: [{ type: function, function: { name: get_weather, description: 查询天气, parameters: { type: object, properties: {city: {type: string}}, required: [city] } } }] }返回的 JSON 里如果能看到tool_calls字段就说明通道和模型都正常。5. 本篇常见错误排查401、local proxy failed、reading choices 怎么解跑不通的时候报错信息往往让人一头雾水。这一节把最常见的几个错误和对应解法列出来你对照着排查。错误一401 Unauthorizedopenai.AuthenticationError: Error code: 401 - {error: {message: Invalid API key}}原因通常是 Key 没设置对。检查三件事第一环境变量TAOTOKEN_API_KEY是否真的导出成功可以在 Python 里print(os.environ.get(TAOTOKEN_API_KEY))确认第二Key 是否复制完整有没有多余空格第三Key 是否被禁用或余额不足。如果用的是配置文件检查apiKey字段有没有写错。还有一种情况你用了base_url但没生效请求打到了 OpenAI 官方地址而你的 Key 是 TaoToken 的自然 401。确认base_urlhttps://taotoken.net/api写对了。错误二local proxy failed / Connection erroropenai.APIConnectionError: Connection error.这个报错通常和网络环境有关。如果你本地设置了 HTTP 代理SDK 可能会走代理导致连接失败。检查环境变量HTTP_PROXY和HTTPS_PROXY临时取消掉再试unset HTTP_PROXY unset HTTPS_PROXY另外确认你的网络能正常访问https://taotoken.net/api。可以在浏览器里打开这个地址如果能看到返回信息哪怕是 404说明网络通。如果浏览器都打不开那就是本地网络问题换个网络环境试试。错误三reading choices 报错KeyError: choices 或 IndexError: list index out of range这种错误通常发生在你直接访问response.choices[0]但返回结构不对的时候。先打印完整的response看看。可能的原因请求被拒绝返回的是错误信息而不是正常的 completion 对象或者模型名称写错了比如把gpt-4o写成gpt4o服务端返回错误。还有一种情况是流式输出时choices为空需要检查streamTrue时的处理逻辑。建议先用非流式请求跑通再加流式。错误四模型不调用工具直接编答案模型返回了content而不是tool_calls。检查tools参数是否传了tool_choice是否设成了auto或required。另外确认你用的模型支持 Function Calling。不是所有模型都支持比如早期的 DeepSeek-R1 就不支持。在 TaoToken 控制台里选一个明确支持工具调用的模型比如gpt-4o、claude-3-5-sonnet、qwen-plus等。错误五OAuth 相关报错如果你用的是 Claude Code 或者某些 IDE 插件可能会遇到 OAuth 认证失败。这类工具通常有自己的登录流程但如果你选择用 API Key 模式需要在设置里切换到“使用 API Key”而不是“OAuth 登录”。以 Claude Code 为例配置文件通常在~/.claude/settings.json你需要写入{ apiKey: sk-你的key, baseUrl: https://taotoken.net/api, model: claude-3-5-sonnet }三件套缺一不可Base URL、Key、Model ID。少一个都会报错。改完配置记得重启工具。错误六工具结果回传后模型不回复你追加了role: tool的消息但第二次请求返回空。检查tool_call_id是否和模型返回的id一致。如果不一致模型不知道这个结果对应哪个调用就会卡住。另外确认content是字符串不是字典。用json.dumps()转一下。排查思路总结成一句话先确认 Key 和 Base URL 对再确认模型支持工具调用最后检查消息格式。大部分问题都出在前两步。6. 从 Function Calling 到 MCP统一 Key 通道的长期价值跑通一次工具调用之后你可能会想如果我要接入十个工具难道要写十个函数、维护十套参数 schema如果我想在 Cline 或者 Cherry Studio 里用这些工具难道还要学开发这就是 MCPModel Context Protocol要解决的问题。MCP 把工具的提供方和使用方解耦工具开发者发布一个 MCP Server任何支持 MCP 的客户端比如 Claude Code、Cline、Continue都可以接入不需要每个应用单独适配。模型通过 MCP 协议发现工具、调用工具格式统一迁移方便。而 TaoToken 在这个链路里的角色是“统一 Key 通道”。不管你用 Function Calling 直接调还是通过 MCP 间接调底层都需要一个 API 入口来访问模型。TaoToken 提供统一的 Base URL 和 Key让你不用为每个模型厂商单独配置。今天用 GPT-4o 跑工具调用明天换成 Claude 3.5 Sonnet只需要改一个 Model ID其他配置不动。如果你打算长期做 AI 编码或者 Agent 开发可以了解一下 Coding Plan它针对高频调用场景做了优化。如果只是想先验证模型能力模型对话页面可以直接测试。接入文档里有各语言 SDK 的详细配置示例。回到工具调用本身我的建议是先把一个工具跑通理解tools参数、tool_calls返回、结果回传这三个环节。然后试着加第二个工具观察模型如何在多个工具之间选择。最后再去看 MCP 的封装你会发现底层逻辑完全一样只是多了一层协议标准。实际开发中工具描述的质量直接决定调用准确率。把description写得像给新人看的文档参数说明写清楚格式和示例模型的表现会好很多。另外工具函数里一定要做参数校验和异常处理因为模型可能传错参数你的代码不能崩。最后提醒一点工具调用的 token 消耗是普通对话的两倍左右因为一次交互涉及两次模型请求。在 TaoToken 控制台里可以查看每次请求的 token 用量心里有个预算。跑通之后你就可以把天气查询换成数据库查询、换成发邮件、换成任何你需要的操作。大模型负责“决定”你的代码负责“执行”这个分工就是 Function Calling 的精髓。