Ollama如何调用Function Call？Ollama Function Call参数详解

Ollama 实现 Function Call 的核心在于通过 API 传递结构化参数，让本地大模型在生成文本的同时输出符合 JSON Schema 定义的函数调用指令，从而实现与外部工具或代码的逻辑交互。

本地部署大模型时，开发者最关心的往往不是模型有多聪明，而是它能不能“动手干活”，Function Call（函数调用）正是解决这一痛点的关键技术，它让模型从单纯的“聊天机器人”进化为“智能助手”，能够理解你的意图并调用外部 API、查询数据库或执行 Python 脚本，在 2026 年的技术语境下，Ollama 作为本地 AI 部署的首选工具，其 Function Call 的支持已经相当成熟。

加载中

5、springAi如何实现function call功能

风哥学技术

17239-

原视频地址

Ollama Function Call 基础原理

要理解 Ollama 如何使用 Function Call，首先要明白它背后的通信机制，Ollama 基于 OpenAI 兼容的 API 接口设计，这意味着你不需要学习全新的协议，只需使用标准的 HTTP 请求即可。

当你在代码中发起请求时,需要包含两个关键部分：

1. ：用户的具体问题或指令。
2. 工具定义：以 JSON 格式描述可用的函数，包括函数名、参数类型和描述。

模型接收到这些信息后，不会直接回答“我不知道”，而是会分析你的意图，如果意图匹配某个定义的函数，它会返回一个结构化的 JSON 对象，包含函数名和参数值，你的应用程序接收到这个响应后，执行相应的代码，并将执行结果再次发送给模型,由模型生成最终的自然语言回答。

这种“思考-调用-执行-回答”的闭环，是构建本地智能 Agent 的基础，业内专家指出，这种架构极大地降低了本地 AI 应用的开发门槛,使得非分布式系统也能具备强大的扩展能力。

如何配置 Function Call 参数

在 Ollama 中启用 Function Call，关键在于正确构造 tools 或 functions 字段，虽然 Ollama 官方文档推荐使用 tools 格式以兼容 OpenAI 标准，但部分旧版本模型可能仍支持 functions，建议优先使用 tools。

定义函数结构

在代码中，你需要预先定义好可供调用的函数，以下是一个典型的 Python 示例结构：

import requests
import json
# 定义工具列表
tools = [
    {
        "typ
e": "function",
        "function": {
            "name": "get_weather",
            "description": "获取指定城市的当前天气状况",
            "parameters": {
                "type": "object",
                "properties": {
                    "city": {
                        "type": "string",
                        "description": "城市名称，'北京'"
                    }
                },
                "required": ["city"]
            }
        }
    }
]
# 用户消息
messages = [
    {"role": "user", "content": "北京今天天气怎么样？"}
]
# 发起请求
url = "http://localhost:11434/api/chat"
payload = {
    "model": "llama3.2", # 推荐使用支持 Function Call 的模型
    "messages": messages,
    "tools": tools,
    "stream": False
}
response = requests.post(url, json=payload)
print(response.json())

模型选择的重要性

并非所有本地模型都完美支持 Function Call,模型的能力取决于其训练数据和参数量。

• 推荐模型：Llama 3.1/3.2、Qwen 2.5、Mistral Large 等，这些模型在指令遵循和 JSON 输出方面表现优异。
• 不推荐模型：过小的量化模型（如 7B 以下的某些旧版本）可能在复杂参数解析上出现幻觉。

据工信部相关数据显示，近年来本地大模型在垂直领域的落地应用中，模型选型对效果的影响占比超过 40%,选择经过微调或原生支持工具调用的模型至关重要。

处理模型返回的工具调用

当模型决定调用函数时，它不会直接返回自然语言，而是返回一个特定的 JSON 结构，你需要在代码中解析这个响应,提取函数名和参数。

解析响应数据

响应中的 message 对象会包含 tool_calls 字段,每个工具调用包含：

• id：唯一标识符。
• type：通常为 “function”。
• function：包含 name 和 arguments。

response_data = response.json()
message = response_data["mess
age"]
if "tool_calls" in message:
    for tool_call in message["tool_calls"]:
        func_name = tool_call["function"]["name"]
        func_args = json.loads(tool_call["function"]["arguments"])
        # 执行实际函数
        if func_name == "get_weather":
            result = execute_get_weather(func_args["city"])
            # 构造新的消息，包含工具调用结果
            messages.append(message) # 添加模型的工具调用消息
            messages.append({
                "role": "tool",
                "tool_call_id": tool_call["id"],
                "content": result
            })
            # 再次请求模型生成最终回答
            final_response = requests.post(url, json={
                "model": "llama3.2",
                "messages": messages,
                "stream": False
            })
            print(final_response.json()["message"]["content"])

错误处理与重试

在实际操作中，模型可能会返回格式错误的 JSON 或调用不存在的函数。 robust 的应用程序必须包含错误处理逻辑：

1. JSON 解析失败：arguments 不是合法的 JSON,应提示用户重新输入或尝试修正。
2. 函数执行异常：如果外部 API 返回错误，应将错误信息作为 content 发送回模型,让模型向用户解释原因。

多数情况下，通过增加提示词中的约束条件，如“请严格只输出 JSON 格式”,可以显著降低解析错误率。

常见场景与最佳实践

Function Call 的价值在于具体场景,以下是几个高频应用场景及优化建议。

数据库查询助手

场景：用户询问“上个月销售额最高的产品是什么？”
实现：定义一个 query_database 函数，参数包括 SQL 语句或查询条件。
注意：为了安全，不要直接执行用户生成的 SQL，应定义参数为 table_name、filter_conditions 等，由后端代码拼接 SQL。

智能家居控制

场景：用户说“把客厅灯调暗一点”。
实现：定义 control_device 函数，参数包括

device_id、action（如 dim）、value。
优化：在提示词中明确设备 ID 映射表,减少模型猜测设备名称的概率。

代码生成与执行

场景：用户要求“写一个计算斐波那契数列的 Python 函数”。
实现：定义 execute_python 函数，参数为 code。
安全：必须在沙箱环境中执行代码,防止恶意代码注入。

• 函数描述要清晰：函数的 description 和参数的 description 越详细,模型调用的准确率越高。
• 参数类型要严格：使用 JSON Schema 严格定义参数类型,避免模型返回字符串而非数字。
• 上下文管理：如果涉及多轮对话，务必保留之前的 tool_calls 和 tool 响应消息,否则模型会失去上下文。

Ollama Function Call 常见问题解答

Ollama Function Call 支持哪些模型？

Llama 3.1、Llama 3.2、Qwen 2.5 以及 Mistral 系列模型对 Function Call 的支持较好，早期的小参数模型或未经过指令微调的基座模型，可能在复杂参数解析上表现不稳定，建议优先使用 8B 及以上参数的模型，并关注 Ollama 官方发布的最新模型列表,以获取最佳兼容性。

如何调试 Function Call 失败的情况？

调试时，首先检查模型返回的 JSON 格式是否合法，可以使用在线 JSON 验证工具检查 arguments 字段，查看模型是否真的意图调用函数，有时模型会直接回答而非调用，可以通过增加提示词中的示例（Few-shot Prompting）来引导模型，确保 tools 定义中的参数名称与代码中实际使用的变量名一致,避免映射错误。

Ollama 本地部署 Function Call 的性能如何？

在普通消费级硬件上，Function Call 的推理延迟主要取决于模型大小和硬件性能，使用量化模型（如 Q4_K_M）可以在保持较高准确率的同时，显著降低显存占用和推理时间，对于实时性要求高的场景，建议选用较小的模型（如 7B-8B）并优化提示词长度，据行业共识认为，合理的模型选型和参数配置，可以使本地 Function Call 的响应时间控制在秒级以内,满足大多数交互需求。