标签 LLM中间件 下的文章

背景

・Gemini: 相同 role 的消息不能连续出现
・Claude: 一个 tool call 必须跟随一个 tool result,tool call ID 必须对齐
・Gemini3: tool call 必须附带思维签名
……


在不知道第多少次被 Rikkahub 和 RooCode 的 Tool Call 报错折磨到之后 我选择开发了…

AnyToolCall

AnyToolCall 是一个基于提示词注入的 openai 兼容 LLM 中间件,是 LLM 以高兼容性进行工具调用,也可以让不支持工具调用的模型强兼工具调用

Info

Key Features:
・解析请求中的 tool call/tool result / 工具定义 并转化为提示词注入模式的工具调用
・流式输出支持 tool call
・强健的 tool 调用格式约束(基于随机罕见 Unicode 字符 详见 GitHub 说明) 降低解析失败的可能

部署 & 使用详见
仓库地址:GitHub - AliyahZombie/AnyToolCall: A llm api midware offering prompt-based function call ability.

QAQ 给孩子点个 star 呗

Danger

本项目是对 LLM api 的透明代理,这意味着部署者能看到 您的 APIkey,聊天上下文… 推荐自行部署以保证数据安全


📌 转载信息
原作者:
curaalizm
转载时间:
2026/1/3 14:59:23

背景

• Gemini: 相同role的消息不能连续出现
• Claude: 一个tool call必须跟随一个tool result,tool call ID必须对齐
• Gemini3: tool call必须附带思维签名
……


在不知道第多少次被Rikkahub和RooCode的Tool Call报错折磨到之后 我选择开发了…

AnyToolCall

AnyToolCall是一个基于提示词注入的 openai兼容 LLM中间件,是LLM以高兼容性进行工具调用,也可以让不支持工具调用的模型强兼工具调用

Info

Key Features:
• 解析请求中的tool call/tool result/工具定义 并转化为提示词注入模式的工具调用
• 流式输出支持tool call
• 强健的tool调用格式约束(基于随机罕见Unicode字符 详见GitHub说明) 降低解析失败的可能

部署&使用详见
仓库地址:GitHub - AliyahZombie/AnyToolCall: A llm api midware offering prompt-based function call ability.

QAQ给孩子点个star呗

Danger

本项目是对LLM api的透明代理,这意味着部署者能看到 您的APIkey,聊天上下文… 推荐自行部署以保证数据安全


📌 转载信息
原作者:
curaalizm
转载时间:
2026/1/3 14:40:17