「开源自荐」[AnyToolCall] 去 tmd 原生工具调用 | 基于提示词注入的工具调用中间件
背景
・Gemini: 相同 role 的消息不能连续出现
・Claude: 一个 tool call 必须跟随一个 tool result,tool call ID 必须对齐
・Gemini3: tool call 必须附带思维签名
……
在不知道第多少次被 Rikkahub 和 RooCode 的 Tool Call 报错折磨到之后 我选择开发了…
AnyToolCall
AnyToolCall 是一个基于提示词注入的 openai 兼容 LLM 中间件,是 LLM 以高兼容性进行工具调用,也可以让不支持工具调用的模型强兼工具调用
InfoKey Features:
・解析请求中的 tool call/tool result / 工具定义 并转化为提示词注入模式的工具调用
・流式输出支持 tool call
・强健的 tool 调用格式约束(基于随机罕见 Unicode 字符 详见 GitHub 说明) 降低解析失败的可能
部署 & 使用详见
仓库地址:GitHub - AliyahZombie/AnyToolCall: A llm api midware offering prompt-based function call ability.
QAQ 给孩子点个 star 呗
Danger本项目是对 LLM api 的透明代理,这意味着部署者能看到 您的 APIkey,聊天上下文… 推荐自行部署以保证数据安全