「开源自荐」[AnyToolCall] 去tmd原生工具调用 | 基于提示词注入的工具调用中间件

背景

• Gemini: 相同role的消息不能连续出现
• Claude: 一个tool call必须跟随一个tool result，tool call ID必须对齐
• Gemini3: tool call必须附带思维签名
……

在不知道第多少次被Rikkahub和RooCode的Tool Call报错折磨到之后 我选择开发了…

AnyToolCall是一个基于提示词注入的 openai兼容 LLM中间件，是LLM以高兼容性进行工具调用，也可以让不支持工具调用的模型强兼工具调用

Info

Key Features:
• 解析请求中的tool call/tool result/工具定义 并转化为提示词注入模式的工具调用
• 流式输出支持tool call
• 强健的tool调用格式约束（基于随机罕见Unicode字符 详见GitHub说明） 降低解析失败的可能

部署&使用详见
仓库地址：GitHub - AliyahZombie/AnyToolCall: A llm api midware offering prompt-based function call ability.

Danger

本项目是对LLM api的透明代理，这意味着部署者能看到 您的APIkey，聊天上下文… 推荐自行部署以保证数据安全