搭建你的 OpenAI 接口服务,支持多种渠道包括 Azure,支持渠道管理、令牌管理、用户管理,开箱即用 & 功能丰富
概述
简单来说,本项目适合两类人群:
- 自己想搭建 OpenAI 三方代理对外提供付费服务的。
- 自己有多个渠道的多个 key ,想通过一个接口以负载均衡的方式进行使用的,或者说想分享给身边人但是又不想直接给原始密钥的。
功能
- 支持多种 API 访问渠道,欢迎 PR 或提 issue 添加更多渠道:
- OpenAI 官方通道(支持配置代理)
- Azure OpenAI API
- API2D
- OhMyGPT
- AI Proxy
- AI.LS
- OpenAI Max
- OpenAI-SB
- CloseAI
- 自定义渠道:例如各种未收录的第三方代理服务
- 支持通过负载均衡的方式访问多个渠道。
- 支持 stream 模式,可以通过流式传输实现打字机效果。
- 支持多机部署,详见此处。
- 支持令牌管理,设置令牌的过期时间和使用次数。
- 支持兑换码管理,支持批量生成和导出兑换码,可使用兑换码为账户进行充值。
- 支持通道管理,批量创建通道。
- 支持用户分组以及渠道分组,支持为不同分组设置不同的倍率。
- 支持渠道设置模型列表。
- 支持查看额度明细。
- 支持发布公告,设置充值链接,设置新用户初始额度。
支持丰富的自定义设置,
支持自定义系统名称,logo 以及页脚。
支持自定义首页和关于页面,可以选择使用 HTML & Markdown 代码进行自定义,或者使用一个单独的网页通过 iframe 嵌入。- 支持通过系统访问令牌访问管理 API 。
支持用户管理,支持多种用户登录注册方式:
- 邮箱登录注册以及通过邮箱进行密码重置。
- GitHub 开放授权。
- 微信公众号授权(需要额外部署 WeChat Server)。
- 未来其他大模型开放 API 后,将第一时间支持,并将其封装成同样的 API 访问方式,目前正在做 Google PaLM 的支持。
部署
已打包好 Docker 镜像,一行命令即可部署:执行:
docker run -d --restart always -p 3000:3000 -v /home/ubuntu/data/one-api:/data justsong/one-api
详情请参考项目 README: https://github.com/songquanpeng/one-api
这里不再赘述。
演示
在线演示: https://openai.justsong.cn
送五个充值码让大家简单体验一下:
48f530140cda44fd8e6638296b5b6cbb
0a8fa891290c4e5ba119c469723ea668
52af0695057949aa984ed4d0fed39f32
71950963b2bf4c80bb0f679e8164999e
d13db8d277d24e7a8fd0bfed595d7a29
截图展示:
搭建你的 OpenAI 接口服务,支持多种渠道包括 Azure,支持渠道管理、令牌管理、用户管理,开箱即用 & 功能丰富
搭建你的 OpenAI 接口服务,支持多种渠道包括 Azure,支持渠道管理、令牌管理、用户管理,开箱即用 & 功能丰富1
搭建你的 OpenAI 接口服务,支持多种渠道包括 Azure,支持渠道管理、令牌管理、用户管理,开箱即用 & 功能丰富2
其他
项目地址: https://github.com/songquanpeng/one-api
期待大家的试用反馈!