将 SWE 81.4% 的 loopcoder-40b 跑起来了
但只有 9 token/s 好卡
直接 vLLM 和 SGlang 都不支持,使用了 [Model] Support IQuestCoder model by yxing-bj · Pull Request #31575 · vllm-project/vllm · GitHub 这个 PR,准备试试 Codeforces 和 SWE-bench
xiaohack博客专注前沿科技动态与实用技术干货分享,涵盖 AI 代理、大模型应用、编程工具、文档解析、SEO 实战、自动化部署等内容,提供开源项目教程、科技资讯日报、工具使用指南,助力开发者、AI 爱好者获取前沿技术与实战经验。
但只有 9 token/s 好卡
直接 vLLM 和 SGlang 都不支持,使用了 [Model] Support IQuestCoder model by yxing-bj · Pull Request #31575 · vllm-project/vllm · GitHub 这个 PR,准备试试 Codeforces 和 SWE-bench