Open-source LLM router & AI cost optimizer. Routes simple prompts to cheap/local models, complex ones to premium — automatically. Drop-in OpenAI-compatible proxy for Claude Code, Codex, Cursor, OpenClaw. Saves 40-70% on AI API costs. Self-hosted, no middleman.
推荐理由
README 将它定位为「Open-source LLM router & AI cost optimizer」,核心痛点是把 prompt 技巧、模板和工作流沉淀成可复用资产。它已经有基础社区关注但还没过度出圈,license 清晰,主要技术栈是 Python,适合作为「LLM 成本优化和模型路由」的候选项目。
注意事项
社区规模还在成长,建议先用小场景试跑;README 摘要信息有限,发布前建议再人工扫一遍文档;展示前建议跑通 README quickstart,并确认部署成本、外部依赖和数据安全边界。