PreHub

Fastest enterprise AI gateway (50x faster than LiteLLM) with adaptive load balancer, cluster mode, guardrails, 1000+ models support & <100 µs overhead at 5k RPS.

Goapache-2.0ai-gatewaygatewaygateway-servicesgenerative-ai

在 GitHub 查看

4.7K

stars

推荐理由
README 将它定位为「Fastest enterprise AI gateway (50x faster than LiteLLM) with adaptive load balancer, cluster mode, guardrails, 1000+ models support & <100 µs overhead at 5k RPS」，核心痛点是多模型调用时的成本、准确率和路由决策。它有一定社区验证，同时仍保留发现潜力，最近两周仍在维护，license 清晰，主要技术栈是 Go，适合作为「AI agent 评测与优化」的候选项目。

注意事项
README 摘要信息有限，发布前建议再人工扫一遍文档；展示前建议跑通 README quickstart，并确认部署成本、外部依赖和数据安全边界。

README 摘要

Fastest enterprise AI gateway (50x faster than LiteLLM) with adaptive load balancer, cluster mode, guardrails, 1000+ models support & <100 µs overhead at 5k RPS.

Stars

4,712

Forks

559

Last push

2026/5/8

相似项目

JackChen-me/open-multi-agent

From a goal to a task DAG, automatically. TypeScript-native multi-agent orchestration with MCP and live tracing. Three runtime dependencies.

GitHub

6.1K

stars

TypeScriptmitagent-frameworkai-agentsanthropicclaude

推荐理由：README 将它定位为「From a goal to a task DAG, automatically」，核心痛点是让 AI agent 通过可复用 skills 和工具流程处理具体任务。它有一定社区验证，同时仍保留发现潜力，最近两周仍在维护，license 清晰，主要技术栈是 TypeScript，适合作为「AI agent 工具链」的候选项目。

注意事项：README 摘要信息有限，发布前建议再人工扫一遍文档；展示前建议跑通 README quickstart，并确认部署成本、外部依赖和数据安全边界。

GoogleCloudPlatform/professional-services

Common solutions and tools developed by Google Cloud's Professional Services team. This repository and its contents are not an officially supported Google product.

GitHub

stars

Pythonapache-2.0bigqueryexamplesgkegoogle-cloud-compute

推荐理由：README 将它定位为「Common solutions and tools developed by Google Cloud's Professional Services team」，核心痛点是 AI agent 接入工具/API 时的统一入口、治理和可靠调用。它有一定社区验证，同时仍保留发现潜力，最近两周仍在维护，license 清晰，主要技术栈是 Python，适合作为「同类问题选型」的候选项目。

注意事项：README 摘要信息有限，发布前建议再人工扫一遍文档；展示前建议跑通 README quickstart，并确认部署成本、外部依赖和数据安全边界。