GitHub95github.com
BerriAI/litellm
by BerriAI首次上榜 2026-10-09
摘要
LiteLLM 是开源的 AI Gateway，采用 Rust 核心加 Python SDK，可用 OpenAI 格式统一调用 100 多个 LLM API，并提供成本追踪、guardrails、负载均衡和日志能力。它支持自托管、面向企业场景，覆盖 Bedrock、Azure、OpenAI、Anthropic 等后端，仓库里还附带了 Render、Railway、AWS、GCP 的部署模板。
相关推荐
[推广] 做了一个统一接入 AI 模型的 API Gateway，邀请开发者试用
alibaba/open-code-review
Secure, fast, efficient, battle-tested at Alibaba's scale. Hybrid architecture code review tool: deterministic pipelines + LLM Agent, precise line-level comments, built-in multi-language ruleset (NPE, thread-safety, XSS, SQL injection), OpenAI & Anthropic compatible.
open-webui/open-webui
User-friendly AI Interface (Supports Ollama, OpenAI API, ...)