litellm

litellm ist ein leichtgewichtiges Open-Source-Tool, das API-Zugriffe auf KI-Modelle wie GPT, Claude oder Mistral zentral verwaltet. Es hilft, Kosten zu überwachen, Zugriffsrechte zu steuern und lokale Modell-Proxys für Entwicklerteams bereitzustellen.