LiteLLM und OpenRouter geben dir beide eine API vor viele Modell-Provider. Sie sitzen dabei aber an entgegengesetzten Enden der Frage, ob du baust oder kaufst.
LiteLLM ist ein quelloffenes Gateway, das du selbst hostest und besitzt. OpenRouter ist ein gemanagter Router, den du einfach aufrufst. Zählen für dich Datenkontrolle und eigene Kostensteuerung, nimm LiteLLM. Willst du den schnellsten Start ohne eigene Infrastruktur, nimm OpenRouter.
Schnelles Urteil
- Nimm LiteLLM, wenn du selbst hosten willst, Daten in deiner eigenen Infrastruktur halten und Kostenkontrolle pro Team selbst besitzen willst.
- Nimm OpenRouter, wenn du null Betriebsaufwand willst, sofortigen Zugang zu vielen Modellen und den kürzesten Weg zu einem laufenden Setup.
- Du kannst auch beides nutzen: LiteLLM als dein Gateway, OpenRouter als einer der Provider dahinter.
LiteLLM und OpenRouter auf einen Blick
| Dimension | LiteLLM | OpenRouter |
| Deployment | Selbst gehostet (du betreibst es) | Gemanagt (nichts zu deployen) |
| Quelloffen | Ja (MIT) | Gateway-Kern offen, Plattform gemanagt |
| Datenpfad | Nur der Modell-Aufruf verlässt deine Infra | Anfragen laufen über deren Plattform |
| Preismodell | Software kostenlos, du zahlst den Server | Pro Token (Provider-Preis plus Gebühr) |
| Setup-Aufwand | Docker und eine kleine Datenbank | Anmelden, API-Key holen |
| Kostenkontrolle | Budgets pro Key und pro Team, in eigener Hand | Usage-Dashboard, Prepaid-Guthaben |
| Am besten für | Datenkontrolle, Governance im Haus | Prototyping, Zugang ohne Betrieb |
Deployment: selbst gehostet gegen gemanagt
Das ist der Kernunterschied, aus dem alles andere folgt. Bei LiteLLM betreibst du den Proxy selbst, typischerweise als Docker-Deployment auf deinem eigenen Server, gestützt auf eine PostgreSQL-Datenbank. Bei OpenRouter gibt es gar nichts zu deployen: du erstellst einen Account, holst dir einen API-Key und fängst an, Aufrufe zu machen. Das eine ist Infrastruktur, die du betreibst. Das andere ist ein Dienst, den du konsumierst.
Datenschutz und Kontrolle
Weil LiteLLM in deiner eigenen Umgebung läuft, verlässt nur der eigentliche Aufruf beim Modell-Provider dein Netzwerk. Deine Routing-Logik, deine virtuellen Keys und deine Logs bleiben privat. Bei OpenRouter laufen deine Anfragen auf dem Weg zum Provider über deren Plattform. Für Teams mit Anforderungen an Datenhaltung oder Compliance entscheidet dieser Unterschied die Frage oft schon allein, denn Self-Hosting hält den Datenpfad unter deiner Kontrolle.
Preise und Kostenkontrolle
OpenRouter rechnet pro Token ab, also der Satz des Providers plus eine kleine Plattform-Gebühr, und zwar ohne Infrastrukturkosten. Der Start ist damit günstig und bei kleinem Volumen gut planbar, die Gebühr fällt mit steigendem Volumen einfach stärker ins Gewicht. Die Software von LiteLLM ist kostenlos, aber du zahlst den Server und den Aufwand für den Betrieb. Im Gegenzug bekommst du Budgets pro Key und pro Team, die du selbst besitzt und selbst durchsetzt. Behandle konkrete Gebührenzahlen als Momentaufnahme und prüfe die aktuellen Preise, denn die ändern sich.
Setup und Pflege
Bei der Geschwindigkeit gewinnt OpenRouter: du läufst in Minuten, mit null Pflege. LiteLLM verlangt mehr von dir, ein Docker-Deployment plus eine kleine PostgreSQL-Datenbank, die du betreiben und gesund halten musst. Im Gegenzug bekommst du ein Gateway, das du vollständig kontrollierst. Willst du heute Nachmittag Aufrufe machen, ist OpenRouter schneller. Willst du Eigentum, ist das Setup von LiteLLM ein vertretbarer Einmalaufwand. Die verlinkte Docker-Anleitung führt dich durch.
Lässt sich beides kombinieren?
Ja, und es ist ein verbreitetes Muster. Du kannst LiteLLM als Gateway im eigenen Haus betreiben, als den einen Endpoint, mit dem deine Anwendungen sprechen, und OpenRouter als einen der Provider dahinter konfigurieren. Deine Apps bekommen damit eine stabile, selbst kontrollierte Schnittstelle mit Budgets pro Team, während OpenRouter im Hintergrund die Breite beim Modellzugang liefert. Das ist ein pragmatischer Weg, Kontrolle beim Self-Hosting und Reichweite eines gemanagten Routers gleichzeitig zu bekommen.
Wofür solltest du dich entscheiden?
- Datenkontrolle, eigene Kostensteuerung oder Self-Hosting aus Prinzip: LiteLLM.
- Schnellster Start, kein Betrieb und einfacher Zugang zu vielen Modellen fürs Prototyping: OpenRouter.
- Kontrolle und Reichweite zusammen: LiteLLM davor, OpenRouter als Backend-Provider.
So hostest du LiteLLM auf einem VPS
LiteLLM läuft gut auf einem bescheidenen virtuellen Server, denn der Proxy ist CPU-gebunden und braucht daneben nur eine kleine PostgreSQL-Datenbank. Ein VPS gibt dir Root-Zugang zur Installation von Docker, volle Kontrolle über deine Daten und die Option auf Datenhaltung in der EU. Bei Contabo bietet die Core VPS Reihe ein starkes Verhältnis von RAM zu Euro für ein dauerhaft laufendes Gateway dieser Art. Für die Schritt-für-Schritt-Variante schau dir die verlinkte Docker-Anleitung an.
FAQ: LiteLLM und OpenRouter
LiteLLM ist ein quelloffenes Gateway, das du selbst hostest und selbst betreibst. OpenRouter ist ein gemanagter Router, den du als Dienst ohne eigene Infrastruktur nutzt. LiteLLM hält Daten in deiner Infrastruktur und gibt dir eigene Kostenkontrolle, OpenRouter tauscht das gegen Bequemlichkeit ohne Betrieb und sofortigen Modellzugang.
Das hängt vom Volumen ab. OpenRouter hat keine Infrastrukturkosten, legt aber eine Plattform-Gebühr pro Token obendrauf, der Start ist also günstig und die Gebühr fällt mit wachsendem Volumen stärker ins Gewicht. Bei LiteLLM ist die Software kostenlos, aber du zahlst Server und Betrieb. Bei höherem, stetigem Volumen kann Self-Hosting die wirtschaftlichere Option werden.
Ja. Ein verbreitetes Setup betreibt LiteLLM als Gateway im eigenen Haus und konfiguriert OpenRouter als einen der Provider dahinter. Deine Anwendungen rufen den einen Endpoint von LiteLLM auf und profitieren von dessen Budgets und virtuellen Keys, während OpenRouter im Hintergrund breiten Modellzugang liefert.
LiteLLM, weil es in deiner eigenen Infrastruktur läuft. Nur der Aufruf beim Modell-Provider verlässt dein Netzwerk, und dein Routing sowie deine Keys bleiben privat. OpenRouter leitet Anfragen über die eigene Plattform. Bei strengen Anforderungen an Datenhaltung oder Compliance gibt dir LiteLLM im Self-Hosting mehr Kontrolle über den Datenpfad.
