Bei der Wahl eines GPU-Hostings für KI kommt es auf den VRAM pro Karte, das Preismodell und die Datensouveränität an. Vast.ai und RunPod bieten die niedrigsten Stundensätze für unregelmäßige Trainingsläufe. Lambda und Hetzner eignen sich für europäische Teams mit vorhersehbar moderater Arbeitsbelastung. AWS ist die richtige Wahl, wenn du innerhalb seines Ökosystems flexibel skalieren musst. Für dauerhafte KI-Inferenz oder Bildgenerierung, die den Großteil des Tages läuft, sind GPU-Server mit einem Fixpreis günstiger als On-Demand-Alternativen und sorgen dafür, dass deine Daten in deiner eigenen Infrastruktur bleiben.
Die Wahl des richtigen GPU-Cloud-Hosting-Anbieters bedeutet, zwischen zwei grundlegend unterschiedlichen Kostenmodellen zu entscheiden. Flatrate-Anbieter verlangen für eine dedizierte GPU-Karte eine feste monatliche Gebühr. On-Demand-Plattformen und Hyperscaler rechnen nach Stunde oder Sekunde ab, mit Spot-Optionen, die laufende Jobs unterbrechen können, wenn die Nachfrage steigt. Für gelegentliche Trainingsläufe ist die stündliche Abrechnung wirtschaftlicher. Für einen kontinuierlichen Inferenz-Endpunkt oder eine tägliche Rendering-Pipeline summieren sich Stundensätze schnell, und Festpreise sind günstiger, sobald die Auslastung etwa 20 Stunden pro Tag übersteigt.
Was man bei GPU-Hosting beachten sollte
Nicht jeder GPU-Hosting-Anbieter passt zu jeder GPU für KI-Workloads. Fünf Kriterien entscheiden über das Ergebnis, bevor du auch nur eine einzige Preisseite öffnest:
- VRAM pro Karte. Dies ist die harte Einschränkung. Ein 70B quantisierter LLM benötigt mindestens 48 GB VRAM auf einer einzigen Karte. SDXL läuft gut mit 16–24 GB, und Flux.1 benötigt 12–16 GB bei FP8 oder 24+ GB bei BF16. Anbieter, die VRAM über mehrere Karten hinweg über ein Netzwerk bündeln, führen zu Latenz, die den Durchsatz bei der Inferenz eines einzelnen Modells verschlechtert.
- Preismodell. Die stündliche Abrechnung eignet sich für Aufträge, die mehrmals pro Woche ausgeführt werden. Für persistente Endpunkte oder Pipelines, die 20 oder mehr Stunden pro Tag laufen, ist ein monatlicher Pauschalpreis wirtschaftlicher und einfacher zu budgetieren.
- Datensouveränität. DSGVO-regulierte Workloads sowie solche mit medizinischen oder finanziellen Daten erfordern einen Anbieter mit EU-Rechenzentren und dokumentierten Datenverarbeitungsvereinbarungen. US-basierte Marktplätze und Hyperscalers komplizieren dies und erfordern oft eine rechtliche Überprüfung vor der Nutzung.
- Anbieterbindung. Proprietäre SDKs und nicht standardisierte APIs erhöhen die Wechselkosten. Dasselbe gilt für Mindestabnahmeverpflichtungen. Ein einfacher Linux-Server mit einer NVIDIA-GPU und ohne Abhängigkeiten von verwalteten Diensten lässt sich am einfachsten migrieren, wenn sich die Anforderungen ändern.
- Bereitstellungsgeschwindigkeit. Für experimentelle Arbeiten zählt die Zeit bis zum Serverstart. Für einen dauerhaften Produktionsendpunkt ist die Bereitstellungszeit ein einmaliger Kostenfaktor, der nach dem ersten Tag irrelevant wird.
Die besten GPU-Hosting-Anbieter im Vergleich
Der Markt unterteilt sich in On-Demand-GPU-Plattformen, die stundenweise abrechnen, und Flatrate-Anbieter mit dedizierter Hardware zu einem festen monatlichen Preis. Hyperscaler bilden eine eigene Kategorie: von Grund auf elastisch und in ein Ökosystem integriert, aber bei dauerhafter Nutzung teuer.
| Anbieter | GPU-Stufe | Preismodell | Ideal für |
|---|---|---|---|
| Vast.ai | A100, H100, RTX 4090 | Pro-Stunde Spot/On-Demand | Budget-Trainingsläufe, Experimente |
| RunPod | H100, A100, RTX 4090 | Pro-Stunde On-Demand + Serverless | Serverless-Inferenz, gelegentliches Fine-Tuning |
| Lambda Labs | H100, A100 | Pro-Stunde On-Demand | ML-Forschung, US-zentrierte Teams |
| Hetzner | RTX 4000 Ada (20 GB); RTX PRO 6000 Blackwell (96 GB) | Monatspauschale | Europäische Flatrate, leichte bis komplexe KI-Inferenz |
| IONOS | Diverse | Monatspauschale | Europäische KMUs, einfacher GPU-Server |
| AWS (g6/p4d) | L4, A10G, A100 | Pro-Sekunde Spot/On-Demand | Elastische Workloads innerhalb des AWS-Ökosystems |
Vast.ai betreibt einen Marktplatz, auf dem einzelne Anbieter ihre ungenutzten GPUs vermieten. Dies hält die Kosten niedrig, führt jedoch zu Schwankungen in der Zuverlässigkeit. Es kommt zu punktuellen Unterbrechungen. Vast.ai ist die richtige Wahl für einen Trainingslauf, den du neu starten kannst. Es ist die falsche Wahl für einen kundenorientierten Inferenz-Endpunkt, der eine konsistente Verfügbarkeit benötigt. GPU-Verfügbarkeit und Preise schwanken je nach Angebot des Betreiberpools.
Am besten geeignet für: einmalige Trainingsläufe, budgetorientierte Experimente. Nicht ideal für: Produktionsinferenz, Teams mit Anforderungen an die Datensouveränität.
RunPod positioniert sich zwischen einem Marktplatz und einer verwalteten Plattform. Die Serverless-Stufe skaliert zwischen Anfragen auf null herunter, was sich gut für Batch-Inferenz mit unregelmäßiger Nachfrage eignet. Für einen dauerhaft laufenden Endpunkt sind stundenbasierte Preise bei Auslastungen ab etwa 18 Stunden pro Tag teurer als Flat-Rate-Alternativen.
Am besten geeignet für: serverlose Inferenzjobs, unregelmäßiges Fine-Tuning. Nicht ideal für: persistente Endpunkte mit hohem Datenverkehr, EU-spezifischen Datenanforderungen.
Lambda Labs richtet sich an ML-Forschungsteams und bietet eine unkomplizierte stundenbasierte Preisgestaltung sowie eine gute Verfügbarkeit von H100-GPUs auf NVIDIA-GPU-Cloud-Infrastruktur. Es ist hauptsächlich in den USA ansässig; während die EU-Kapazität zunimmt, können die Anforderungen an die europäische Datensouveränität besser von einheimischen europäischen Anbietern erfüllt werden.
Geeignet für: ML-Forschung, Teams, die bereits im US-amerikanischen Cloud-ML-Ökosystem tätig sind. Nicht ideal für: strenge DSGVO-Anforderungen an den Datenstandort, permanente Produktionsendpunkte.
Hetzner ist die naheliegende europäische Wahl für Teams, die einen GPU-Server zum Festpreis nutzen möchten, ohne sich an einen Hyperscaler binden zu müssen. Der GEX44 (RTX 4000 Ada, 20 GB) deckt 7B-Inferenz und SDXL-Generierung zu einem günstigen Preis ab. Der GEX131 (NVIDIA RTX PRO 6000 Blackwell Max-Q, 96 GB) erweitert dies auf 70B-Modelle und vollständige FP16-Inferenz, was Hetzner zu einer praktikablen Option an beiden Enden der VRAM-Palette macht.
Am besten geeignet für: Europäische Teams, die eine Pauschalabrechnung und Inferenz von Budget zu High-End-KI wünschen. Nicht ideal für: Produktions-APIs mit hoher Parallelität, Teams, die Spotpreise oder eine Skalierung auf null benötigen.
AWS ergibt Sinn, wenn ein Workload bereits tief in das AWS-Ökosystem integriert ist und verwaltete Dienste wie S3 oder SageMaker nutzt. Für einen persistenten LLM-Endpunkt, der mehr als 20 Stunden pro Tag läuft, ist dies bei konstanter Auslastung die teuerste Option in diesem Vergleich.
Am besten geeignet für: elastische Workloads mit variabler Nachfrage, Teams, die bereits AWS verwenden. Nicht ideal für: dauerhafte Endpunkte, kostenbewusste Teams mit kontinuierlichem Betrieb.
Stable-Diffusion GPU-Hosting und ComfyUI
Für die Bilderzeugung gelten VRAM-Anforderungen, deren Skalierung sich von der LLM-Inferenz unterscheidet. Die Modellarchitektur ist ebenso wichtig wie die Parameteranzahl:
- SDXL (Stable Diffusion XL): läuft in FP16 gut mit 12–16 GB VRAM. Eine 24-GB-Karte verarbeitet Batches von zwei bis vier Bildern gleichzeitig mit ControlNet-Workflows ohne Speicherbelastung.
- Flux.1 dev/schnell: 12–16 GB bei FP8-Präzision für die Standard-Generierung eines einzelnen Bildes bei 1024×1024. BF16 erfordert mindestens 24 GB. Für hochauflösende Batch-Workflows oder benutzerdefinierte LoRA-Stacks entfällt mit 48 GB die VRAM-Obergrenze vollständig.
- ComfyUI auf einer Remote-GPU: ComfyUI selbst ist leichtgewichtig. Der VRAM-Bedarf ergibt sich aus dem geladenen Modell und dem Workflow. Die Batchgröße bestimmt, wie viel Puffer du über dem Grundbedarf des Modells benötigst. Wenn du ComfyUI auf einer Cloud-GPU über einen SSH-Tunnel oder einen Reverse-Proxy ausführst, erhältst du dieselbe Schnittstelle wie bei einem lokalen Desktop-Setup.
Für eine tägliche Bildgenerierungspipeline, die Bilder in großer Menge erzeugt, summiert sich die stundenweise Abrechnung schnell. Eine 48-GB-GPU-Karte mit Pauschaltarif unterstützt alle aktuellen Open-Source-Bildmodelle sowie den überwiegenden Teil der Community-Fine-Tunes zu einem festen monatlichen Preis, unabhängig vom Bildausgabevolumen.
Der Workflow zählt auch. ComfyUI-Nutzer, die komplexe Node-Graphen mit mehreren gleichzeitig geladenen Modellen ausführen, profitieren von mehr VRAM. 24 GB decken Einzelmodell-Workflows gut ab, aber das Wechseln von Modellen während einer laufenden Session auf 16 GB verlangsamt die Produktion erheblich.
GPU-Hosting-Preise im Vergleich
Die relevante Trennung bei GPU-Mietpreisen verläuft nicht zwischen Anbietern, sondern zwischen Modellen. Ob du GPU-Kapazität stundenweise mietest oder dich für ein Pauschalmodell mit monatlichem Festpreis entscheidest, hängt letztlich davon ab, wie konstant du die Karte nutzt. On-Demand- und Stundenabrechnung kosten im Leerlauf nichts, weshalb sie sich für seltene Workloads eignet: Ein Trainingslauf, der sechs Stunden dauert und zweimal pro Woche stattfindet, ist im Stundenmodell deutlich günstiger als im monatlichen Pauschalabo. Die Rechnung ändert sich, sobald die tägliche Auslastung etwa 20 Stunden überschreitet.
Günstiges GPU-Hosting auf der 20–24-GB-Stufe ist bei Hetzner und Vast.ai zu wettbewerbsfähigen Stundensätzen erhältlich. Auf der Stufe von 80–96 GB VRAM führen On-Demand-Preise von Marktplatzplattformen und Hyperscalern bei hoher Auslastung zu deutlich höheren monatlichen Kosten als Flat-Rate-Alternativen innerhalb derselben VRAM-Klasse. Für Teams, die permanente KI-Inferenz oder tägliche Bildgenerierungs-Pipelines betreiben, ist die Wahl des Preismodells wichtiger als die Wahl des konkreten Anbieters innerhalb jeder Kategorie.
FAQ: GPU-Hosting für KI
Für dauerhaft laufende KI-Inferenz, die den größten Teil des Tages aktiv ist, bieten GPU-Server mit Pauschaltarif und 48 GB oder mehr VRAM die günstigsten Kosten. Für unregelmäßige oder experimentelle Workloads sind On-Demand-Plattformen wie RunPod oder Vast.ai bei geringer Auslastung günstiger, da im Leerlauf keine Kosten anfallen.
SDXL läuft im FP16 zuverlässig mit 12–16 GB VRAM. 8 GB funktioniert mit Quantisierung, begrenzt jedoch die Batchgröße auf eins. Flux.1 im FP8 benötigt 12–16 GB; bei BF16 sind 24 GB das Minimum. Wenn du planst, beide Modelle zu betreiben, Bilder im Batch zu verarbeiten oder ControlNet-Workflows zu nutzen, sind 24 GB das praktische Minimum. Für Produktions-Pipelines, die Hunderte von Bildern pro Stunde verarbeiten, beseitigt 48 GB alle aktuellen VRAM-Engpässe.
Die GPU-Miete amortisiert die Kapitalbeschaffungskosten einer H100-Klasse-Karte innerhalb von 18–36 Monaten bei typischer Nutzung und vermeidet das Risiko der Hardware-Obsoleszenz. Für einen einzelnen dauerhaften Workload ist ein Flat-Rate-Cloud-Modell innerhalb von zwei bis drei Jahren günstiger als eigener Hardwarebesitz. Für sehr große und dauerhaft laufende Cluster ist der Hardwarebesitz langfristig am günstigsten.
Die NVIDIA RTX PRO 6000 Blackwell ist eine professionelle GPU mit 96 GB GDDR7-Speicher, die auf der Blackwell-Architektur basiert. Da es sich um eine kürzlich veröffentlichte Karte handelt, ist die Cloud-Verfügbarkeit noch im Entstehen begriffen. Spezialisierte GPU-Cloud-Anbieter beginnen damit, es auf der Ebene mit hohem VRAM bereitzustellen, während die meisten Hyperscaler es noch nicht als standardmäßigen Instanztyp aufgeführt haben. Prüfe die einzelnen Anbieterseiten direkt, da sich die Verfügbarkeit häufig ändert.
Bei geringer oder unregelmäßiger GPU-Auslastung ist der Stundenpreis von Vorteil – du zahlst nichts, wenn die Karte inaktiv ist. Flat-Rate-Preise sind im Vorteil, sobald die tägliche Nutzung etwa 20 Stunden überschreitet, da die monatlichen Fixkosten dann unter den entsprechenden Stundenkosten der meisten Plattformen liegen. Für dauerhafte Inferenzendpunkte oder kontinuierliche Rendering-Pipelines eliminiert das Flat-Rate-Modell zudem den betrieblichen Aufwand durch Spot-Unterbrechungen.
