Kurz gesagt: Es gibt drei Wege zu GPU-Rechenleistung in der Cloud: einen GPU VPS (eine dedizierte Karte zum festen Monatspreis), einen dedizierten GPU-Server (Multi-GPU-Bare-Metal für Enterprise-Skalierung) oder eine Hyperscaler-GPU-Instanz (elastische Rechenleistung pro Stunde von AWS, GCP und Azure). Für dauerhafte KI-Inferenz und Bildgenerierung ist ein GPU VPS der schnellste und kostengünstigste Einstieg. Auf einen Dedicated Server wechselst du, wenn dein Workload eine einzelne Karte sprengt.
Diese drei Betriebsmodelle liegen auf demselben Spektrum der GPU-Rechenleistung, unterscheiden sich aber in fast jeder praktischen Dimension. Die richtige Wahl hängt davon ab, wie konstant du die GPU auslastest und ob du eine physische Trennung von anderen Mietern brauchst. Die Toleranz gegenüber Ökosystem-Abhängigkeiten und die Kosten für ungenutzte Hardware sind die beiden weiteren Faktoren, die den Ausschlag geben. Dieser Vergleich ordnet jedes Modell ein, damit du dein GPU-Server-Hosting an deinen Workload anpasst, ohne über das Ziel hinauszuschießen.
Die drei Wege zu einer GPU in der Cloud
GPU-Cloud-Computing gliedert sich grob in drei Betriebsmodelle:
- GPU VPS: eine einzelne dedizierte GPU-Karte, bereitgestellt als virtueller Server. Root-Zugriff und feste monatliche Abrechnung, in Minuten einsatzbereit. Der Einstiegspunkt für die meisten dauerhaften KI- und Rendering-Workloads.
- Dedizierter GPU-Server: ein komplettes Bare-Metal-System mit mehreren GPUs, das einem einzigen Mieter zugewiesen ist. Vollständige Isolation und maximale Leistung pro Karte bei insgesamt höheren Kosten. Die richtige Wahl, sobald eine einzelne Karte zum Flaschenhals wird.
- Hyperscaler GPU-Instanz: GPU-Cloud-Kapazität von AWS, GCP und Azure nach Bedarf, abgerechnet pro Sekunde oder Stunde. Elastische Skalierung bis auf null. Passend für sprunghafte oder experimentelle Workloads, die selten laufen.
GPU VPS
Ein GPU VPS stellt eine einzelne dedizierte GPU-Karte als klassischen Linux-Server mit Root-Zugriff bereit. Die Karte teilst du dir mit niemandem. Du hast die volle Karte und ihren gesamten VRAM für die Laufzeit deines Abonnements. Der Preis ist eine feste monatliche Rate, unabhängig vom Inferenzvolumen oder der Anzahl der Renderings.
Die Bedienung ist identisch mit jedem anderen VPS. Du verbindest dich per SSH und installierst deine Runtime. Der Server ist wenige Minuten nach der Bestellung live. Es gibt keinen Managed Service zu konfigurieren und kein proprietäres SDK, von dem du abhängst. Die Bindung reicht nur bis zum Abrechnungszyklus. Single-Card-Pläne beim GPU VPS erreichen inzwischen bis zu 96 GB VRAM und decken damit 70B-LLMs in voller FP16-Präzision sowie die anspruchsvollsten Workflows zur Bildgenerierung auf einer einzigen Karte ab.
Der Kompromiss ist klar: Ein GPU VPS ist eine Single-GPU-Bereitstellung. Workloads, die Multi-GPU-Parallelität oder NVLink-Interconnects brauchen, benötigen einen dedizierten Server. Scale-to-zero gibt es ebenfalls nicht. Die feste Monatsrate gilt unabhängig von der Auslastung.
Einen genaueren Blick darauf, was GPU-VPS-Hosting umfasst und wie du die richtige VRAM-Stufe wählst, bekommst du unter Was ist ein GPU VPS?
Dedizierter GPU-Server
Ein dedizierter GPU-Server weist einem einzigen Mieter eine komplette Bare-Metal-Maschine zu. Das prägende Merkmal ist die Multi-GPU-Dichte: Produktionskonfigurationen tragen typischerweise vier bis acht NVIDIA-GPUs pro Server, mit NVLink-Interconnects für schnelle Kommunikation zwischen den GPUs. Du bekommst CPU, RAM, NVMe-Speicher und Netzwerk des kompletten Servers statt nur einer Karte.
Dediziertes GPU-Hosting eignet sich für Workloads, die einer einzelnen Karte entwachsen sind. Multi-GPU-Trainingsjobs und großangelegte, verteilte Inferenzcluster, die viele parallele Nutzer bedienen, sind die klassischen Fälle. Die Bereitstellung dauert länger als bei einem GPU VPS: Stunden bis zu einem Tag statt Minuten. Die Kosten sind höher, und die Hardwareschicht verlangt mehr operative Aufmerksamkeit als eine VPS-artige Umgebung.
Zur Dedicated-Server-Infrastruktur von Contabo siehe Dedicated Server.
Hyperscaler-GPU-Instanzen (AWS, GCP, Azure)
AWS, GCP und Azure bieten GPU-Cloud-Instanzen, die pro Sekunde oder Stunde abgerechnet werden. AWS-p5-Instanzen laufen mit NVIDIA H100, p4d-Instanzen mit A100, die A3-Serie von GCP mit H100 und die NCads-H100-v5-Serie von Azure deckt H100-Konfigurationen ab. Alle drei unterstützen elastische Skalierung: Du fährst am Montag ein Trainingscluster hoch und zahlst nur für die Stunden, die es läuft.
Das Hyperscaler-Modell ergibt Sinn, wenn ein Workload wirklich elastisch ist. Ein Trainingsjob, der drei Tage läuft, oder eine Batch-Inferenz-Pipeline, die einmal pro Woche anspringt, rechtfertigen die stundenweise Abrechnung, weil Leerlaufzeit nichts kostet. Teams, die bereits in AWS oder GCP arbeiten und Zugriff auf GPU-Instanzen innerhalb ihres bestehenden IAM- und Abrechnungsrahmens wollen, haben ein ebenso starkes Argument für das Modell.
Bei dauerhafter Auslastung kehrt sich die Rechnung um. Eine H100-Instanz, die rund um die Uhr bei AWS oder RunPod läuft, kostet im Monat mehr als ein dedizierter GPU-Server zum Festpreis mit gleichwertiger Hardware. Datenausgang wird pro GB berechnet, und Gebühren für Managed Storage summieren sich. Die Abrechnung pro Anfrage für Dienste wie SageMaker oder Vertex AI kommt obendrauf. Die volle Monatsrechnung im Voraus zu berechnen ist ehrlich gesagt schwierig, wenn mehrere Dienste ineinandergreifen.
Direkter Vergleich
So vergleichen sich die drei Betriebsmodelle über die Dimensionen, die die Entscheidung treiben:
| GPU VPS | Dedizierter GPU-Server | Hyperscaler GPU-Instanz | |
|---|---|---|---|
| Kostenmodell | Fester Monatspreis | Fester Monatspreis (höher) | Pro Stunde / pro Sekunde |
| Einrichtungszeit | Minuten | Stunden bis zu einem Tag | Minuten |
| GPUs pro Bereitstellung | 1 | 4–8+ | 1–8+ (je nach Instanztyp) |
| VRAM pro GPU | Bis zu 96 GB | Bis zu 96 GB pro Karte | Bis zu 80–141 GB (A100/H100/H200) |
| GPU-Isolation | Dedizierte Karte | Kompletter Server | Oft geteilter physischer Host |
| Skalierung | Plan upgraden | Server hinzufügen | Elastisches Auto-Scaling |
| Vendor Lock-In | Keiner | Keiner | Ökosystem (IAM, APIs, Abrechnung) |
| Am besten für | Dauerhafte Inferenz, Bildgenerierung | Multi-GPU-Training, Enterprise | Elastische / sprunghafte Workloads |
Ein GPU VPS kostet weniger als ein dedizierter Server und gibt dir mehr Kontrolle als eine Hyperscaler-Instanz, zum Festpreis ohne Leerlaufkosten. Er besetzt einen praktischen Mittelweg, den die meisten dauerhaften Single-Model-Workloads nie verlassen müssen.
Kostenvergleich
Die Kernfrage ist die Auslastung: Wie viele Stunden pro Tag wird die GPU im Einsatz sein?
GPU-Miete bei On-Demand-Anbietern wird pro Sekunde oder Stunde abgerechnet. Die Break-even-Rechnung ist direkt: Teile die feste Monatsrate durch 720 Stunden. Liegt das Ergebnis unter dem On-Demand-Stundenpreis, gewinnt der Festpreis bei durchgehender Auslastung. Auf den A100- und H100-Stufen liegen die Hyperscaler-Preise durchweg über den Festpreis-Plänen für GPU-Cloud-Server, sobald die tägliche Nutzung 20 Stunden überschreitet.
Auf der High-VRAM-Stufe stellen Anbieter Instanzen mit NVIDIA RTX PRO 6000 Blackwell (96 GB GDDR7) bereit. GPU-Cloud-Computing auf dieser Stufe über On-Demand-Marktplätze führt bei einer Auslastung rund um die Uhr zu Monatssummen, die deutlich über den Festpreis-Äquivalenten eines dedizierten GPU-Servers liegen.
Dediziertes GPU-Hosting trägt die höchste Festpreis-Rate, verteilt sie aber über mehrere Karten. Für Teams, die Multi-GPU-Training bei voller Auslastung fahren, sind die Kosten pro Karte bei einem dedizierten GPU-Server niedriger, als dieselbe Anzahl an Single-Card-Instanzen parallel bei einem Hyperscaler zu betreiben.
Hyperscaler fügen versteckte Kosten jenseits der Instanzrate hinzu. Datenausgang wird pro GB berechnet, und Gebühren für Managed Storage summieren sich separat. Die Abrechnung pro Anfrage für Managed-ML-Dienste wie SageMaker oder Vertex AI treibt die Gesamtsumme weiter nach oben. Ein Vergleich allein über den Listenpreis führt in die Irre. Prüfe die aktuellen Preise bei jedem Anbieter, bevor du dich festlegst.
Welche solltest du wählen?
Einzelentwickler oder kleines Team. Ein GPU VPS ist der richtige Einstieg. Er ist in Minuten mit Root-Zugriff bereitgestellt und bewältigt Inferenz mit quantisierten 70B-LLMs oder komplette Stable-Diffusion-Pipelines auf einer einzigen Karte. Die feste Monatsrate ist planbar. Auf einen dedizierten Server wechselst du erst, wenn eine einzelne Karte zum Flaschenhals wird.
Kreativstudio (10–50 Personen). Starte mit einer oder mehreren GPU-VPS-Bereitstellungen für dauerhafte Inferenz oder Rendering. Ergänze dedizierte GPU-Server-Kapazität, wenn deine Pipelines echte Parallelität über mehrere Karten oder Interconnects auf NVLink-Niveau brauchen.
Enterprise (100+ Personen, Compliance-Anforderungen). Dediziertes GPU-Hosting oder eine Kombination aus dedizierter und GPU-VPS-Kapazität. Der Standort des Rechenzentrums in der EU zählt, sobald der Workload personenbezogene Daten unter der DSGVO verarbeitet. Hyperscaler verlangen eine klare Rechtsgrundlage für die grenzüberschreitende Datenübermittlung, bevor sie regulierte Workloads verarbeiten.
Sprunghafter oder unregelmäßiger Workload. Hyperscaler-GPU-Instanzen. Wenn die GPU die meiste Zeit im Leerlauf steht und kurzfristig eine Spitze abfangen muss, ist die elastische stundenweise Abrechnung günstiger als eine feste Monatsrate für ungenutzte Hardware. Das ist das eine Szenario, in dem das Hyperscaler-Modell klar gewinnt.
FAQ: GPU VPS vs. Dedicated vs. Hyperscaler
Für dauerhafte Workloads ja. AWS-On-Demand-GPU-Instanzen rechnen pro Stunde oder Sekunde ab. Ab mehr als 20 Stunden täglicher Nutzung liegen diese Stundenpreise im Monat über einem GPU VPS zum Festpreis. Für Workloads, die nur ein paar Stunden pro Woche laufen, sind AWS Spot oder On-Demand günstiger, weil du nichts zahlst, solange die Karte im Leerlauf steht. Der Break-even-Punkt liegt bei rund 20 Stunden täglicher Auslastung.
Wähle einen dedizierten Server, wenn der Workload wirklich mehrere GPUs parallel braucht. Multi-GPU-Trainingsjobs und große verteilte Inferenzcluster, die von NVLink-Interconnects profitieren, benötigen alle einen dedizierten GPU-Server. Ein GPU VPS mit einer Karte deckt die meisten Inferenz- und Bildgenerierungs-Workloads zu deutlich geringeren Kosten ab. Der dedizierte Server ist damit die Steigerung, nicht der Standardeinstieg.
Ja. Ein GPU VPS stellt eine einzelne dedizierte GPU-Karte bereit, die allein deinem Server zugewiesen ist. Kein anderer Mieter teilt sich die Karte während deiner Abonnementlaufzeit. Das unterscheidet sich vom CPU-lastigen VPS-Hosting, bei dem Ressourcenteilung auf Hypervisor-Ebene üblich ist. GPU-VRAM wird nicht virtualisiert oder geteilt. Du hast die volle Karte und ihren gesamten Speicher für den Abrechnungszeitraum.
Ein GPU VPS und eine Hyperscaler-GPU-Instanz sind beide in Minuten bereitgestellt. Ein dedizierter GPU-Server dauert Stunden bis zu einem Tag, weil die physische Maschine konfiguriert und in Betrieb genommen werden muss. Wenn es dir vor allem auf die Bereitstellungsgeschwindigkeit ankommt, sind GPU VPS und Cloud-GPU-Instanzen in der Praxis gleichwertig. Die relevanten Unterschiede liegen in laufenden Kosten und Kontrolle, nicht in der Einrichtungszeit.
Ja. Ein GPU VPS bei Contabo wird als einfacher Ubuntu-Server ohne proprietäre Runtime oder Managed-Service-Abhängigkeit bereitgestellt. Alles, was du darauf installierst, läuft identisch auf jedem anderen Bare-Metal-Linux-Anbieter. Ein Wechsel verlangt ein Server-Re-Image und ein DNS-Update statt einer Neuentwicklung der Anwendung. Das Fehlen von Ökosystem-Bindung ist einer der zentralen Unterschiede zu Hyperscaler-GPU-Instanzen.
