GPU VPS para entrenamiento e inferencia de IA: guía práctica 2026

En resumen. Un GPU VPS es la unidad de cómputo estándar para workloads de IA en 2026, ya sea para servir un LLM a tus usuarios o para hacer fine-tuning con tus propios datos. La inferencia es un workload en ráfagas que se dimensiona por parámetros del modelo. El entrenamiento mantiene la GPU a plena utilización durante horas o días y necesita varias veces más VRAM. El tamaño correcto del GPU VPS depende de cuál de estas dos tareas ejecutas y a qué escala de modelo.

La pregunta sobre qué GPU VPS elegir para IA y cómo dimensionarlo correctamente son realmente la misma pregunta planteada de dos formas distintas, y la respuesta cambia por completo según si ejecutas inferencia o entrenamiento. Esta guía cubre los dos caminos: dimensionar la VRAM correctamente para cada caso, ejecutar inferencia de LLMs con Ollama, vLLM y llama.cpp, hacer fine-tuning de un modelo con LoRA y QLoRA, y por qué las GPUs dominan esta categoría de workloads frente a las CPUs.

Entrenamiento vs. inferencia de IA: requisitos de GPU distintos

El entrenamiento y la inferencia exigen cosas casi opuestas de una GPU. Confundirlos es el error de dimensionamiento más común.

Una GPU para entrenamiento de IA necesita margen para gradientes y estado del optimizador además de los pesos del modelo, por eso una ejecución de entrenamiento de 7B necesita varias veces más VRAM que un deployment de inferencia del mismo modelo. La inferencia, en cambio, está dominada por los pesos y un caché por petición relativamente pequeño, razón por la que la cuantización tiene un efecto tan grande específicamente en la VRAM de inferencia.

¿Cuánta VRAM necesitas realmente?

La VRAM es la restricción más importante tanto para entrenamiento como para inferencia, y el cálculo difiere bastante entre ambos. Dimensionar la VRAM correctamente desde el inicio evita el error más común en este campo: provisionar una tarjeta que se queda sin memoria a mitad del trabajo. Para inferencia con precisión FP16, la regla general es directa: cantidad de parámetros multiplicada por 2 bytes da el mínimo de VRAM. Un modelo de 7B necesita aproximadamente 14 GB solo para cargar los pesos. El entrenamiento multiplica eso por un factor de 4 a 6, ya que la GPU ahora tiene que mantener en memoria los gradientes, el estado del optimizador (los optimizadores Adam guardan dos copias adicionales por parámetro) y la memoria de activaciones junto con los pesos.

La cuantización cambia drásticamente la ecuación del lado de la inferencia. Bajar a INT4 reduce la memoria de pesos aproximadamente 4x respecto a FP16, que es exactamente por qué los modelos cuantizados permiten ejecutar modelos con muchos más parámetros en la misma tarjeta.

La VRAM para workloads de IA escala de forma predecible con el tamaño del modelo:

El salto de 13B a 34B es donde los deployments en un solo GPU VPS generalmente dejan de funcionar para entrenamiento completo, aunque la inferencia INT4 y el fine-tuning con LoRA siguen cabiendo en una sola tarjeta bastante más allá de ese punto.

Ejecutar inferencia de LLMs en un GPU VPS

Tres herramientas cubren la mayoría de los deployments de inferencia GPU, cada una con un trade-off distinto entre simplicidad y control.

Ollama es el camino más directo hacia la inferencia local de LLMs. En modo GPU, Ollama ejecuta modelos en formato GGUF con un solo comando, hace fallback a CPU cuando no hay GPU disponible y maneja la cuantización automáticamente. Es el punto de partida correcto para quien quiere un modelo funcionando en minutos en lugar de una hora de configuración.

vLLM está diseñado para serving de inferencia en producción, no para uso local rápido. Su técnica de gestión de memoria PagedAttention permite procesar muchas peticiones concurrentes de forma eficiente, y expone una API compatible con OpenAI, por lo que el código de cliente existente frecuentemente funciona contra ella con solo cambiar la URL base.

llama.cpp ofrece las opciones de cuantización más flexibles de los tres, desde pesos a precisión completa hasta cuantización sub-4-bit agresiva, y es el motor de inferencia subyacente de Ollama.

El nivel de VRAM que provisionas determina qué tamaños de modelo son utilizables en la práctica: 16 GB ejecutan cómodamente un modelo 13B cuantizado con Ollama o llama.cpp, mientras que una tarjeta de 24 GB abre la inferencia 13B a precisión completa o modelos 34B cuantizados sin problemas de margen.

Entrenamiento GPU: fine-tuning de un LLM en un GPU VPS con LoRA y QLoRA

El fine-tuning completo de un modelo grande requiere infraestructura multi-GPU, pero LoRA y QLoRA hacen que el deep learning GPU sea práctico en un solo GPU VPS para modelos base de 7B a 13B. Elegir el GPU VPS correcto para entrenamiento de IA a esta escala casi siempre se reduce a VRAM en lugar de cómputo bruto, ya que LoRA y QLoRA están diseñados deliberadamente para funcionar dentro del límite de memoria de una sola tarjeta. LoRA ajusta un conjunto pequeño de pesos adicionales en lugar del modelo completo; QLoRA agrega cuantización de 4 bits encima, que es lo que permite que el fine-tuning de un modelo de 7B quepa en 16 GB de VRAM.

El tooling estándar para este tipo de trabajo GPU en machine learning ha convergido en unas pocas herramientas: HuggingFace PEFT junto con bitsandbytes maneja la cuantización y la mecánica de adaptadores directamente; Axolotl envuelve eso en un flujo de trabajo basado en configuración; Unsloth optimiza el mismo proceso para entrenamiento más rápido en una sola tarjeta. Los tres se construyen sobre PyTorch, que sigue siendo el framework de deep learning estándar para este trabajo.

Una checklist práctica antes de iniciar una ejecución de fine-tuning:

• Tamaño del dataset. Más de 1.000 ejemplos es un mínimo razonable para que un fine-tuning con LoRA muestre un efecto real.
• Elección del modelo base. Mistral, Llama 3 y Qwen son puntos de partida comunes actualmente, con buen soporte de tooling de la comunidad.
• Configuración de QLoRA. r=16, alpha=32 es un punto de partida razonable para el rango del adaptador y el escalado.
• Batch size. Empieza en 4 y aumenta hasta que aparezca un error de out-of-memory, luego baja un paso.
• Gradient checkpointing. Intercambia velocidad de entrenamiento por margen de VRAM, y casi siempre vale la pena activarlo en un setup de una sola GPU.

GPU vs. CPU para IA: por qué las GPUs dominan

Las CPUs tienen alta velocidad en un solo núcleo, pero incluso en hardware de servidor solo cuentan con 8 a 128 núcleos. Los modelos Transformer se ejecutan como millones de multiplicaciones de matrices paralelas por forward pass, que es exactamente el workload para el que se construyó la arquitectura GPU: miles de núcleos más pequeños haciendo la misma operación simultáneamente en lugar de un solo núcleo haciéndolo rápido. Por eso la GPU para IA se ha convertido en el estándar en lugar de la CPU para cualquier cosa más allá de los modelos más pequeños, aunque la ventaja de velocidad real varía mucho más de lo que la mayoría de las guías reconocen: para un modelo de 7B, algunos benchmarks muestran una CPU moderna con un motor de inferencia optimizado llegando a un factor de 1.3 a 2x del throughput de GPU, mientras que otros muestran una diferencia de 10 a 30 veces, dependiendo fuertemente de la CPU específica, la GPU, el nivel de cuantización y el motor de inferencia. La brecha se amplía marcadamente para modelos más grandes, donde el ancho de banda de memoria limitado de la CPU se convierte en la restricción en lugar del número de núcleos.

Una GPU NVIDIA para IA es efectivamente la elección por defecto hoy en día, dado cuánto del ecosistema, desde PyTorch hasta vLLM y el backend GPU de Ollama, apunta a CUDA primero. Las TPUs y NPUs existen y ofrecen ventajas reales dentro de los hiperescaladores que las construyeron, pero siguen siendo nicho fuera de ese contexto. Prácticamente toda la infraestructura de IA auto-hospedada corre en GPUs.

Elegir un GPU VPS para IA: specs clave a evaluar

Unos pocos specs deciden si un GPU VPS para trabajo de IA realmente se ajusta al trabajo:

• VRAM. 24 GB son un punto óptimo práctico: suficiente para inferencia de 13B en FP16 y un fine-tuning de 7B en la misma tarjeta.
• Generación de GPU. Se necesita la generación Ampere o más reciente para soporte de BF16, que la mayoría del código actual de entrenamiento e inferencia asume por defecto.
• Almacenamiento NVMe. Los pesos de los modelos van desde unos pocos GB hasta bien más de 100 GB; NVMe evita que la carga de modelos y las escrituras de checkpoints se conviertan en el cuello de botella.
• RAM del sistema. Debe ser al menos igual a la VRAM, para que el preprocesamiento de datos y la carga del modelo no ralenticen la GPU.
• Egreso de red. Descargar modelos de HuggingFace repetidamente se acumula; revisa los términos de egreso si rotas por muchos modelos.

Dimensionar un GPU VPS para IA sigue el mismo esquema en cada nivel: ajusta la VRAM a la combinación más grande de modelo y tarea que planeas ejecutar, luego confirma que la RAM del sistema y el almacenamiento no sean el cuello de botella real una vez que la GPU está dimensionada correctamente.

Object Storage para datasets de IA y checkpoints de modelos

Los datasets de entrenamiento y los checkpoints de modelos se acumulan rápido, con frecuencia hasta cientos de gigabytes en un solo proyecto de fine-tuning. Staging de esos datos a través de Object Storage compatible con S3 usando rclone o s5cmd los mantiene fuera del disco del GPU VPS entre ejecuciones: copia el dataset al inicio del trabajo, sube los checkpoints después de cada epoch, y el disco del VPS nunca necesita guardar más que el working set de la ejecución actual.

Transmitir el dataset en streaming en lugar de copiarlo también es una opción para el entrenamiento, pero solo si se hace bien: divide los datos en archivos tar y léelos con un loader construido para eso, como WebDataset o MosaicML Streaming, que descargan datos secuencialmente en bloques grandes. Lo que no funciona es apuntar un loop de entrenamiento a un FUSE mount y hacer lecturas aleatorias de muchos archivos pequeños, que en el mejor caso es lento y en el peor es poco confiable. Elige streaming secuencial con un loader real, o copia los datos primero a disco local. No trates un FUSE mount como un sistema de archivos local para acceso aleatorio.

Esto desacopla cómputo de almacenamiento. Un GPU VPS puede apagarse completamente entre ejecuciones de entrenamiento sin perder ningún checkpoint ni dataset, ya que todo lo permanente vive en Object Storage en lugar del servidor. Esta es una de las ventajas prácticas del GPU server hosting frente a una workstation local fija: el almacenamiento y el cómputo escalan de forma independiente.

Por qué ejecutar workloads de IA en Contabo

Tres factores importan más al elegir un proveedor de GPU VPS para workloads sostenidas de entrenamiento e inferencia de IA, y aquí es donde el modelo de Contabo se diferencia más del hiperescalador típico, empezando por la facturación.

La facturación de tarifa plana elimina el riesgo de facturas sorpresa que viene con la facturación por segundo de los hiperescaladores. Una ejecución larga de entrenamiento o un endpoint de inferencia servido continuamente cuesta el mismo importe predecible en Contabo sin importar exactamente cuántas horas corra, lo que importa mucho más para workloads de IA que para hosting web típico: un trabajo de entrenamiento atascado en facturación por segundo puede convertirse en una sorpresa costosa.

La RAM importa tanto como la VRAM para workloads de IA específicamente, ya que el preprocesamiento de datos, la tokenización y la carga del dataset ocurren en la memoria del sistema antes de que algo llegue a la GPU. Los planes de GPU server en Contabo combinan RAM generosa junto con la GPU, evitando un segundo cuello de botella fácil de pasar por alto.

Las ubicaciones de centros de datos en la UE importan para la inferencia de IA conforme al RGPD, especialmente para cualquier deployment que procese texto o documentos enviados por usuarios donde la residencia de datos es un requisito real de cumplimiento y no un opcional. La infraestructura con base en la UE de Contabo cubre esto por defecto sin configuración adicional.

Preguntas frecuentes: GPU VPS para entrenamiento e inferencia de IA