La tabla comparativa muestra 0,45 €/h para un A100. El científico de datos valida el presupuesto. Lunes por la mañana: cuota agotada, cola de 36 horas, un conjunto de datos de 2 TB para ingerir facturado en salida, imagen CUDA 11.x incompatible con la pila de PyTorch elegida. El miércoles finalmente hay una cápsula disponible: dos días desperdiciados. El precio por hora era correcto; el costo del tiempo de espera no se incluyó en ninguna parte de la presentación de ventas.
Comparar GPU para IA sin medir la disponibilidad es como comparar boletos de avión sin mirar las fechas de los vuelos. El mercado europeo ofrece precios atractivos sobre el papel, pero la capacidad de GPU sigue siendo un recurso escaso durante los períodos pico. Esta encuesta identifica qué omiten los catálogos y cómo realizar una comparación honesta antes de firmar.
Más allá del precio por hora: cinco líneas de costes olvidadas
La tarifa €/h es sólo una línea de una factura mayor. Cinco posiciones aparecen sistemáticamente en excesos presupuestarios.
Disponibilidad y cuotas. En la nube pública, la capacidad de GPU se comparte. Durante los períodos de exageración (lanzamiento del modelo, regreso a clases), las colas pueden durar varios días. Una GPU “disponible” en el catálogo puede no estar disponible en la práctica.
Almacenamiento de conjuntos de datos. NVMe local, almacenamiento de objetos, IOPS aprovisionadas: cada GB/mes se suma al cálculo. Un conjunto de datos de varios terabytes que pasa entre regiones también genera salida; consulte nuestra encuesta sobre tarifas de salida.
Salida. Exportar un modelo entrenado, registros o puntos de control a otra región u otro proveedor puede representar entre el 20 y el 40 % del presupuesto total si nadie lo ha modelado previamente.
Configuración e imágenes. Controladores CUDA, frameworks ML, notebooks Jupyter: las horas de ingeniería dedicadas a hacer utilizable el entorno no aparecen en la factura de la GPU, pero realmente cuestan.
GPU inactiva. Una instancia que se deja ejecutándose entre épocas o se olvida durante el fin de semana agota el presupuesto con tanta seguridad como un pico de tráfico no aprovisionado.
| Criterio | Impacto en el coste total de propiedad | Pregunta para hacer |
|---|---|---|
| €/h GPU | Directo | ¿Qué tarjeta exacta, qué memoria VRAM? |
| Cola | Retraso del proyecto | ¿Existe un SLA de asignación? |
| Salida | +20–40 % posible | ¿Está congelada la región de salida? |
| Reserva | −30% a veces | ¿Se requiere un compromiso de 1 a 3 meses? |
Disponibilidad: la GPU facturada no es la GPU obtenida
Los catálogos enumeran precios de capacidades que las colas a veces hacen ficticios. Antes de cualquier compromiso, solicite una asignación de prueba: lance una instancia, cronometre el retraso entre la solicitud y un entorno CUDA en funcionamiento, repita durante diez días hábiles.
Mida también el retraso medio de dos semanas, que no es el mejor caso observado en un martes tranquilo. Los equipos que prometen una fecha de entrega del modelo al comité de dirección sin esta prueba se encuentran regularmente explicando un retraso de "infraestructura".
En las ofertas reservadas (compromiso de 1 a 3 meses), la disponibilidad es generalmente más predecible, a costa de una flexibilidad reducida. Para una formación continua de más de 30 días, la reserva suele ser mejor que la petición; durante veinte horas de ajuste al mes, ocurre lo contrario.
La GPU más barata es la que se ejecuta cuando la necesitas, no la que se muestra como héroe a medianoche en un comparador estático.
Escenarios A y B: experimentación vs formación continua
Escenario A: Experimentación. Veinte horas de GPU por mes, ajuste de un modelo 7B. Prioridad: obtener una instancia en menos de una hora, disco local pequeño, salida baja. La nube bajo demanda está bien; La reserva a largo plazo tendría un coste adicional.
Escenario B: Capacitación continua. Dos GPU las 24 horas del día durante treinta días. Prioridad: precio reservado, sin colas, soporte receptivo. Un servidor GPU dedicado o una reserva a largo plazo superan a la opción bajo demanda siempre que la carga sea estable y predecible.
Compare OVHcloud y Scaleway en grids reservados, y mantenga Hetzner en reserva de CPU únicamente si la GPU sigue sin estar disponible, para al menos no bloquear el proceso de preparación de datos.
La cumbre: la comparación €/h oculta la capacidad real
Decide y avanza sin puntos ciegos
Comience solicitando una prueba de asignación de GPU a los dos o tres proveedores preseleccionados y aprovisionando el tiempo para un entorno listo para CUDA. Calcule la salida realista de sus conjuntos de datos antes de validar una región. Compare el costo por hora con el costo de una semana perdida en la cola; aquí es donde suele entrar en juego la verdadera compensación. Documente los resultados en una hoja de cálculo del TCO durante doce meses y luego compare las ofertas a través de nuestro directorio y la comparación.
Preguntas frecuentes
¿Por qué el precio de la GPU por hora es engañoso?
Porque ignora el tiempo de actividad real, el tiempo de actividad, el almacenamiento, la salida y los tiempos en que la GPU se ejecuta sin producir un resultado. En un proyecto de ajuste, el costo real puede duplicarse en comparación con el precio mostrado. Integre estas líneas antes de comparar dos citas.
¿Cómo comparar dos ofertas de GPU en la nube?
Alinee el mismo modelo de mapa, región, disco incluido, salida, imagen de ML y tiempo de entrega. Pruebe la asignación durante dos semanas y observe el retraso medio, no el mejor de los casos. Sólo este protocolo permite comparar ofertas que parecen equivalentes sobre el papel.
¿Debería utilizar una nube GPU o un servidor GPU dedicado?
La nube es adecuada para alcanzar el máximo nivel y experimentar. Uno dedicado se vuelve rentable tan pronto como la carga de la GPU se ejecuta continuamente y se valida el modelo económico, a menudo entre dos y cuatro semanas de uso intensivo. Haz el cálculo sobre tu perfil real, no sobre un promedio teórico.
¿Qué jugadores europeos ofrecen GPU?
OVHcloud, Scaleway y Hetzner (oferta limitada) se encuentran entre los actores visibles en Europa, junto con los hiperescaladores en la región de la UE. La disponibilidad varía mucho: pruebe la asignación antes de cualquier proyecto largo y tenga un plan B de CPU si la cola se sale de control.
¿Precio bajo de GPU? Mida las horas entre el “lanzamiento” y el “cuda listo”: ahí es donde se quema el presupuesto, no en la línea €/h de la cotización.