De vergelijkingstabel geeft 0,45 €/u weer voor een A100. De datawetenschapper valideert het budget. Maandagochtend: quotum opgebruikt, wachtrij van 36 uur, een dataset van 2 TB voor opname van gefactureerd uitgaand verkeer, CUDA 11.x-afbeelding incompatibel met de gekozen PyTorch-stack. Woensdag eindelijk een pod beschikbaar — twee verspilde dagen. De uurprijs klopte; de wachttijdkosten waren nergens in de verkooppresentatie opgenomen.
Het vergelijken van GPU's voor AI zonder de beschikbaarheid te meten is als het vergelijken van vliegtickets zonder naar vluchtdata te kijken. De Europese markt biedt op papier aantrekkelijke prijzen, maar GPU-capaciteit blijft een schaarse hulpbron tijdens piekperioden. Dit onderzoek identificeert wat catalogi weglaten en hoe u een eerlijke vergelijking kunt maken voordat u ondertekent.
Voorbij de uurprijs: vijf vergeten kostenregels
Het tarief van €/uur is slechts één regel op een groter bankbiljet. Vijf posities komen systematisch voor bij budgetoverschrijdingen.
Beschikbaarheid en quota. Op de publieke cloud wordt GPU-capaciteit gedeeld. Tijdens hypeperiodes (lancering van modellen, terug naar school) kunnen wachtrijen meerdere dagen duren. Een GPU die “beschikbaar” is in de catalogus, kan in de praktijk niet beschikbaar zijn.
Datasetopslag. Lokale NVMe, objectopslag, ingerichte IOPS: elke GB/maand voegt toe aan de rekenkracht. Een dataset van verschillende terabytes die tussen regio's wordt doorgegeven, genereert ook uitgaand verkeer - zie ons onderzoek over uitgaande kosten.
Uitgaand. Het exporteren van een getraind model, logboeken of controlepunten naar een andere regio of een andere leverancier kan 20 tot 40% van het totale budget vertegenwoordigen als niemand het upstream heeft gemodelleerd.
Setup en afbeeldingen. CUDA-stuurprogramma's, ML-frameworks, Jupyter-notebooks: de engineeringuren die zijn besteed aan het bruikbaar maken van de omgeving staan niet op de GPU-factuur, maar kosten wel echt.
Inactieve GPU. Een instance die tussen perioden in blijft draaien of tijdens het weekend wordt vergeten, trekt net zo veel van het budget weg als een niet-ingerichte verkeerspiek.
| Criterium | Impact op TCO | Vraag om te stellen |
|---|---|---|
| €/u GPU | Direct | Welke exacte kaart, welk VRAM-geheugen? |
| Wachtrij | Projectvertraging | Is er een toewijzings-SLA? |
| Uitgang | +20–40% mogelijk | Is het uitvoergebied bevroren? |
| Reservering | −30% soms | Is een verbintenis van 1 tot 3 maanden vereist? |
Beschikbaarheid: de gefactureerde GPU is niet de verkregen GPU
Catalogi vermelden prijzen voor capaciteiten die wachtrijen soms fictief maken. Vraag vóór elke verplichting een proeftoewijzing aan: start een exemplaar, time de vertraging tussen het verzoek en een werkende CUDA-omgeving, herhaal dit over tien werkdagen.
Meet ook de mediane vertraging over twee weken, niet het beste geval waargenomen op een rustige dinsdag. Teams die zonder deze test een modelleveringsdatum aan het managementcomité beloven, moeten regelmatig een vertraging in de “infrastructuur” verklaren.
Bij gereserveerde aanbiedingen (vaststelling van 1 tot 3 maanden) is de beschikbaarheid over het algemeen beter voorspelbaar – ten koste van verminderde flexibiliteit. Voor continue training gedurende 30 dagen is boeken vaak beter dan on-demand; voor twintig uur finetunen per maand is het tegenovergestelde waar.
De goedkoopste GPU is degene die draait wanneer je hem nodig hebt - niet degene die om middernacht als held wordt weergegeven op een statische comparator.
Scenario's A en B: experimenteren versus continue training
Scenario A — Experimenteren. Twintig GPU-uren per maand, fijnafstemming van een 7B-model. Prioriteit: ontvang een exemplaar in minder dan een uur, kleine lokale schijf, weinig uitgaand verkeer. On-demand cloud is prima; Voor een langetermijnreservering gelden extra kosten.
Scenario B — Continue training. Twee GPU's 24 uur per dag gedurende dertig dagen. Prioriteit: gereserveerde prijs, geen wachtrijen, responsieve ondersteuning. Een speciale GPU-server of langetermijnreservering is beter dan on-demand, zolang de belasting stabiel en voorspelbaar is.
Vergelijk OVHcloud en Scaleway op gereserveerde grids, en houd Hetzner in de CPU-only fallback als de GPU niet beschikbaar blijft – om in ieder geval de datavoorbereidingspijplijn niet te blokkeren.
De top: de €/u-vergelijking verbergt de werkelijke capaciteit
Beslis en ga vooruit zonder blinde vlek
Begin met het aanvragen van een proefversie van GPU-toewijzing bij de twee of drie leveranciers op de shortlist, en het inrichten van tijd voor een CUDA-ready omgeving. Bereken het realistische uitgangssignaal van uw datasets voordat u een regio valideert. Vergelijk de kosten per uur met de kosten van een week die verloren gaat in de wachtrij; dit is vaak waar de echte afweging een rol speelt. Documenteer de resultaten in een TCO-spreadsheet gedurende twaalf maanden en verwijs vervolgens naar de aanbiedingen via onze overzicht en de vergelijking.
Veelgestelde vragen
Waarom is de GPU-prijs per uur misleidend?
Omdat het de werkelijke uptime, uptime, opslag, uitgaand verkeer en tijden waarop de GPU draait negeert zonder resultaat te produceren. Bij een verfijningsproject kunnen de werkelijke kosten verdubbelen in vergelijking met de weergegeven prijs. Integreer deze regels voordat u twee offertes vergelijkt.
Hoe twee cloud-GPU-aanbiedingen vergelijken?
Stem hetzelfde kaartmodel, dezelfde regio, meegeleverde schijf, uitgaand verkeer, ML-image en doorlooptijd op elkaar af. Test de toewijzing over twee weken en noteer de gemiddelde vertraging, niet het beste geval. Alleen met dit protocol kunt u aanbiedingen vergelijken die op papier gelijkwaardig lijken.
Moet u een GPU-cloud of een speciale GPU-server gebruiken?
De cloud is geschikt voor peaking en experimenten. Een dedicated exemplaar wordt winstgevend zodra een GPU-belasting continu draait en het economische model gevalideerd is – vaak tussen twee en vier weken intensief gebruik. Voer de berekening uit op basis van uw echte profiel, niet op basis van een theoretisch gemiddelde.
Welke Europese spelers bieden GPU's aan?
OVHcloud, Scaleway en Hetzner (beperkt aanbod) behoren tot de spelers die zichtbaar zijn in Europa, naast hyperscalers in de EU-regio. De beschikbaarheid varieert enorm: test de toewijzing vóór elk lang project en zorg voor een CPU-plan B als de wachtrij uit de hand loopt.
Lage GPU-prijs? Meet de uren tussen ‘lancering’ en ‘CUDA klaar’ – dat is waar het budget brandt, niet op de €/uur-lijn in de offerte.