Azure Spot VMs: Alles wat je moet weten

Wat moet je overwegen bij het gebruik van Spot Virtual Machines?

Je kunt beginnen met het gebruiken van Azure spot compute instances zonder opnieuw te moeten ontwerpen. Hoewel het een flexibele, schaalbare en kosteneffectieve aankoopoptie voor Virtual Machines kan zijn, moet je weten dat het nadelen heeft:

• Microsoft kan capaciteit op elk moment terugnemen van hun on-demand klanten.
• Je krijgt een waarschuwing van 30 seconden voordat Microsoft de server van je terugneemt. Dit is onder voorbehoud van best efforts, en je moet je aanmelden om deze meldingen te ontvangen.
• Beëindigingen zijn gebaseerd op de beschikbaarheid van capaciteit en de maximaal geconfigureerde prijs.
• Microsoft Azure biedt geen SLA's voor deze VMs.
• Niet alle VM-groottes worden ondersteund (zoals B-series, promotionele SKU's zoals Dv2, NV, enz.)
• Je kunt geen Reserved Instances gebruiken met Azure spot virtual machines
• Ephemeral OS disks worden niet ondersteund.
• Capaciteitsbeschikbaarheid hangt af van regio, grootte en tijd.

Bovendien denk je misschien dat onderbrekingen je servers de hele tijd zullen wegnemen en je niet in staat zullen stellen je werk af te maken. Toch zegt Microsoft dat minder dan 10% van de tijd Azure zijn klanten en workloads onderbreekt, waarbij de capaciteit wordt teruggevorderd. Dit is sterk afhankelijk van de maximale prijs die je voor elke workload hebt gekozen.

Hoewel je altijd voorbereid moet zijn op onderbrekingen, is de kans groter dat je de virtual machines zelf uitschakelt nadat ze hun workloads hebben voltooid.

Wanneer moet je Azure Spot Virtual Machines gebruiken?

Spot virtual machines zijn ideaal voor fouttolerante, stateless of tijdongevoelige workloads.

Ze zijn alleen geschikt als je workloads kunnen omgaan met het stoppen midden in hun proces of opnieuw opstarten zonder gegevens te verliezen.

Er zijn veelvoorkomende scenario's waarin we workloads kunnen toestaan onderbroken te worden, zoals:

• Batchverwerking
• Testomgevingen
• Machine learning workloads

En dat is niet alles. Toch zijn spot instances niet altijd geschikt, vooral niet voor altijd-aan productieomgevingen.

Use Cases voor Azure Spot VMs

Spot virtual machines excelleren in verschillende gebruiksscenario's waar onderbreekbare workloads niet binnen een specifieke tijd moeten worden voltooid, zoals:

High-performance computing scenario's

In high-performance computing (grid computing of high-throughput workloads) worden Spot VMs veel gebruikt. Deze workloads zijn vaak losjes gekoppeld, wat betekent dat een enkele knooppuntfout niet het hele cluster zal neerhalen. Net als big data kan het werk opnieuw worden verwerkt als een instance wordt onderbroken. De verloren tijd is vaak onbeduidend in vergelijking met de kostenbesparingen die je krijgt.

Batchverwerkingsjobs en visuele rendering applicaties

Ze zijn geweldig voor batchjobs, die automatische taken zijn, vaak verwerkt in grote groepen – “batches”. Deze taken hebben flexibele timing, dus het pauzeren of starten ervan heeft geen invloed op de workload.

Dev/Test omgeving

Handig voor tijdelijke omgevingen waar je geen uptime nodig hebt. Stel dat je load testing wilt doen voor een nieuwe webapp om te zien hoe deze presteert onder hoge verkeersdrukte. Je moet dan meerdere virtual machines opstarten om gelijktijdig duizenden gebruikers te simuleren die de site bezoeken.

Met Spot VMs kun je:

• Veel test instances opstarten voor een fractie van de kosten.
• Leven met onderbrekingen, aangezien de test indien nodig opnieuw kan worden gestart.
• Instances

De voordelen van Spot Virtual Machines in Azure 

• Aanzienlijke kostenbesparingen: Je kunt tot 90% besparen vergeleken met standaard machines. Bijvoorbeeld, als een standaard VM $100 kost, kan een Spot VM van hetzelfde type slechts $15–$20 per uur of maand kosten, afhankelijk van het gebruik.
• Flexibele schaalbaarheid: Combineer spot VMs met standaard VMs met behulp van Virtual Machine Scale Sets om kosten en betrouwbaarheid in balans te brengen. Net als bij pay-as-you-go VMs, kun je Spot VMs stoppen wanneer je ze niet meer nodig hebt.
• Maximaliseren van compute: Spot VMs zijn kosteneffectief, maar het gaat niet alleen om geld besparen. In plaats van $100 uit te geven aan standaard VMs, kun je spot VMs gebruiken om 10x meer compute te krijgen voor dezelfde kosten. Dus, je kunt meer doen met hetzelfde budget of hetzelfde doen met aanzienlijk minder.
• Maximale prijzen: Je kunt de prijs betalen die je van tevoren hebt afgesproken door je maximale prijs in te stellen. Dat wil zeggen, je bent beperkt wanneer een prijswijziging optreedt.

Hoe werkt de prijsstelling in Azure Spot Virtual Machines?

Spot Virtual Machines stellen je in staat om de operationele kosten van stateless workloads aanzienlijk te verlagen, wat resulteert in aanzienlijke kortingen – je kunt tot 90% besparen vergeleken met pay-as-you-go prijzen.

Toch laat de realiteit vaak zien dat spot VMs je consistent 70-90% besparen op spot virtual machines ten opzichte van de prijs van pay-as-you-go. Echter, besparingen kunnen zo laag zijn als 30 of 40% tijdens hoge ongebruikte capaciteitsvraag. In dat geval ben je waarschijnlijk beter af met het gebruik van Reserved Instances.

De werkelijke prijs van je spot VM zal variëren op basis van de hoeveelheid ongebruikte capaciteit in Azure over verschillende VM-groottes en in verschillende Azure-regio's. 

Dat gezegd hebbende, deze factoren beïnvloeden de uiteindelijke prijs voor elke Spot VM:

• Instance type (VM series)
• Operating System (OS)
• Regio

Bovendien biedt Microsoft historische prijsinformatie over eviction rates (afgelopen 28 dagen) en eviction rates per grootte in een regio in het portal terwijl je de VM maakt. Daar kun je schattingen zien van de kans dat je workloads worden verwijderd.

Als je niet zeker weet wat je wilt, kun je de Azure Pricing Calculator gebruiken - die is handig om te beoordelen wat je kunt winnen versus wat je kunt verliezen. Deze tool helpt je de geschatte uur- of maandelijkse kosten voor het gebruik van Azure VMs te berekenen.

Best Practices voor Azure Spot VMs

Stel een prijsplafond in

Het instellen van maximale prijzen voorkomt dat Azure onverwacht de Spot VM-prijs verandert en geeft je betere controle over je budget. Als de prijs je ingestelde maximum overschrijdt, wordt je VM uitgeschakeld, maar heb je betere controle over je kosten. Echter, de beschikbaarheid zal afnemen omdat je met een prijsplafond eerder wordt uitgeschakeld.

Bekijk historische eviction rates

Bekijk historische eviction rates om mogelijke verstoringen te begrijpen. Hoewel eerdere eviction rates geen garantie bieden voor toekomstige patronen, kunnen ze inzicht geven in de frequentie van onderbrekingen. Dit helpt je te bepalen of je workloads geschikt zijn voor Spot VMs of dat je alternatieve opties nodig hebt.

Maak je workloads hervatbaar

Spot VMs kunnen op elk moment worden uitgeschakeld, dus je moet je workloads zo ontwerpen dat ze onderbreekbaar zijn.

Gebruik je Spot VMs op de juiste tijd

Er zullen veranderingen zijn in de reserve capaciteit op verschillende tijden van de dag en week. Bijvoorbeeld, de vraag naar Azure resources neemt meestal af tijdens weekenden of late avonduren. Je kunt profiteren door spot instances buiten kantooruren te gebruiken, omdat de prijzen dan lager zullen zijn.

Wees flexibel

Flexibiliteit betekent dat je je orkestratie moet aanpassen. Als je kunt, gebruik dan een mix van VM-types. Verschillende VM-families (D-series, F-series) kunnen op elk moment verschillende beschikbare capaciteitsniveaus ervaren. Op deze manier kun je je kansen vergroten om beschikbare capaciteit tegen lagere kosten te verkrijgen.

Maar dat is niet alles; implementeer in meerdere cloud zones en regio's, houd rekening met mogelijke evictions en bereid je voor op verschillende eviction scenario's om je workloads soepel en efficiënt te laten draaien.

Schakel Azure Backup in

Bescherm je Spot VM-gegevens door Azure Backup in te schakelen, zodat je gegevens kunt herstellen als VMs worden onderbroken.

Optimaliseer Schalen met Virtual Machine Scale Sets (VMSS)

Gebruik VMSS om Spot VMs te schalen op basis van de vraag. Dit helpt kosten te beheren door het aantal Spot VMs aan te passen en VMSS kan indien nodig overschakelen naar standaard VMs om de stabiliteit van de workload te waarborgen.

Spot Priority Mix: combineer standaard VMs met Spot VMs

Spot Priority Mix is een Azure-functie waarmee je Spot en standaard VMs in je workload kunt mixen. Het zal workloads verplaatsen naar Spot VMs wanneer beschikbaar en terug naar standaard VMs wanneer niet.

Gebruik Spot VMs voor niet-kritieke taken en standaard VMs voor kritieke taken.

Op deze manier verminder je het risico op verstoring en profiteer je van lagere prijzen voor niet-tijdgevoelige workloads. Deze mix zorgt ervoor dat je workloads veerkrachtig zijn, zelfs als Spot VMs worden uitgeschakeld, omdat standaard VMs zonder onderbreking kunnen blijven draaien.

Bouw een Flexibel Orkestratiemechanisme

Zorg ervoor dat je workload onderbrekingen kan verwerken door een orkestratiemechanisme te bouwen dat automatisch nieuwe Spot VMs kan implementeren na eviction.

Continu monitoren

Monitoring is essentieel bij Spot VMs. Aangezien Spot VMs geen SLA hebben en op elk moment kunnen worden uitgeschakeld, is het belangrijk om te anticiperen wanneer dit zal gebeuren. Met die informatie kun je een nette afsluiting plannen en het vervangingsproces automatiseren om je workload draaiende te houden.

Conclusie

Hoewel er meerdere aankoopopties in Microsoft Azure zijn (pay-as-you-go, reserved instances), raden we aan deze waar mogelijk te benutten. Maar met Spot VMs weet je dat je de best mogelijke tarieven voor compute krijgt.

Bovendien heb je de flexibiliteit om te consumeren en te gebruiken wat je wilt, wanneer je wilt, en het terug te geven aan Microsoft wanneer je het niet meer nodig hebt of wilt. Dan stoppen ze met je te belasten, net als veel abonnementsmodellen.

Houd er echter rekening mee dat je met Spot Instances minder controle hebt. Met andere woorden, je moet je comfortabel voelen met het feit dat Microsoft op elk moment kan beslissen het van je terug te nemen.