Home Innovatie & Strategie Real time analyse en de noodzaak voor snellere data opslag

Real time analyse en de noodzaak voor snellere data opslag

112
dainamics

In zijn boek Flash Boys omschrijft auteur Michael Lewis de wereld van high frequency traders en de computersystemen en netwerken die ze bouwen om via hun in huis ontwikkelde algoritmes concurrentievoordeel behalen door net even sneller te kunnen handelen. De vele dollars en euro’s die worden besteed om slechts milliseconden te winnen geven aan hoe belangrijk snelheid is. En high frequency trading is slechts een voorbeeld van real time analyse. Denk ook aan IoT en Deep Learning. Wat hebben we aan alle data die sensoren verzamelen en waar we na analyse de werking van apparaten kunnen verbeteren of het gedrag van mensen real time kunnen beïnvloeden, als de actualiteit de analyse al heeft achterhaald?

Voor- en nadelen SSD

CPU’s en GPU’s worden sneller, hebben meer cores ter beschikking en de hoeveelheid intern geheugen neemt gestaag toe om workloads in geheugen te kunnen processen. De high performance servers zijn al direct geconnecteerd met 100Gb/E en interne SSD’s zijn al de facto standaard voor deze real time analytics servers. Echter interne SSD’s hebben hun beperkingen op het gebied van efficiency in capaciteit, koeling, levensduur en onderhoud. Daarnaast moeten ter beveiliging van de data de SSD’s in een RAID groep worden geplaatst. Vaak een identieke kopie om performanceverlies door Raid te elimineren. De SSD’s worden gepresenteerd als eenvoudige volumes en kunnen niet worden gedeeld met andere servers waardoor ongebruikte capaciteit niet wordt benut.

Inefficiëntie

Ondanks alle limitatie van interne SSD’s is het op dit moment de facto nog de standaard voor de meeste in gebruik zijde real time data analyse systemen. Bijkomend probleem is echter dat we die resultaten alleen kunnen bereiken als we over de voldoende bandbreedte beschikken om alle data van en naar de opslaglocatie te krijgen. Daarvoor worden meer servers gebruikt dan die nodig zijn voor het processen van de data. Wederom inefficiëntie.

NVME over fabric

Het nieuwe alternatief heet NVME over fabric. Een met NVME PCI uitgeruste standaardserver die via het netwerk is geconnecteerd met de high performance compute nodes en die via de low latency netwerkconnectie een volume krijgt geserveerd dat net zo snel is als dat het in de compute node zelf wordt geplaatst. Denk aan microseconden latency in plaats van milliseconden, miljoenen IOPS en tientallen GB/sec aan thoughput. En dat slechts in een zo klein mogelijke server chassis. Ter illustratie een high end flash gebaseerd fiber channel storage SAN levert 1million IOPS, heeft op zijn best honderden milliseconden aan latency en heeft een aantal GB/sec aan throughput, en dat in vol 19” 42U rack.

Fundamentele tekortkomingen

Met NVME over fabric worden 3 fundamentele tekortkomingen in de huidige real time analyse omgevingen direct geëlimineerd.

  1. Onderbezetting van SSD-capaciteit. Elke server krijgt nu exact de juiste hoeveelheid performante dataopslag toegewezen door het gedeelde NVME storage opslagsysteem.
  2. De hoeveelheid benodigde interne RAM geheugen. Doordat de data zeer snel kan worden weggeschreven en geraadpleegd worden wachttijden geëlimineerd en is tot wel 50% minder aan RAM cache geheugen benodigd per server.
  3. De hoeveelheid servers die nodig zijn voor data doorvoersnelheid. NVME over fabric levert tientallen GB/sec aan throughput waardoor minder servers nodig zijn om de gewenste bandbreedte te verkrijgen. Grotere bestanden en veel meer data kan door minder servers worden getransporteerd van en naar het opslagsysteem.

Wereld

Innovatie is paradoxaal. We willen de vruchten van de snellere maar ook de betrouwbaarheid van proven technologie. Echter, in nieuwe business modellen zoals high frequency trading, reisvergelijkingsites en IoT hebben we alleen wat aan de resultaten als ze op tijd zijn en als het implementeren van de oplossing niet langer duurt dan de levensduur van het business model.

Welkom in de wereld die NVME heet en waarmee u binnenkort geconfronteerd gaat worden.

Vincent van der Linden, Managing Director Benelux bij Manstor

LAAT EEN REACTIE ACHTER

Please enter your comment!
Please enter your name here