De afgelopen paar jaar is er een ongekende vraag naar Artificial Intelligence (AI) ontstaan, waardoor de datacenterinfrastructuren die deze intelligentie moeten ondersteunen, een hoge vlucht hebben genomen. Nu verwacht wordt dat het gebruik van AI 10-15% van de totale infrastructuur van datacenters zal uitmaken, moeten bedrijven hun datacenterapparatuur optimaliseren voor prestaties en tegelijkertijd de toename van operationele kosten of de verdere impact op het milieu minimaliseren.
AI- en Machine Learning (ML) toepassingen vereisen krachtige apparatuur en opstellingen die intensieve koeling vereisen naast een hoger stroomverbruik. Alleen al de overtollige warmte die AI-systemen produceren is moeilijk te reduceren met conventionele luchtkoelingstechnieken. Hoewel vloeistofkoeling naar voren is gekomen als een oplossing, waarvan wordt gemeld dat het de kosten voor data-energie jaarlijks met 10% verlaagt, blijven het verhoogde energieverbruik en de gevolgen voor het milieu bestaan, wat laat zien dat er nog meer werk aan de winkel is.
Datacenter workloads op maat maken voor AI
Nu datacenters zich inspannen om verwerkingsintensieve toepassingen zoals AI en geavanceerde analyse mogelijk te maken, is het cruciaal om de specifieke vereisten voor workloads te begrijpen. Elke workload kan andere rekenkracht vereisen, wat resulteert in een variërend energieverbruik en warmteontwikkeling.
Door meer inzicht te krijgen in hun workloads kunnen bedrijven een reeks technologieën en oplossingen inzetten om de negatieve milieueffecten van datacenters te beperken en tegelijkertijd de prestaties te optimaliseren. Bij het opzetten van een server zijn er talloze keuzes voor componenten en configuraties en elke toepassing vereist een systeem dat de werkbelasting het beste ondersteunt. Werken met AI vereist bijvoorbeeld een andere server dan werken met 5G.
Traditionele servers, die zijn ontworpen voor algemene doeleinden, hebben vaak te veel resources om een breed scala aan toepassingen aan te kunnen, omdat ze zijn bedoeld om verschillende typische eisen aan te kunnen. Aan de andere kant biedt een geoptimaliseerd systeem dat op maat is gemaakt voor specifieke workloads uitgebreide opties voor specifieke componenten en configuraties, om te voldoen aan de prestatiebehoeften van een bepaalde set werklasten. Deze verbeteringen elimineren onnodige functies, wat resulteert in kostenbesparingen, lager stroomverbruik en minimale warmteontwikkeling.
In het geval van AI kunnen de prestaties worden verbeterd met platforms met specifieke hardware keuzes die verbeteringen bieden voor machine learning workloads. Bepaalde CPU’s bieden bijvoorbeeld specifieke AI-acceleratiefuncties en -hardware om AI-workloads te verbeteren, of bevatten High Bandwidth Memory (HBM), dat gegevens veel sneller van en naar de CPU kan brengen dan andere geheugens. Hoewel het belangrijk is om hardware-opties te overwegen die de beoogde toepassing helpen versnellen, kunnen deze ook nadelen hebben. Sommige van deze opties, waaronder HBM, introduceren nieuwe thermische beperkingen die moeten worden aangepakt met extra koeloverwegingen.
Datacenter maximaliseren
Als je bedenkt dat het systeem zal worden opgeschaald naar honderden, duizenden of zelfs tienduizenden eenheden, kunnen zelfs kleine efficiëntieverbeteringen door de keuze van componenten aanzienlijk bijdragen aan een volledige implementatie. Op dezelfde manier kan stroomefficiëntie in een server na verloop van tijd leiden tot enorme kostenbesparingen. Zelfs na het aanpassen van de apparatuur om de beste prestaties en efficiëntie voor de beoogde workloads te krijgen, zijn er echter nog meer stappen en technologieën die kunnen worden gebruikt voor verdere optimalisatie van prestaties en stroomverbruik.
In het streven naar meer efficiëntie, duurzaamheid en het voldoen aan de toenemende vraag naar AI, heeft de IT-industrie aanzienlijke vooruitgang geboekt met nieuwe technologieën die helpen de impact op het milieu te verminderen en tegelijkertijd het gebruik van bronnen te optimaliseren. Van dichtere en efficiëntere rack-scale implementatiebenaderingen tot nieuwe koelingontwerpen voor datacenters en zelfs het opsplitsen van hardwareresources voor meer flexibiliteit en gebruik. De industrie heeft tegenwoordig een breed scala aan opties beschikbaar die grote en kleine bedrijven een balans bieden tussen hogere prestaties, lagere kosten en milieuverbeteringen.
De juiste methode voor vloeistofkoeling gebruiken
Er zijn een aantal basisstappen die organisaties kunnen gebruiken om deze doelen te bereiken, namelijk het verbeteren van de prestaties en het tegelijkertijd verlagen van de overhead en de impact op het milieu. Het verhogen van de dichtheid van racks is een van de meest effectieve investeringen voor bedrijven die deze balansdoelen willen bereiken, omdat het een effectiever gebruik van de reeds geïnstalleerde koelinfrastructuur mogelijk maakt. Ook het gebruik van warme/koude gangpaden door de koeluitlaat te consolideren in een kleiner gebied maakt het beter beheersbaar en zorgt voor een snellere ontluchting en koeling voor een efficiënter en effectiever HVAC-systeem.
Maar de meest voorkomende en invloedrijkste oplossing om over te stappen op een groener datacenter met betere prestaties is de toepassing van technologieën voor vloeistofkoeling. Vooral omdat de prestatiebehoeften in het tijdperk van AI aanzienlijk zijn toegenomen, is de toepassing van vloeistofkoeling een cruciale stap geworden in de voorbereiding van een datacenter op de voordelen die het biedt – de bijna vereiste superieure warmteafvoer.
De cruciale factor hierbij is het kiezen van de meest geschikte methode voor vloeistofkoeling die is afgestemd op een bepaald datacenter. Er zijn veel manieren om vloeistofkoelingtechnologie te implementeren, maar er zijn er twee die het populairst zijn: direct-to-chip (D2C) en immersiekoeling.
D2C-koeling is de meest voorkomende optie, omdat deze grotendeels eenvoudiger te integreren is met traditionele luchtgekoelde oplossingen en de infrastructuur die al in een datacenter aanwezig is. D2C houdt in dat er koude vloeistof over de warmteproducerende elektronica stroomt, zodat de vloeistof de warmte van de chips kan absorberen. De vloeistof wordt vervolgens naar een ander gebied geleid waar het kan worden gekoeld met ventilatoren, zodat de warmte uit het systeem kan worden afgevoerd.
Wanneer een server echter volledig wordt ondergedompeld in een tank gevuld met een niet-geleidende vloeistof, spreekt men van immersiekoeling. Bij dit type toepassing worden de systemen ondergedompeld in een vloeibaar koelmiddel (vaak een soort minerale, synthetische of biologische olie). Deze vloeistof kan worden weggeleid en de warmte kan worden afgevoerd, zoals bij D2C-koeling, of het dompelbad is een gesloten systeem waarbij de vloeistof warmte verspreidt door te koken in gas, dat wordt teruggewonnen en gecondenseerd (gekoeld) door een warmtewisselaar voordat het wordt teruggevoerd naar het bad.
Dompelkoeling van complete servers
Vloeistofkoeling is niet alleen kosteneffectief en vermindert het gebruik van broeikasgassen uit elektriciteit, het biedt ook prestatieverbeteringen. Met een betere koeling zullen de elektrische componenten minder snel tegen thermische limieten aanlopen, wat betekent dat ze langer op maximale prestaties kunnen draaien zonder dat ze onder druk komen te staan. Dit is vooral belangrijk voor bedrijven die zich richten op geavanceerde AI-toepassingen die steeds hogere prestatieniveaus nodig hebben.
Maar voor organisaties die drastische stappen willen zetten in de richting van een beter, groener datacenter is het belangrijk om nieuwere methoden en technologieën te onderzoeken – zoals CXL.
CXL gebruiken voor duurzaamheid en kostenefficiëntie
CXL zal een revolutie teweegbrengen in datacenterontwerpen omdat een betere resourcetoewijzing mogelijk maakt en niet zo afhankelijk is van onmiddellijke lokale computermiddelen in elke server. Geheugen is van oudsher een belangrijke kostenpost voor Cloud klanten die high-end AI- en ML-toepassingen nastreven, maar het is niet altijd volledig nodig of wordt niet altijd gebruikt. CXL-technologieën bieden veel verbeteringen, flexibiliteit en efficiëntie voor de geheugenbronnen in een datacenter. Dit houdt ook in dat individuele systemen op elk moment precies zoveel geheugen kunnen gebruiken als ze nodig hebben – zelfs als dat meer of minder geheugen is dan het systeem zelfstandig heeft.
Er zijn een aantal mogelijkheden van CXL die naar verwachting zullen zorgen voor opmerkelijke transformaties voor datacenters en servers. Het zal bijvoorbeeld naadloze geheugenintegratie mogelijk maken tussen de CPU en aangesloten apparaten zoals versnellers, GPU’s en geheugenapparaten. Hierdoor hebben zowel de CPU als de apparaten direct toegang tot het geheugen, waardoor er geen software-interventie of synchronisatie nodig is. Daarnaast breidt CXL de geheugenmogelijkheden uit door de CPU in staat te stellen om grotere geheugenpools op aangesloten apparaten aan te spreken, wat uitzonderlijke snelheid en bandbreedte oplevert. Deze vooruitgang resulteert in een grotere geheugencapaciteit en betere prestaties, met name voor AI/ML-toepassingen.
Dit alles betekent de mogelijkheid voor meer gedesaggregeerde architecturen voor datacenters als geheel, die minder afhankelijk kunnen zijn van elke individuele server met het beste beschikbare geheugen en computermiddelen. Het creëert ook de mogelijkheid voor gespecialiseerde serverontwerpen met verschillende componenten, waardoor de manier waarop servers worden gebouwd en verkocht verandert, nu de traditionele server met computing, geheugen, opslag, netwerken, etc. allemaal verpakt in één unit misschien niet langer optimaal of noodzakelijk is.
Groen is de toekomst van datacenters
AI is een integraal onderdeel van de toekomst en vereist een duurzame aanpak van datacenteractiviteiten. Door rekening te houden met lange termijn factoren en essentiële componenten te vervangen, kunnen datacenterbeheerders betere prestaties, lagere kosten en een kleinere ecologische voetafdruk realiseren.
Datacenters uitrusten voor groenere AI houdt in dat de systeemarchitectuur wordt geoptimaliseerd, innovatieve koeloplossingen zoals vloeistofkoeling worden toegepast en opkomende technologieën zoals CXL worden omarmd. Door het energieverbruik voor koeling te verlagen via realtime controle met behulp van sensoren en machine learning, kunnen bedrijven hun energiekosten verlagen en hun CO2-voetafdruk verkleinen. Met deze maatregelen kunnen datacenters gedijen in een AI-gedreven wereld en tegelijkertijd voldoen aan de duurzaamheidsdoelstellingen.
Michael McNerney, Vice President Marketing en Netwerkbeveiliging bij Supermicro
