In het kort:
AWS heeft een innovatief koelsysteem ontwikkeld genaamd In-Row Heat Exchanger (IRHX), dat direct kan worden geïntegreerd in bestaande en nieuwe datacenters voor het koelen van krachtige AI-processors.
- Traditionele koeloplossingen waren ontoereikend vanwege ruimtegebrek en hoog waterverbruik
- Het nieuwe systeem is specifiek ontworpen voor Nvidia's GB200 NVL72, die 72 Blackwell GPU's in één rack combineert
- De technologie is nu beschikbaar voor klanten via AWS's nieuwe P6e computing instances
Het grote plaatje:
Deze ontwikkeling past in Amazon's strategie om meer eigen hardware te ontwikkelen en minder afhankelijk te zijn van externe leveranciers.
- AWS is de grootste cloudprovider ter wereld en behaalde recent de hoogste operationele marge sinds 2014
- Microsoft volgt een vergelijkbare strategie met eigen Sidekick-koelsystemen voor hun Maia AI-chips
- De oplossing vermijdt kostbare en tijdrovende aanpassingen aan bestaande datacenters
Vooruitkijkend:
De nieuwe koeltechnologie stelt AWS in staat om de meest geavanceerde AI-infrastructuur aan te bieden zonder grootschalige aanpassingen aan hun datacenters, wat hen een voorsprong geeft in de race om AI-computing capaciteit.
