In het kort:
Modular's ambitieuze plan om CUDA te vervangen klinkt krankzinnig, maar de startup heeft al $380 miljoen opgehaald en wordt gewaardeerd op $1,6 miljard.
- Oprichters Chris Lattner (maker van Apple's Swift) en Tim Davis bouwden eerder Google's TPU-software en richten zich nu op CUDA zelf.
- Hun nieuwe programmeertaal Mojo combineert de eenvoud van Python met de snelheid van C++, speciaal ontworpen voor AI-chips.
- Het MAX-platform kan nu zowel NVIDIA's nieuwste Blackwell B200 als AMD's MI355X GPU's draaien op dezelfde software.
Het grote plaatje:
CUDA is in twintig jaar uitgegroeid van grafische chip-software tot het eigenlijke besturingssysteem van de AI-boom. Deze dominantie bindt vrijwel alle AI-ontwikkeling aan NVIDIA's hardware, wat innovatie belemmert en kosten opdrijft.
- Kylan Gibbs van Inworld AI testte Modular's software en behaalde 60% kostenbesparing en 40% snelheidswinst op NVIDIA-chips.
- AMD's GPU's presteren volgens Modular 50% beter op hun platform dan op AMD's eigen software.
- "We proberen zoiets als Android te bouwen, maar dan voor AI-hardware," legt Lattner uit, verwijzend naar Google's mobiele besturingssysteem.
De andere kant:
NVIDIA zou Modular's plannen morgen kunnen dwarsbomen door CUDA uit te breiden naar rivaliserende chips, maar dat zou hun grootste concurrentievoordeel ondermijnen.
