In het kort:
Google's Tensor Processing Units (TPU's) zijn specifiek ontworpen voor AI-taken en bieden kostenvoordelen ten opzichte van NVIDIA's GPU's. Morgan Stanley voorspelt dat Google in 2027 zo'n 5 miljoen TPU's zal verkopen.
- Meta test momenteel Google's TPU's, wat NVIDIA-aandelen deed dalen toen dit nieuws uitlekte
- Anthropic tekende een megadeal voor het gebruik van tot 1 miljoen TPU's van Google
- Google's nieuwste "Ironwood" TPU is vier keer beter dan zijn voorganger voor zowel training als inference
Het grote plaatje:
Google's TPU's hebben een fundamenteel voordeel omdat ze vanaf het begin zijn ontworpen voor AI, terwijl NVIDIA's GPU's oorspronkelijk voor gaming bedoeld waren. TPU's gebruiken een systolic array-architectuur die een constante datastroom mogelijk maakt, wat efficiënter is dan GPU's die voortdurend data uit het geheugen moeten ophalen.
De andere kant:
NVIDIA behoudt een sterke positie dankzij zijn CUDA-software, die alleen met NVIDIA-chips werkt en een belangrijk obstakel vormt voor bedrijven die willen overstappen. Google investeert daarom zwaar in betere ondersteuning voor populaire tools zoals PyTorch om deze barrière weg te nemen.
