In het kort:
De nieuwe clustering-functie transformeert gewone Macs in krachtige AI-systemen die kunnen concurreren met dure GPU-clusters, maar dan tegen een fractie van het energieverbruik.
- Vier Mac Studios kunnen samen het gigantische Kimi-K2-Thinking model draaien met 1 biljoen parameters, gebruikmakend van in totaal 2TB unified memory.
- Het systeem verbruikt minder dan 500 watt – tien keer minder dan vergelijkbare GPU-clusters waar NVIDIA's RTX 5090 alleen al 575 watt vraagt.
- De functie werkt met M4 Pro Mac mini's en M4 Pro/Max MacBook Pro's, niet alleen de dure Mac Studio.
Het grote plaatje:
Deze ontwikkeling lost een fundamenteel probleem op in de AI-wereld: toegang tot rekenkracht voor grote modellen zonder torenhoge energiekosten.
- Eerdere Thunderbolt-clusters waren beperkt tot 10 Gb/s bij gebruik van een hub, maar Thunderbolt 5 haalt de volledige 80 Gb/s snelheid.
- Ontwikkelaars hebben geen speciale hardware nodig – alleen standaard Thunderbolt 5-kabels en compatibele Macs.
- Het MLX-project krijgt volledige toegang tot de neural accelerators op de M5-chip, wat AI-inferencing dramatisch versnelt.
De andere kant:
Ironisch genoeg kan de enige beschikbare M5 Mac – de 14-inch MacBook Pro – niet profiteren van deze functie omdat deze alleen Thunderbolt 4 ondersteunt. Een Mac Studio met 512GB RAM kost bovendien $9.499, wat nog altijd een forse investering is voor kleinere ontwikkelaars.
