In het kort:
De AI-wereld staat op een keerpunt in haar denken over schaalgrootte. Het lang gekoesterde idee dat meer data en rekenkracht automatisch leidt tot betere AI-systemen wordt steeds vaker in twijfel getrokken.
- LeCun stelt dat de meeste interessante AI-problemen juist zeer slecht schalen
- Huidige doorbraken in AI zijn volgens hem 'eigenlijk heel eenvoudig'
- De grootste taalmodellen bevatten ongeveer evenveel informatie als de visuele cortex van een vierjarige
Het grote plaatje:
De industrie zoekt naar nieuwe wegen om AI echt intelligent te maken. LeCun pleit voor een fundamenteel andere aanpak waarbij AI-systemen de fysieke wereld leren begrijpen.
- AI moet snel nieuwe taken kunnen leren en beschikken over gezond verstand
- Wereldmodellen zijn volgens LeCun superieur aan taalmodellen omdat ze consequenties van acties kunnen voorspellen
- Deze visie wordt gedeeld door andere prominente figuren zoals Scale AI-CEO Wang en Cohere-CEO Gomez
