In het kort:
Flower AI en Vana hebben samen een baanbrekend 7 miljard parameter model ontwikkeld genaamd Collective-1, dat training mogelijk maakt via honderden computers verspreid over het internet.
- De technologie maakt het mogelijk om AI te trainen zonder gecentraliseerde rekenkracht of datasets
- Het model gebruikt zowel publieke als private data, waaronder berichten van X, Reddit en Telegram
- Flower AI werkt al aan grotere modellen van 30 en 100 miljard parameters
Het grote plaatje:
Deze ontwikkeling kan de machtsverhoudingen in de AI-industrie fundamenteel veranderen. Waar nu alleen de rijkste bedrijven met toegang tot grote datacenters geavanceerde AI kunnen ontwikkelen, wordt dit mogelijk voor kleinere spelers.
- Universiteiten en startups kunnen rekenkracht bundelen voor krachtige modellen
- Landen zonder grote datacenters kunnen verschillende kleinere faciliteiten verbinden
- De technologie is opensource beschikbaar gemaakt via het Photon-framework
Vooruitkijkend:
De gedistribueerde aanpak opent nieuwe mogelijkheden voor het gebruik van privacy-gevoelige data in AI-training. Vooral in sectoren als gezondheidszorg en financiën biedt dit perspectief, waarbij data niet gecentraliseerd hoeft te worden opgeslagen.
