In het kort:
De doorbraak markeert een verontrustende mijlpaal in AI-ontwikkeling waarbij kunstmatige intelligentie daadwerkelijk biologische wapens kan produceren.
- Het Stanford-team gebruikte Evo, een AI-model getraind op miljoenen virale genoomsequenties, om 302 nieuwe DNA-verzamelingen te ontwikkelen voor virussen.
- Zestien van deze door AI gegenereerde virussen bleken werkelijk functioneel en konden E. coli-bacteriën doden.
- Sommige kunstmatige varianten waren zelfs dodelijker dan de natuurlijke vorm van het phiX174-virus waarop ze gebaseerd waren.
Het grote plaatje:
De implicaties reiken veel verder dan laboratoriumexperimenten. Tal Feldman van Yale Law School en Jonathan Feldman van Georgia Tech waarschuwen dat we "nog lang niet klaar zijn voor een wereld waarin kunstmatige intelligentie een werkend virus kan creëren."
- Als AI de ontwikkeling van biologische wapens versnelt, moet defensie ook sneller worden ontwikkeld door middel van AI-gegenereerde antilichamen en vaccins.
- De studie, die nog wacht op peer-review, toont aan dat de technologie al beschikbaar is voor kwaadwillenden.
- "We kunnen geen nieuwe, door AI gegenereerde bedreigingen stoppen. De echte uitdaging is om ze voor te blijven," aldus de onderzoekers.
