In het kort:
De onderzoekers testten AI-tools om varianten van bekende toxines te ontwerpen die niet worden herkend door bestaande screeningssoftware. Dit creëert een nieuwe vorm van biologische bedreiging.
- Van de 75.000 AI-gegenereerde toxinevarianten slaagde een aanzienlijk deel erin om door vier verschillende screeningsprogramma's heen te glippen.
- Drie van de vier softwarepakketten werden na deze ontdekking geüpdatet, wat hun detectievermogen aanzienlijk verbeterde.
- De onderzoekers behandelden dit als een 'biologische zero-day' en werkten samen met veiligheidsdiensten om patches te ontwikkelen.
Het grote plaatje:
DNA-screeningssystemen zijn al decennia lang de eerste verdedigingslinie tegen biologische dreigingen. Deze systemen scannen DNA-bestellingen op overeenkomsten met bekende gevaarlijke eiwitten en virussen.
- AI-tools kunnen nu eiwitten ontwerpen die dezelfde dodelijke functie hebben als bekende toxines, maar zo verschillend zijn dat ze niet worden herkend door bestaande screening.
- Hoewel de meeste AI-ontworpen varianten waarschijnlijk niet functioneel zijn, kunnen enkele werkende exemplaren tussen zitten die ongedetecteerd blijven.
Vooruitkijkend:
Naarmate AI-tools sophisticatieder worden, groeit de kans dat ze volledig nieuwe toxines kunnen ontwerpen zonder gebruik te maken van bestaande voorbeelden. Dit zou de huidige screeningsmethoden, die gebaseerd zijn op vergelijking met bekende dreigingen, volledig kunnen omzeilen.
