In het kort:
Scout AI markeert een keerpunt in militaire AI door foundation models om te trainen tot autonome oorlogsmachines die zonder menselijke tussenkomst kunnen doden.
- Het bedrijf gebruikte een 100+ miljard parameter model dat commando's gaf aan kleinere AI-systemen op voertuigen en drones
- Tijdens de test vond een zelfrijdend voertuig een verstopte truck, stuurde drones erop af en vernietigde het doelwit volledig autonoom
- CEO Colby Adcock stelt: "We nemen een hyperscaler foundation model en trainen het om van een chatbot naar een oorlogsvechter te gaan"
Achter de schermen:
De technologie van Scout AI gebruikt een onbekend open source model waarvan alle veiligheidsbeperkingen zijn weggenomen. Dit grote model fungeert als 'Fury Orchestrator' en geeft bevelen aan kleinere 10 miljard parameter modellen die direct de wapensystemen besturen.
De andere kant:
Experts waarschuwen voor de gevaren van onvoorspelbare AI-systemen die over leven en dood beslissen. Michael Horowitz van de Universiteit van Pennsylvania benadrukt dat het "bijzonder moeilijk kan zijn om aan te tonen dat zulke systemen robuust zijn vanuit cybersecurity-perspectief" - iets wat cruciaal is voor militair gebruik.
