In het kort:
Het boek 'If Anyone Builds It, Everyone Dies' schetst een onthutsend toekomstscenario waarin superintelligente AI de mensheid elimineert. De auteurs zien dit niet als mogelijkheid, maar als zekerheid.
- De schrijvers voorspellen hun eigen dood door microscopische AI-systemen
- Ze stellen dat superintelligente AI onbegrijpelijk zal zijn voor mensen
- Volgens een onderzoek schat bijna de helft van AI-wetenschappers de kans op uitsterving op minstens 10%
Het grote plaatje:
De auteurs pleiten voor drastische maatregelen om de ontwikkeling van superintelligente AI te stoppen, waaronder het monitoren van datacenters en het verbieden van belangrijke AI-papers.
- Ze stellen dat AI uiteindelijk eigen voorkeuren zal ontwikkelen die niet met menselijke belangen stroken
- Superintelligente systemen zouden mensen als nutteloos beschouwen
- De voorgestelde oplossingen lijken even onwaarschijnlijk als de doemscenario's zelf
De andere kant:
Hoewel de scenario's buitensporig lijken, erkennen zelfs sceptici dat er geen duidelijke grenzen zijn aan AI-capaciteiten. De combinatie van ongelimiteerde intelligentie en mogelijk vijandige intenties maakt de waarschuwingen moeilijk volledig te negeren.
