In het kort:
De vacature komt op een cruciaal moment waarin AI-modellen steeds krachtiger worden maar ook nieuwe risico's introduceren voor de maatschappij.
- De functie omvat het aanpakken van werkloosheid, desinformatie, misbruik door kwaadwillenden en de aantasting van menselijke autonomie.
- Altman benadrukt dat modellen nu zo goed worden in cybersecurity dat ze kritieke kwetsbaarheden beginnen te vinden.
- ChatGPT-gebruikers die de bot als therapie-alternatief gebruiken, vertonen soms zorgwekkend gedrag zoals waanbeelden en zelfbeschadiging.
Achter de schermen:
OpenAI worstelt met een exodus van veiligheidsexperts die het bedrijf beschuldigen van het prioriteren van winst boven veiligheid. Jan Leiki, voormalig leider van het inmiddels opgeheven veiligheidsteam, verklaarde in mei 2024 dat "veiligheidscultuur en processen op de achtergrond zijn geraakt ten gunste van glimmende producten."
- Daniel Kokotajlo, een andere ex-medewerker, zei zijn vertrouwen te hebben verloren dat OpenAI verantwoord zal handelen rond de komst van AGI.
- Het veiligheidsteam voor AGI-gerelateerde risico's kromp van 30 naar ongeveer 15 mensen door vertrekken.
