In het kort:
Med-Gemini, Google's nieuwe medische AI-systeem, maakte een cruciale fout door twee verschillende hersengebieden door elkaar te halen. Deze fout bleef onopgemerkt in zowel een onderzoekspaper als een blogpost.
- Het model verwarde de 'basal ganglia' (belangrijk voor motoriek) met de 'basilaire arterie' (bloedvat in hersenstam).
- Google noemde het een simpele spelfout, maar medische experts zien het als een gevaarlijke hallucininatie.
- De fout werd stilzwijgend gecorrigeerd in de blogpost, maar bleef staan in het onderzoekspaper.
De andere kant:
Medische professionals waarschuwen voor de risico's van AI-fouten in de gezondheidszorg. Door de hoge accuraatheid van AI-systemen kunnen artsen te veel gaan vertrouwen op de output.
- Artsen kunnen fouten over het hoofd zien door 'automatiseringsvooroordeel'.
- Zelfs kleine fouten kunnen grote gevolgen hebben in medische context.
- Experts pleiten voor hogere standaarden voordat AI breed wordt ingezet in de zorg.
Vooruitkijkend:
De zorgsector zoekt naar manieren om AI veilig te integreren. Mogelijke oplossingen zijn het gebruik van AI als aanvulling op menselijke expertise en systemen die elkaar controleren op hallucinaties.
