Logo van Ars Technica

-Mens & Impact

AI-modellen in zorg worstelen met privacy en vooroordelen

Copyright arstechnica
Foto: VandaagAI.nl

Medische AI-systemen maken grote stappen voorwaarts, maar databescherming en bias blijven cruciale uitdagingen. Nieuwe initiatieven richten zich op het trainen van modellen met diverse, representatieve datasets.

In het kort:

De zoektocht naar betrouwbare AI in de gezondheidszorg leidt tot nieuwe benaderingen in dataverwerking en modeltraining. Privacy en representativiteit staan centraal bij recente ontwikkelingen.

  • Open Evidence, gebruikt door 400.000 Amerikaanse artsen, baseert zich uitsluitend op medische vakliteratuur en officiële richtlijnen.
  • Het NHS Foresight-project analyseert geanonimiseerde data van 57 miljoen patiënten voor het voorspellen van gezondheidsrisico's.
  • Europese wetenschappers ontwikkelden Delphi-2M, dat ziektevatbaarheid op lange termijn voorspelt.

De andere kant:

Privacy-zorgen leiden tot toenemende waakzaamheid bij het gebruik van patiëntgegevens voor AI-training. Het NHS Foresight-project werd recent stilgelegd na klachten over databescherming.

  • Britse medische verenigingen uitten bezwaren tegen het gebruik van gevoelige gezondheidsdata.
  • AI-systemen kunnen 'hallucineren', wat in medische context gevaarlijk kan zijn.
  • Experts pleiten voor focus op het dichten van cruciale gezondheidszorgkloven in plaats van marginale prestatieverbeteringen.

Bronnen

Het belangrijkste nieuws gratis in je mailbox

Elke week een korte e-mail met de meest relevante verhalen.

Bekijk ook