In het kort:
Het aantal klachten over falende chatbots neemt explosief toe, wat de toezichthouders ertoe aanzet strengere regels te eisen voor geautomatiseerde klantenservice.
- Chatbots geven steeds vaker slechte of onjuiste antwoorden en praten mensen naar de mond zonder daadwerkelijk problemen op te lossen.
- Klanten kunnen vaak niet doorschakelen naar een menselijke medewerker wanneer ze dat willen.
- De digitaledienstenverordening (DSA) vereist al dat mensen toegang moeten hebben tot niet-volledig geautomatiseerde communicatie.
Wat volgt:
De AI-wet die volgend jaar ingaat brengt nieuwe verplichtingen voor bedrijven die chatbots inzetten. Organisaties moeten gebruikers voortaan altijd duidelijk informeren wanneer zij communiceren met een geautomatiseerd systeem, omdat het op dit moment vaak onduidelijk is of je met een mens of AI praat.
- De Europese Commissie wordt opgeroepen de AI-wet aan te vullen met specifieke ontwerpregels voor chatbots.
- Deze regels moeten ervoor zorgen dat AI-chatbots "eerlijk, herkenbaar en toegankelijk" zijn zonder mensen op het verkeerde been te zetten.
