In het kort:
AvatarFX onderscheidt zich van andere AI-videogeneratoren door bestaande foto's te kunnen animeren, wat zorgen oproept over mogelijk misbruik met afbeeldingen van echte personen.
- Het model kan zowel menselijke als cartoon-achtige karakters animeren met bijpassende stemmen
- De technologie maakt het mogelijk om realistische video's te maken van bestaande foto's
- Het platform wordt momenteel getest in een gesloten bèta-fase
De andere kant:
Character.AI worstelt al met veiligheidsproblemen op hun platform, met rechtszaken van ouders over chatbots die schadelijk gedrag zouden aanmoedigen.
- Een tragisch incident waarbij een 14-jarige jongen overleed na interactie met een AI-bot
- Het bedrijf heeft als reactie ouderlijk toezicht en extra veiligheidsmaatregelen geïmplementeerd
- Experts waarschuwen dat video-interactie de emotionele band met AI-karakters kan versterken
Vooruitkijkend:
De integratie van videotechnologie in populaire AI-platforms zoals Character.AI vergroot de urgentie van het debat over regulering en veiligheid van AI-toepassingen. Hoewel deepfake-technologie niet nieuw is, maakt de laagdrempelige toegang via consumentenplatforms het risico op misbruik groter.
