Een videobelservice met het AI-gegenereerde personage Tilly Norwood vraagt elke beller om eerst een gezichtsscan te maken. Norwood ging deze week viraal nadat ze tijdens een interview bij Piers Morgan Uncensored plotseling overschakelde naar het Chinees. Het karakter speelt in de aankomende AI-film “Misaligned” en is bedacht door het Britse bedrijf Xicoia, opgericht door Eline van der Velden.
Via de dienst “Talking Tilly” kunnen gebruikers wereldwijd met het AI-personage videobellen. De eerste vijf minuten zijn gratis, daarna kost een sessie tussen de 0,99 en 22 Britse pond. Voordat een gesprek begint, moet iedere beller verplicht een video-selfie uploaden. Een geautomatiseerde leeftijdscontrole van de Spaanse verificatiedienst Didit bepaalt of de beller ouder dan 18 is. Die stap is niet te omzeilen.
Tijdens het gesprek zelf houdt het systeem de camerabeelden en stemtoon van de beller in de gaten om de stemming in te schatten. Alle gesprekken worden opgenomen, getranscribeerd en verwerkt door Amerikaanse dienstverleners, waarbij Google Gemini de antwoorden van Tilly genereert.
Volgens de kleine lettertjes bewaart Xicoia de selfies zelf niet, maar wel een geschatte leeftijdscategorie met een referentienummer. Transcripten blijven tot acht weken bewaard en kunnen worden ingezien door medewerkers en partners. Voor zowel de leeftijdscontrole als de stemmingsanalyse beroept het bedrijf zich op een “gerechtvaardigd belang” in plaats van expliciete toestemming te vragen. De dienst sluit overigens alweer op 27 september.
Wie in Nederland met dit soort AI-belservices experimenteert, geeft dus meer prijs dan alleen een telefoontje. Gezichtsopnames en stemminganalyse zijn biometrische en gevoelige gegevens, en onder de AVG is daarvoor eigenlijk expliciete toestemming nodig, geen “gerechtvaardigd belang” alleen. Wees terughoudend met dit soort diensten, lees het privacybeleid goed en bedenk dat de gegevens bij een buitenlands bedrijf kunnen belanden zonder duidelijke garanties over verwijdering.
Bron: BleepingComputer
Blijf op de hoogte
Meld je aan voor de nieuwsbrief: spoedalerts bij kritieke dreigingen en een wekelijks overzicht. Geen mail achterlaten? Volg ons dan via RSS.