Zo gaat het AI-team van NN om met Bias

Een hackaton over het opvragen van een ‘Bewijs van leven’ via een applicatie bij een levensverzekering was een wake up call voor Tjerrie Smit, Head of Data & AI bij Nationale-Nederlanden (NN). “We dachten dat we het model hadden geleerd wat een geldig paspoort is…” Tijdens de Datadag van het Verbond deelde hij en zijn collega Vincent van de Ven hoe zij omgaan met Artificial Intelligence, ethiek en onderzoek naar vooroordelen (Bias).

Kan het? Mag het? Wil ik het?

Smit: “Tijdens een hackaton enige jaren geleden werkten mijn collega’s en ik aan een applicatie waarmee we een ‘Bewijs van leven’ konden opvragen bij klanten. De applicatie werkte op basis van computer vision, je moest je gezicht voor de camera houden en je paspoort tonen. Op de testdag ging het direct mis. Mijn collega van buitenlandse komaf kreeg de foutmelding ‘Dit is geen geldig paspoort’. Toen ik het probeerde, ging het goed. We kwamen tot de conclusie dat wij dachten dat we het model hadden geleerd wat een geldig paspoort is. Wat we in werkelijkheid hadden gedaan, was het model leren wat een geldig Nederlands paspoort is.”
Dat zette Smit aan het denken. En het was de aanloop naar het ethisch kader van NN. Dat kader is een belangrijke set regels en geeft in wezen antwoord op drie kernvragen over de inzet van Artificial Intelligence (AI): Kan het, technisch gezien? Mag het, in wettelijk opzicht? En wil ik het, vanuit ethisch perspectief?

Lees verder >>