Vacatures voor Data Specialisten

Zo gaat het AI-team van NN om met Bias

Bron: Verbond van Verzekeraars - 08 november 2022

Een hackaton over het opvragen van een ‘Bewijs van leven’ via een applicatie bij een levensverzekering was een wake up call voor Tjerrie Smit, Head of Data & AI bij Nationale-Nederlanden (NN). “We dachten dat we het model hadden geleerd wat een geldig paspoort is…” Tijdens de Datadag van het Verbond deelde hij en zijn collega Vincent van de Ven hoe zij omgaan met Artificial Intelligence, ethiek en onderzoek naar vooroordelen (Bias).

Kan het? Mag het? Wil ik het?

Smit: “Tijdens een hackaton enige jaren geleden werkten mijn collega’s en ik aan een applicatie waarmee we een ‘Bewijs van leven’ konden opvragen bij klanten. De applicatie werkte op basis van computer vision, je moest je gezicht voor de camera houden en je paspoort tonen. Op de testdag ging het direct mis. Mijn collega van buitenlandse komaf kreeg de foutmelding ‘Dit is geen geldig paspoort’. Toen ik het probeerde, ging het goed. We kwamen tot de conclusie dat wij dachten dat we het model hadden geleerd wat een geldig paspoort is. Wat we in werkelijkheid hadden gedaan, was het model leren wat een geldig Nederlands paspoort is.”
Dat zette Smit aan het denken. En het was de aanloop naar het ethisch kader van NN. Dat kader is een belangrijke set regels en geeft in wezen antwoord op drie kernvragen over de inzet van Artificial Intelligence (AI): Kan het, technisch gezien? Mag het, in wettelijk opzicht? En wil ik het, vanuit ethisch perspectief?

Lees verder >>

Wil je dit nieuwsbericht verder delen?
Contactgegevens

CareerGuide

Postbus 60184
1320 AE Almere

Tel: +31 36 7440 136

KvK 32090652
ING Bank NL91INGB065.42.67.456
BTW NL.8106.57.041.B01

Wie we zijn

Datacarriere.com is onderdeel van het platform van CareerGuide, 25 vacaturebanken voor specialisten!
Onze vacaturebanken (geen bemiddeling) bieden professionals relevante vacatures binnen hun expertise.

Ook een vacature plaatsen? Neem contact met ons op of stuur hem in via dit formulier.