“Het is een illusie dat AI-systemen niet discrimineren”
We spreken erover met Noëlle Cicilia, medeoprichtster van het Amsterdamse bedrijf Brush AI en Dennie van den Biggelaar van Onesurance. Samen verzorgden ze een datasessie tijdens de Data Dag 2025 bij het Verbond op 2 oktober.
In jullie keynote staat centraal dat ethiek een onderdeel moet zijn van de data science lifecycle. Hebben jullie hier een voorbeeld van en waarom is het zo belangrijk?
Noelle: “Dennie en ik hebben samengewerkt aan een hele leuke case voor Dazure. Wat ik heel leuk vind, is dat responsible AI een enabler is geweest bij dit project. We hebben voor het maken van de AI-oplossing heel erg nagedacht over de risico’s waardoor we tot een mooie oplossing zijn gekomen die anders niet had gekund. We hebben veel weerstand bij de werknemers, verzekeraars, tussenpersonen en medische experts/acceptanten weggenomen door heel goed over dingen na te denken.” Dennie beaamt dit. “Algoritmes worden steeds belangrijker, maar hebben geen moreel kompas. Het is belangrijk om de zogenaamde data science lifecycle te volgen, maar daarnaast nog een ethische lifecycle toe te voegen. Eigenlijk zou iedereen volgens zo’n proces moeten nadenken wat er mis kan gaan. Het is ook voor verzekeraars belangrijk; juist als je nadenkt over ethiek, krijg je veel wél voor elkaar.”
[....]
