AFM en DNB publiceren rapport over de impact van AI in de financiële sector en het toezicht daarop
De snelle ontwikkeling van artificiële intelligentie (AI) stelt AFM en DNB voor uitdagingen in het toezicht. De toezichthouders publiceren nu een rapport met uitgangs- en aandachtspunten voor het vormgeven van het toezicht op AI. AFM en DNB gaan hierover graag de dialoog aan met de sector.
Nederlandse financiële instellingen gebruiken al langer AI
Nederlandse financiële instellingen gebruiken al langer AI en experimenteren met meer geavanceerde AI-modellen, wat doet vermoeden dat het gebruik van AI in de komende jaren verder toeneemt. AI wordt bijvoorbeeld ingezet voor fraudepreventie en -detectie, het tegengaan van witwassen en terrorismefinanciering en cybercriminaliteit, kredietbeoordelingen en identiteitsverificatie. Ook helpt AI medewerkers om efficiënter te werken. Veel instellingen geven aan voorlopig terughoudend te zijn met het gebruik van generatieve AI, al zien ze wel de potentie. Sommige zetten het langzaamaan in voor ondersteunende processen.
AI brengt naast substantiële kansen ook risico’s met zich mee
AI kan leiden tot betere en snellere dienstverlening voor klanten en meer gepersonaliseerde producten, door slimmer gebruik te maken van data. AI biedt financiële instellingen kansen om inkomsten te verhogen, door nieuwe klantengroepen aan te boren, cross-selling mogelijkheden te vergroten en prijzen te optimaliseren. Achter de schermen kan AI leiden tot efficiëntere processen, wat de kosten voor instellingen kan verlagen.
Tegelijkertijd zijn er risico’s, onder andere op het gebied van datakwaliteit, gegevensbescherming, uitlegbaarheid, incorrecte resultaten, discriminatie en uitsluiting, en een hogere mate van afhankelijkheid van enkele grote partijen. Deze risico’s kunnen een impact hebben op financiële instellingen en hun klanten en bevinden zich daarmee ook in het toezichtdomein van de AFM en DNB.
AI heeft gevolgen voor de manier waarop de AFM en DNB toezichthouden
Van financiële instellingen mag verwacht worden dat zij AI verantwoord inzetten. Bestaande regelgeving geldt onverkort ook als AI wordt toegepast. AI heeft wel gevolgen voor de manier waarop de AFM en DNB toezichthouden. Om het gebruik van AI door instellingen te kunnen beoordelen zullen de AFM en DNB hun kennis op dit terrein moeten uitbreiden en in bepaalde gevallen toezichtmethoden en procedures moeten ontwikkelen of aanpassen.
De AI-verordening zal van financiële instellingen die AI toepassen extra aandacht vergen voor een goede bescherming van grondrechten. Voor zover AI wordt ingezet voor financiële dienstverlening, is uitgangspunt van de AI-verordening dat bestaande financieel toezichthouders ook het toezicht op de regels van de verordening op zich nemen. In Nederland zijn dat de AFM en DNB. Zowel Europees als nationaal is brede coördinatie en samenwerking tussen toezichthouders op AI wenselijk, mede gezien de bijzondere risico’s van AI-systemen ten aanzien van grondrechten.
>> Ga naar het rapport De impact van AI op de financiële sector en het toezicht
AFM en DNB gaan graag verder in gesprek met de sector
DNB en AFM blijven graag in dialoog met de sector over dit onderwerp. In het kader van dit rapport is al gesproken met verschillende banken, betaalinstellingen, verzekeraars en pensioenuitvoerders. Hieraan willen de toezichthouders een vervolg geven door later dit jaar een symposium te organiseren, gevolgd door één of meer ronde tafels.
Op 17 oktober as. kun je meer te weten komen over de stappen die DNB en AFM zetten op het gebied van AI. DNB heeft in haar strategie gekozen om smart follower te zijn, ook voor ontwikkelingen op het gebied van AI. In deze sessie vertelt de AFM welk pad zij bewandelen, hoe AI een plek krijgt in de IT-strategie en waar zij in deze reis tegenaan lopen.