'Gebruik van AI in financiële sector brengt ook risico’s als discriminatie met zich mee'

Dit is een expertquote van Johan Traa, Partner Finance and Technology, Boer & Croon.

U kunt dit bericht, of delen hiervan gebruiken op uw kanalen, met vermelding van de naam van de expert en organisatie. Aanleiding: AI? We zijn onderdeel van een levensgroot experiment - NRC

Kunstmatige intelligentie (AI) heeft de manier waarop we werken snel getransformeerd, ook in de financiële sector, door processen te veranderen, de efficiëntie te verbeteren en voorspellende analyses mogelijk te maken. Naarmate AI steeds alomtegenwoordiger wordt, brengt het ook bepaalde risico's met zich mee die moeten worden aangepakt om eerlijke en ethische praktijken te waarborgen. In de financiële sector wordt het gebruik van AI bij kredietrisicoanalyse en fraudedetectie steeds gebruikelijker, maar de verborgen vooroordelen in de onderliggende gegevens kunnen discriminatie in de hand werken.

Hoewel algoritmen zijn ontworpen om expliciete discriminatie op basis van factoren zoals etniciteit te voorkomen, kan de complexiteit van AI-modellen leiden tot onbedoelde discriminatie. Historische vooroordelen kunnen ingebakken zitten in de gegevens die worden gebruikt voor het trainen van AI-algoritmen. Als gevolg hiervan kunnen deze vooroordelen kredietrisicoanalyse en andere financiële besluitvormingsprocessen beïnvloeden.

AI werkt op basis van geavanceerde algoritmen die continu leren en verbeteren. Deze complexiteit maakt het ingewikkeld om te begrijpen hoe AI-systemen beslissingen nemen. Aangezien AI-algoritmen enorme hoeveelheden gegevens verwerken, inclusief historische informatie die discriminerende patronen kan bevatten, wordt het ontrafelen van het besluitvormingsproces moeilijk. Dit gebrek aan transparantie geeft aanleiding tot bezorgdheid over de verantwoordingsplicht en vraagt om maatregelen om mogelijke vooroordelen te herkennen en recht te zetten.

Momenteel ontbreekt het aan alomvattende wet- en regelgeving die specifiek is toegesneden op het monitoren en beperken van de risico's die samenhangen met AI. Dit probleem wordt gelukkig wel erkend en er wordt gewerkt aan wetgeving. Binnenkort vindt in het EU-parlement een stemming plaats, gericht op het reguleren van AI in verschillende sectoren.

Er kunnen maatregelen worden genomen om risico's te minimaliseren en transparantie te bevorderen. Een eerste stap is het informeren van eindgebruikers wanneer zij in aanraking komen met AI-technologie. Deze transparantie helpt mensen te begrijpen dat bepaalde beslissingen, zoals beoordelingen van kredietrisico's, worden genomen door AI-algoritmen. Overwogen kan worden om bedrijven met een omvang van meer dan 100 personen te verplichten om AI-Officers aan te stellen, vergelijkbaar met de gegevensbeschermingsfunctionarissen van de AVG. AI-Officers kunnen toezicht houden op het gebruik van AI binnen hun organisaties en zorgen voor naleving van toekomstige AI-regelgeving en andere maatregelen nemen, zoals het houden van workshops over ethische AI-praktijken en het uitvoeren van nalevingsaudits.

We zullen moeten leren leven met AI. Alle organisaties zullen het uiteindelijk integreren in hun dagelijkse bedrijfsvoering. Maar ze moeten zich wel bewust zijn van de risico's en zich inzetten voor verantwoord AI-gebruik.