Aandacht voor fairness in AI

Financiële instellingen moeten meer aandacht besteden aan fairness in het gebruik van AI-systemen in hun business-to-businesstransacties. Dat is het onderwerp van de presentatie van Badr Boussabat op het FDmagazine-evenement ‘AI for Finance’.

“In een business-to-consumeromgeving is rekening houden met fairness vrij eenvoudig. De organisatie moet erop letten om niet te discrimineren tussen mannen en vrouwen, ouderen en jongeren of tussen de origines van de consumenten. In een bedrijfsomgeving is dat veel moeilijker. Het kan ook veranderen met de tijd”, zegt Badr Boussabat, adjunct-professor AI & Marketing aan de Sorbonne Business School en veelgevraagd spreker op internationale conferenties.

Om het thema in kaart te brengen, heeft hij een onderzoek uitgevoerd voor Swift, de organisatie die de internationale financiële transacties en berichten beheert. In de studie ‘Fairness AI – Finfair AI Index Framework’ ontwerpt hij een kader met parameters die een organisatie moet hanteren bij het beoordelen van haar transactionele systemen en de toepassingen met artificiële intelligentie. Daarover geeft hij een presentatie op het congres ‘AI for Finance’ op 21 november in Mix Brussels. De titel van zijn keynote is ‘AI & Ethics: The Future of Finance’.

Compliance en zakelijk succes

De kern van zijn betoog gaat over de noodzaak van financiële instellingen om hun systemen grondig te onderzoeken om na te gaan of ze de verschillende groepen in hun klantenbestand niet anders behandelen. Dat kan veel oorzaken hebben, gerelateerd aan een ingebouwde vooringenomenheid (bias in het jargon) van de onderliggende databestanden of van het model, of van het proces waarvoor de toepassing wordt gebruikt.

“Het is belangrijk voor financiële instellingen om in te zien dat dit onderzoek niet alleen past in de complianceverplichtingen die al bestaan of eraan zitten te komen. Deze analyse is ook nodig om een veel beter inzicht te krijgen in de eigen processen en de verwachtingen van de klanten. Op die manier hoeven de banken en verzekeringsinstellingen dit niet te beschouwen als een kost, maar als een investering die op termijn heel veel waarde kan creëren. Het is mijn overtuiging dat er net een positieve correlatie bestaat tussen deze vorm van compliance en het toekomstig zakelijk succes van de organisatie”, zegt Badr Boussabat.

De mens aan het stuur

“De financiële instellingen gebruiken nu vooral AI-algoritmes in hun risicomanagement. Algemeen wordt aangenomen dat ze hier de grootste impact kunnen creëren. Denk aan toepassingen voor het tegengaan van witwassen (Anti-Money Laundering of AML), fraudedetectie, kredietwaardigheidsonderzoeken, enzovoort”, zegt Badr Boussabat.

Het gaat telkens om systemen die door analyses van transacties uit het verleden de toekomst willen voorspellen. “Banken en verzekeringsmaatschappijen stellen bij de analyse van dergelijke systemen best een aantal voorwaarden. Die systemen moeten transparante en verklaarbare resultaten kennen. Dat dient te gebeuren in een veilige omgeving. Als aan die set voorwaarden is voldaan, is er sprake van responsible AI. Daarbij is het belangrijk om de mens aan het stuur te zetten. Mensen moeten de AI controleren.”