AI en financiële risico’s: zo beheer je ze

Seppe Housen is machine learning engineer en hij ziet de financiële industrie transformeren onder invloed van artificiële intelligentie. Maar de nieuwe technologie doet zijn intrede niet zonder bijbehorende risico’s. Zijn pleidooi? Bouw veiligheidsprotocollen in om de waarde van AI helemaal tot zijn recht te laten komen.

De komst van AI schenkt immense voordelen aan financiële afdelingen: 40% minder fraude, 20% hogere accuratesse in financiële forecasts, en miljarden besparingen dankzij efficiëntiewinsten. Schaduwzijde van dat optimistische verhaal: de nieuwe technologie is niet risicovrij. Denk bijvoorbeeld aan de financiële medewerker die onterecht 25 miljoen euro overmaakt aan een hacker die met behulp van AI een deep fake video maakt van de cfo. Tweede voorbeeld: de hallucinaties in financiële rapporten die AI heeft opgemaakt of geoptimaliseerd.

AI-risico’s identificeren, meten en managen

Seppe Housen onderscheidt drie soorten risico’s in AI-toepassingen:

• Ongewenste outputrisico’s, bijvoorbeeld onnauwkeurige gegevens, schadelijke resultaten.
• Ongewenst gebruik bijvoorbeeld een onopzettelijk datalek, of het delen van vertrouwelijke informatie met een open chatbot zoals ChatGPT.
• Ongewenste impact: denk aan een externe cyberaanval door hackers, een inbreuk op de regelgeving zoals de AI Act of de milieu-impact van intensief AI-gebruik.

Daarom zijn veiligheidsprotocollen nodig opdat AI tot zijn reële waarde komt. Dat doe je door drie types competenties in te bouwen: risico’s weten te identificeren, risico’s meten en risico’s managen. Wanneer je bijvoorbeeld een AI-assistent bouwt, is er in elke fase van de ontwikkeling een risicoanalyse vereist. Seppe Housen adviseert om de koe bij de horens te nemen: “Zorg ervoor dat je jouw AI-systemen grondig begrijpt, zet vervolgens een AI-risicoraamwerk op en – last but not least – maak dat AI-risicomanagement in de volledige organisatiestructuren zijn ingebed.”

Eigenaarschap van AI-risicobeheer

Wie neemt het eigenaarschap op in een organisatie voor AI-risicobeheer? Volgens Seppe Housen is dat een gedeelde verantwoordelijkheid van meerdere mensen en afdelingen. “Je kan het niet louter overlaten aan de technische profielen. Een samenwerking met de businessafdelingen is noodzakelijk om te bepalen hoeveel risico je bereid bent om te tolereren.”