Koen Mathijs van Umaniq pleit ervoor om voldoende aandacht te schenken aan compliance bij de toepassing van AI. Dat moet gebruikers geruststellen en zo de innovatie versnellen.
Er zijn heel wat risico’s verbonden aan het gebruik van artificiële intelligentie. Denk maar aan mogelijke bias of discriminatie die een toepassing vertoont tegenover bepaalde mensen. Andere risico’s zijn de miskenning van fundamentele rechten, mogelijke fouten die een impact hebben op de gezondheid, veiligheid of de privacy van de gebruiker. Om al die redenen zijn gebruikers wantrouwig ten opzichte van AI-toepassingen.
De Europese Commissie heeft daarom ook de AI Act ingevoerd om zo de ontwikkelaars van toepassingen voorzorgen te laten nemen om dergelijke gevaren aan te pakken. Daarbij dienen die organisaties een risicomanagementsysteem in te voeren gebaseerd op verschillende niveaus. Zo vertonen sommige systemen onaanvaardbare risico's en zijn daarom absoluut verboden. Dat gaat bijvoorbeeld over automatische herkenning van emoties of automatische kredietscoring van personen. Andere systemen vertonen dan weer minimale risico’s. Vaak gaat het om toepassingen waar geen interactie gebeurt met de gebruiker, bijvoorbeeld in een spam filter.
Het is aan de betrokken bedrijven om een aantal maatregelen te nemen zoals:
“Uiteindelijk zijn dat heel gewone eisen. Elke informaticatoepassing zou daaraan moeten voldoen. Ik denk daarom dat het toepassen van de regels in de Europese AI Act alleen maar een positief effect zal hebben op de ontwikkeling van AI-toepassingen. Het vertrouwen van de overheid en van de gebruikers zal vergroten, zodat meer gebruikers de AI-toepassingen zullen proberen. Daar wordt zo’n AI-systeem alleen maar beter van”, vertelt Koen Mathijs, medeoprichter van Umaniq tijdens zijn presentatie op AI for Finance op 21 november in Brussel.
Verdoe jij ook te veel tijd met het opvolgen van alle nieuwtjes in je feed? No worries, wij verzamelen alles wat nieuw is in de finance wereld. Al die nieuwtjes komen wekelijks in jouw mailbox terecht.
