Artificial intelligence straks allesomvattend aanwezig

“Artificial intelligence (AI) dringt de komende jaren door in alle aspecten van ons dagelijks leven.” Dat zegt Joost van der Burgt (Toezicht Beleid).

Hij schreef een discussion paper over een verantwoord gebruik van AI in de financiële sector. Een interview.

Hoe ver zijn de ontwikkelingen op het gebied van AI eigenlijk?
"AI bestaat al sinds de jaren 50 van de vorige eeuw. De eerste decennia werd slechts stapje voor stapje vooruitgang geboekt, maar in de laatste tien jaar zijn de ontwikkelingen razendsnel gegaan: 's werelds beste spelers in schaak, poker en complexe computerspellen als StarCraft II zijn tegenwoordig geen mensen meer maar een AI-systemen. Ook wordt AI inmiddels grootschalig door bedrijven ingezet, ook in de financiële sector. Banken, verzekeraars en vermogensbeheerders gebruiken AI onder andere in het klantcontact, fraude- en witwasbestrijding, prijsstelling bij schadeverzekeringen en portfoliomanagement." 

Wat zijn de voordelen van AI?
"Met name machine learning, een vorm van AI, wordt momenteel veel toegepast. Hiermee kunnen patronen worden ontdekt in grote hoeveelheden data die bij traditionele (statistische) benaderingen onopgemerkt blijven. Op deze manier kan AI veel nauwkeurigere analyses en voorspellingen maken – bijvoorbeeld van de kredietwaardigheid van een klant – dan voorheen mogelijk was. Daarnaast is AI zeer geschikt voor het automatiseren van bepaalde (met name repetitieve) back-office-werkzaamheden als het analyseren en verwerken van juridische contracten." 

En de risico's?
"Wanneer AI op een ondoordachte wijze wordt ingezet gebeuren er al snel ongelukken. AI-toepassingen zijn met name gevoelig voor problemen met de data waarop zij worden getraind. Als die data van slechte kwaliteit is, niet representatief is, of relevante kenmerken ontbreken, dan vertaalt dit zich door in slechte uitkomsten. Risico's worden dan mogelijk onderschat en bepaalde klantgroepen worden mogelijk gediscrimineerd. Vooral wanneer complexe technieken als 'deep neural networks' worden ingezet wordt het bijzonder moeilijk om nog te kunnen controleren of het systeem naar behoren werkt. Door de schaal waarop AI wordt gebruikt, is de impact van dergelijke fouten dan al snel enorm." 

Wat is belangrijk om de risico's in toom te houden?
"DNB heeft een discussion paper met algemene principes voor een verantwoord gebruik van AI gepubliceerd. DNB verwacht dat financiële ondernemingen bij het ontwikkelen van AI-toepassingen rekening houden met aspecten als soliditeit, verantwoordelijkheid, eerlijkheid, ethiek, deskundigheid en transparantie. In het Engels: soundness, accountability, fairness, ethics, skills en transparency – SAFEST. Tot 18 oktober kunnen marktpartijen en andere stakeholders reacties op dit discussion paper aan DNB sturen."

Wat verwacht je van toezichtcollega's?
"Op basis van de principes in het discussion paper hebben we eveneens een interne handreiking voor het toezicht opgesteld. Deze handreiking is bedoeld om toezichthouders te helpen het gesprek met onder toezicht staande instellingen aan te gaan over AI. Door het gesprek met de sector aan te gaan kan DNB meer leren over de manier waarop AI wordt toegepast. En zien we erop toe dat instellingen AI op een beheerste en integere wijze toepassen in hun bedrijfsvoering." 

Wat is jouw verwachting voor de toekomst als het gaat om AI?
"De komende jaren zal AI doordringen in alle aspecten van ons dagelijks leven. AI wordt beschouwd als de vierde industriële revolutie, en net als dat het geval is met elektriciteit zal AI in de toekomst alomvattend aanwezig zijn. Op welke wijze dit de maatschappij precies zal veranderen is onmogelijk te voorspellen. Maar zeker is dat AI de financiële sector – en dus ook ons toezicht hierop – de komende jaren ingrijpend zal veranderen."

Joost van der Burgt is een van de inleiders op de XpertSessie "Ann tafel bij DNB". Wil je meer weten, klik dan hier.