Gisteren stemde Europa in met de Artificial Intelligence Act, waarmee het landschap van AI-toepassingen wordt gereguleerd. Als pleitbezorger voor mensenrechten in de financiële sector pleit Human Rights in Finance (EU) voor passend en kundig toezicht in Europa op het gebruik van AI binnen de financiële sector. Lokale parlementen in EU-lidstaten zouden het toezicht op AI in de financiële sector moeten toewijzen aan de huidige lokale toezichthouders op de AVG. Zo worden de mensenrechten het best beschermd.
Helaas wijst op dit moment de AI Act, als startpunt, financiële toezichthoudende autoriteiten aan voor het toezicht op AI in financiële diensten. Maar gelukkig kunnen lidstaten ervoor kiezen hiervan af te wijken. Wij vinden het cruciaal voor de bescherming van mensenrechten dat dit in Nederland gebeurt. We roepen het Nederlands parlement dan ook dringend op om de Autoriteit Persoonsgegevens proactief aan te wijzen als de primaire autoriteit voor de regulering van AI in de financiële sector, inclusief de financiële toezichthouders zelf.
Waarom zijn we bezorgd?
Onze grote zorg is dat ‘social scoring’, nu aangemerkt als hoog risico onder de AI-regelgeving, al wordt uitgevoerd door financiële instellingen bij de uitvoering van de regels inzake het voorkomen van witwassen zoals voorgeschreven door de AMLD-richtlijn. De risicofactoren en evaluatiecriteria uiteengezet in Bijlagen 1-3 van de richtlijn leiden tot het profileren van klanten op basis van verschillende risiconiveaus. Met de toenemende afhankelijkheid van kunstmatige intelligentie voor deze taken is een zorgvuldige en ethische aanpak cruciaal om individuele rechten te beschermen.
Financiële toezichthouders en financiële instellingen zijn op dit moment feitelijk al betrokken bij dit profileren en gebruik van AI. Daarbij ze de catchphrase ‘maar de GDPR is van toepassing’ om de afweging van mensenrechten te omzeilen en te bagatelliseren. Maar de praktijk en juridische experts geven al aan dat het gebruik van AI voor het monitoren van anti-witwaspraktijken niet inherent voordelig en legitiem is. Sterker nog, HRIF.EU heeft schendingen van de GDPR waargenomen door zowel financiële instellingen als toezichthouders op het gebied van financiële wetgeving. Er is gewoon een heel grote blinde vlek bij financiële instellingen en hun toezichthouders op het vlak van mensenrechten.
Zoek zelf de blinde vlek maar even op
Is het echt zo erg met die blinde vlek?
Ja.
Probeer de woorden ‘privacy’ of ‘mensenrechten’ te vinden in deze recente consultatie van de Europese Bankautoriteit, waarin wordt beschreven hoe Europa tegen het einde van 2024 een verplichting voor massale verspreiding van persoonlijke gegevens moet implementeren (in Verordening 2023/1113). Of lees over de rechtszaak waarin de overijverige Nederlandse toezichthouder zijn eisen moest intrekken omdat de gedwongen massale monitoring zonder een passende wettelijke basis was.
Je ziet het als je het doorhebt en dan zie je die blinde vlek ook overal in financiële wetgeving (afgezien van de lippendienst aan de GDPR). In de huidige situatie van toezicht op financiële sector heeft het dan ook geen zin om toezicht op AI toepassingen te beleggen bij financiële toezichthouders. Aan de ene kant gaat die toezichthouder namelijk eisen dat er massamonitoring, profilering en social scoring plaatsvindt en aan de andere kant gaat die dan controleren of de manier waarop indruist tegen mensenrechten? Dat wringt en kan beter opgedragen worden aan de instantie die rond profilering ook voor big tech en alle andere sectoren die opdracht al op zijn bordje heeft liggen: de Autoriteit toezicht persoonsgegevens.
Het fundamentele gebrek aan respect en kennis met betrekking tot de bescherming van mensenrechten bij financiële instellingen en hun toezichthouders is overigens ook de reden waarom onze stichting de nietigverklaringsprocedure heeft gestart voor deze Verordening (zaak T-555/23 AJ) en een inbreukprocedure heeft gestart tegen de onjuiste Nederlandse implementatie van de AMLD-5-richtlijn.
Oproep aan parlement: wijs de lokale toezichthouder persoonsgegevens aan voor toezicht op AI in de financiële sector
Een regelgevend kader moet niet het toezicht op inherent tegenstrijdige doelstellingen, zoals de bestrijding van witwassen en toezicht op AI met betrekking tot mensenrechten, in dezelfde handen leggen. Beter is het om een regelgevend kader te hebben dat deze doelstellingen scheidt en prioriteit geeft aan de inachtneming van de principes van rechtvaardigheid, verantwoordingsplicht en respect voor individuele rechten bij de inzet van AI-technologieën in de financiële sector.
Daarom roept HRIF.EU het Nederlands parlement dringend op om de Autoriteit Persoonsgegevens proactief aan te wijzen als de primaire autoriteit voor de regulering van AI in de financiële sector, inclusief de financiële toezichthouders zelf. Daarbij spreekt voor zich dat dit gepaard moet gaan met een substantiële uitbreiding van budgetten en bemensing.