Directie Coördinatie Algoritmes (DCA)
De Autoriteit Persoonsgegevens (AP) voert sinds 2023 activiteiten uit die een impuls geven aan het toezicht op algoritmes en AI in Nederland. Binnen de AP is voor de taak als coördinerend algoritmetoezichthouder een apart organisatieonderdeel voor opgericht: de directie Coördinatie Algoritmes (DCA).
Op deze pagina
De focus van het coördinerend algoritmetoezicht ligt op het beschermen van publieke waarden en grondrechten bij de ontwikkeling en inzet van algoritmes. Bijvoorbeeld bij risico’s op discriminatie, willekeur en misleiding. En bij informatie over algoritmes. Zodat gebruikers van een product of dienst weten waar ze mee te maken hebben.
De werkzaamheden die de DCA daarvoor uitvoert staan los van het AVG-toezicht van de AP. Want naast de werkzaamheden van deze directie blijft de AP toezichthouder op het verwerken van persoonsgegevens, ook door algoritmes en AI.
Activiteiten coördinerend algoritmetoezicht
De 3 hoofdactiviteiten zijn:
- Overkoepelende risico’s van algoritmes en AI signaleren en analyseren om deze kennis vervolgens te delen;
- Het versterken van samenwerkingen bij toezicht op algoritmes en AI;
- Guidance bevorderen en overzicht scheppen in relevante kaders.
Daarnaast coördineert de DCA aan de voorbereiding op de nieuwe toezichtstaken die volgen uit de AI-verordening.
Signaleren en analyseren van overkoepelende risico’s van algoritmes en AI
We werken aan het samenbrengen en analyseren van signalen, kennis en inzichten over de risico’s van de ontwikkeling en inzet van algoritmes en AI die individuen, groepen mensen of de hele samenleving kunnen raken. En daarmee uiteindelijk de samenleving kunnen ontwrichten. Dat doen we door ons te richten op overkoepelende risico’s en effecten die meerdere sectoren en domeinen raken.
We kijken daarbij naar de ontwikkeling van algoritmesystemen én wat organisaties er vervolgens mee doen. Bijvoorbeeld door incidenten te analyseren. Verder houden we technologische vernieuwingen scherp in de gaten om de risico’s daarvan tijdig op te merken.
Het samenbrengen van kennis en inzichten leidt tot een zo compleet mogelijk beeld van de risico’s van algoritmegebruik voor onze samenleving. We delen dat beeld met medetoezichthouders, beleidsmakers, burgerrechtenorganisaties, bedrijven en individuele burgers. Dat helpt hen betere keuzes te maken om algoritmerisico’s te beperken.
Rapportage AI- en algoritmerisico’s Nederland (RAN)
De AP publiceert 2 keer per jaar de Rapportage AI- en algoritmerisico’s Nederland (RAN). Daarmee deelt de AP kennis over ontwikkelingen in algoritmerisico’s met organisaties, politiek, beleidsmakers en het grote publiek.
Het versterken van bestaande samenwerkingen
Door als toezichthouders intensiever samen te werken, kunnen we risico’s van algoritmegebruik eerder aan het licht brengen, effectiever aanpakken of zelfs voorkomen.
De DCA faciliteert bijvoorbeeld de AI & Algoritmekamer (AAK), een bestuurlijk overleg binnen het Samenwerkingsplatform Digitale Toezichthouders (SDT). Daarnaast werkt de werkgroep van toezichthouders op AI in breed verband samen om kennis te delen over algoritmerisico’s.
De DCA faciliteert ook samenwerking tussen toezichthouders op nieuwe AI-gerelateerde vraagstukken, bijvoorbeeld de uitdagingen en risico’s die samenhangen met generatieve AI. De samenwerking met andere toezichthouders helpt ons de risico’s in de maatschappij en de blinde vlekken te signaleren.
Guidance bevorderen
De AP draagt met guidance en discussiedocumenten bij aan beleid en verduidelijkt de regels voor algoritmes. Daarmee wordt voor bedrijven, overheden en andere organisaties duidelijker wat er van hen wordt verwacht en voor burgers wat zij kunnen verwachten.
Aandachtspunten vanuit het coördinerend algoritmetoezicht zijn het voorkomen van discriminatie (denk aan bias-toetsing), het bevorderen van transparantie en ‘uitlegbaarheid’, het inrichten van adequate governance voor risicobeheersing en periodieke audits van AI en algoritmes.
Samen met andere toezichthouders helpt het coördinerend algoritmetoezicht uit te leggen wat de normen en kaders zijn voor het inzetten van algoritmes. Waar nodig zoekt de DCA daarvoor aansluiting bij internationale standaarden.
Algoritmetoezicht in ontwikkeling
In de komende jaren zal de DCA samen met andere toezichthouders en de betrokken ministeries identificeren wat verder nodig is om het toezicht op algoritmes en AI in Nederland te versterken. De AI-verordening is hierbij een belangrijke pijler. De DCA coördineert samen met de Rijksinspectie Digitale Infrastructuur (RDI) de voorbereidingen op het toezicht op de AI-verordening. Onder andere door middel van adviezen aan de relevante ministeries over de inrichting van het Nederlandse toezicht en door samenwerking op te zetten. Bij dat adviestraject zijn veel colleges, markttoezichthouders en inspecties betrokken.
De AP ontvangt voor het uitvoeren van de DCA-activiteiten vanaf 2023 1 miljoen euro, oplopend naar structureel 3,6 miljoen euro in 2026.
Contact met de DCA
De DCA komt graag in contact met organisaties en andere partijen met ideeën of input. Wilt u contact met de DCA? Mail dan naar dca@autoriteitpersoonsgegevens.nl.
Werkagenda coördinerend algoritmetoezicht 2024
De AP richt zich in de rol als coördinerend toezichthouder op AI en algoritmes in 2024 op 4 aandachtsgebieden: transparante algoritmes, auditering, governance en het voorkomen van ongewenste discriminatie bij de inzet van algoritmes. Ook bereiden we ons voor op de AI-verordening en onderzoeken we de risico’s van generatieve AI. Bekijk ook:
'Oog voor algoritmevervorming: efficiëntie voor de een, pijn voor de ander?'
Op 24 januari 2024 sprak Sven Stevenson, programmadirecteur DCA, op het Responsible AI Event over verantwoorde kunstmatige intelligentie, algoritmevervorming en het toezicht van de AP.