Directie Coördinatie Algoritmes (DCA)

Focus DCA

De focus van de DCA ligt op het beter beschermen van publieke waarden en grondrechten. Zoals het voorkomen van discriminatie, willekeur en misleiding. En het stimuleren van transparantie en eerlijkheid bij het gebruik van AI en algoritmes.

De werkzaamheden van de DCA staan los van de reguliere toezichtstaken van de AP wanneer algoritmes persoonsgegevens verwerken.

Activiteiten DCA

De DCA richt zich op:

• risicosignalering;
• bestaande samenwerkingen versterken;
• guidance.

Risicosignalering

De DCA verzamelt en analyseert (sector- en domeinoverstijgende) signalen en inzichten over de risico’s en effecten van AI- en algoritmegebruik. Vervolgens deelt de DCA de kennis daarover. Dit doet de DCA onder andere in de Rapportage AI- en algoritmerisico’s Nederland. Hierdoor krijgen de toezichthouders aanvullende inzichten in significante ontwikkelingen en risico’s. Dit versterkt het toezicht.

Ook voor wetenschappers, burgerrechtenorganisaties, beleidsmakers, burgers en bedrijven is beter zicht op de risico’s en effecten van AI- en algoritmegebruik van belang. Zo kunnen risico’s in een vroeg stadium van de ontwikkeling of inzet van algoritmische systemen in beeld gebracht worden. Dit is van belang voor toezicht, beleid en organisaties die algoritmes gebruiken, maar uiteraard ook voor iedereen die gebruikmaakt van een dienst of product waarbij algoritmes worden gebruikt.

Bestaande samenwerkingen versterken

Door bij het AI- en algoritmetoezicht als toezichthouders intensiever samen te werken, kunnen risico’s van AI- en algoritmegebruik eerder aan het licht komen, effectiever worden aangepakt of zelfs worden voorkomen.

De DCA bouwt daarbij voort op bestaande overleggen, zoals het Samenwerkingsplatform Digitale Toezichthouders (SDT) en de brede werkgroep van toezichthouders op AI. Waar nodig worden samenwerkingen verder verdiept.

Ook brengen de AP en de andere toezichthouders gezamenlijk maatschappijbrede risico’s, toezichtsvraagstukken en blinde vlekken in het toezicht in kaart.

Guidance

De DCA bevordert gezamenlijke en sectoroverstijgende ‘guidance’ . Bijvoorbeeld over transparantieverplichtingen in de verschillende wet- en regelgeving. De DCA zal in samenwerking met de andere toezichthouders thema’s identificeren en aanbrengen.

Ook faciliteert de DCA het gezamenlijk uitleggen van juridische normen en kaders voor het inzetten van AI en algoritmes. Waar nodig zoekt de DCA daarbij, in samenwerking met de andere toezichthouders, aansluiting bij de internationale standaardisatie.

Daarmee wordt voor bedrijven, overheden en andere organisaties duidelijker wat er van hen wordt verwacht en voor burgers wat zij kunnen verwachten.

Werkagenda coördinerend algoritmetoezicht 2024

De AP richt zich in de rol als coördinerend toezichthouder op AI en algoritmes in 2024 op 4 aandachtsgebieden: transparante algoritmes, auditering, governance en het voorkomen van discriminerende algoritmes. Ook bereiden we ons voor op de AI-verordening en onderzoeken we de risico’s van generatieve AI. 

• Bekijk de Werkagenda coördinerend algoritmetoezicht 2024
• Zie ook:  Kamerbrief over opschaling algoritmetoezichthouder  . Deze brief over de voortgang en activiteiten van het algoritmetoezicht door de AP in 2024 heeft de staatssecretaris van BZK op 21 december 2023 verstuurd aan de Tweede Kamer. 

AI- en algoritmetoezicht in ontwikkeling

In de komende jaren zal de DCA samen met andere toezichthouders en de betrokken ministeries identificeren wat verder nodig is om het AI- en algoritmetoezicht in Nederland te versterken. De AI-verordening is hierbij een belangrijke pijler. De DCA coördineert samen met de Rijksinspectie Digitale Infrastructuur (RDI) de voorbereidingen op het toezicht op de AI-verordening.

De AP ontvangt voor het uitvoeren van de DCA-activiteiten vanaf 2023 1 miljoen euro, oplopend naar structureel 3,6 miljoen euro in 2026.

Contact met de DCA

De DCA treedt graag in contact met organisaties en partijen. Het uitwisselen van kennis helpt ons als coördinerend algoritmetoezichthouder bij het vroegtijdig signaleren van risico’s en het versterken van guidance om die risico’s te beheersen. Wilt u contact met ons, mail dan naar: dca@autoriteitpersoonsgegevens.nl.