Algoritmetoezicht

De Autoriteit Persoonsgegevens (AP) is in 2023 van start gegaan met nieuwe taken die een impuls moeten geven aan het toezicht op de ontwikkeling en het gebruik van algoritmes. Daarmee wordt invulling gegeven aan de bredere maatschappelijke opgave om het gebruik van algoritmes beter te controleren, discriminatie en willekeur tegen te gaan en transparantie te bevorderen.

Dit draagt eraan bij dat mensen erop mogen vertrouwen dat algoritmes en systemen met artificiële intelligentie (AI) aan publieke waarden voldoen. Ook ontstaat er zo zicht op risicovolle inzet van algoritmes en AI-systemen en wordt duidelijk hoe die werken.

Binnen de AP komt daarvoor een nieuw organisatieonderdeel: de directie Coördinatie Algoritmes. De AP ontvangt voor het oppakken van deze nieuwe taken vanaf 2023 1 miljoen euro, oplopend naar structureel 3,6 miljoen euro in 2026.

Lees ook: Toezicht op AI en algoritmes door de AP

Versterken van bestaand toezicht

Een van de uitgangspunten is dat het bestaande toezicht op algoritmes & AI intact blijft. Dit toezicht ligt bij verschillende colleges, markttoezichthouders en rijksinspecties.

Omdat algoritmes in alle sectoren te vinden zijn, is het van belang om overkoepelend in de gaten te houden wat de generieke en specifieke risico’s en effecten zijn van algoritmes. Ook is van belang dat de toezichthouders daarover kennis delen en bestaande samenwerkingen versterken.

De directie Coördinatie Algoritmes van de AP bevordert dit door vooruit te blikken en over bestaande toezichtsgebieden en juridische kaders heen te kijken.

Zo’n brede aanvullende en sectoroverstijgende benadering van risico’s en toezicht is van meerwaarde. Zo kan deze benadering eraan bijdragen aan dat we als samenleving grip krijgen op een verantwoorde ontwikkeling en inzet van algoritmes.

Doelen en aanpak

De AP pakt in 2023 een aantal concrete activiteiten op:

Signalen en inzichten verzamelen

Door (sector- en domeinoverstijgende) signalen en inzichten over de risico’s en effecten van algoritmegebruik verzamelen, analyseren en kennis daarover delen.

Hierdoor krijgen de toezichthouders aanvullende inzichten in significante ontwikkelingen en risico’s. Dit versterkt het toezicht.

Ook voor wetenschappers, burgerrechtenorganisaties, beleidsmakers, burgers en bedrijven kan beter zicht op de risico’s en effecten van algoritmegebruik nuttig zijn. Zo kunnen risico’s vroeger in de ontwikkeling of inzet in beeld gebracht worden en kan hierop worden toegezien.

Bestaande samenwerkingen bij algoritmetoezicht versterken en faciliteren

Door als toezichthouders intensiever samen te werken, kunnen risico’s van algoritmegebruik eerder aan het licht komen, effectiever worden aangepakt of zelfs worden voorkomen.

De AP bouwt daarbij voort op bestaande overleggen, zoals de brede werkgroep van toezichthouders op AI. Waar nodig worden samenwerkingen verder verdiept.

Ook brengen de AP en de andere toezichthouders gezamenlijk maatschappijbrede risico’s, toezichtsvraagstukken en blinde vlekken in het toezicht in kaart.

Gezamenlijke en sectoroverstijgende normuitleg en ‘guidance’ bevorderen

Bijvoorbeeld over transparantieverplichtingen in de verschillende wet- en regelgeving. De AP zal in samenwerking met de andere toezichthouders thema’s identificeren en aanbrengen.

Ook faciliteert de AP het gezamenlijk uitleggen van juridische normen en kaders. Waar nodig zoekt de AP daarbij, in samenwerking met de andere toezichthouders, aansluiting bij de internationale standaardisatie.

Daarmee wordt voor bedrijven, overheden en andere organisaties duidelijker wat er van hen wordt verwacht en voor burgers wat zij kunnen verwachten.

Algoritmetoezicht in ontwikkeling

In de loop van 2023 zal de AP samen met de andere toezichthouders en de betrokken ministeries identificeren wat er verder nodig is om het algoritmetoezicht in Nederland te versterken.

Eind 2023 publiceert de AP daartoe een gezamenlijk rapport om de ontwikkelingen in het algoritmetoezicht en de risico’s van algoritmes inzichtelijk te maken. Dit rapport wordt ook aan de Tweede Kamer aangeboden.

Europese Unie

De Europese Unie werkt aan diverse nieuwe verordeningen op het gebied van digitalisering. Hieronder is een nieuwe verordening voor AI-systemen, de zogeheten AI-Act.

De AI-Act zal leidend zijn voor de verdere ontwikkeling van het algoritmetoezicht in Europa en Nederland.

Lees ook: AP - Inzet Artificial Intelligence Act (AI Act) 

Ministerie van BZK

Het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) werkt momenteel aan een aantal trajecten op het gebied van algoritmes. Bijvoorbeeld het recent gelanceerde Algoritmeregister en een implementatiekader voor overheden.

Ook is er een ‘impact assessment’ voor mensenrechten bij gebruik van algoritmes gepubliceerd, het zogeheten IAMA.

Algoritmes die persoonsgegevens gebruiken

Daarnaast versterkt de AP, als toezichthouder op de privacywetgeving, het toezicht op de ontwikkeling en de inzet van algoritmes die persoonsgegevens gebruiken. Deze investering levert ook een bijdrage aan het voorkomen van discriminatie en willekeur en het bevorderen van transparantie in algoritmes die persoonsgegevens verwerken.

Betrokkenheid ministeries

Er zijn 2 ministeries betrokken bij de nieuwe activiteiten van de AP:
 

• Vanwege de coördinerende rol op het digitaliseringsdomein stuurt het ministerie van BZK de beleidsmatige inrichting van de algoritmetoezichthouder aan.
• De minister voor Rechtsbescherming is verantwoordelijk voor het beheer van en het toezicht op de financiële middelen verstrekt uit het begrotingsartikel van de AP in de Rijksbegroting van het ministerie van Justitie en Veiligheid (JenV).