Beleid & regelgeving
Om te zorgen dat organisaties algoritmes en AI op een verantwoorde manier gebruiken, moeten zij zich aan regels houden.
Op deze pagina
AI-verordening
De nieuwe Europese AI-verordening zal algoritmische systemen en toepassingen verbieden of sterker reguleren. Systemen en toepassingen die de vrije keuze van mensen te veel beperken, mensen uitbuiten of mensen manipuleren, worden verboden.
Daarnaast reguleert de AI-verordening een aantal ‘hoogrisico-systemen'. Vrijwel alle specifiek te reguleren toepassingen van hoog risico-systemen die worden genoemd in de AI-verordening, hebben effect op publieke waarden en grondrechten, zoals het recht op gegevensbescherming of gelijke behandeling. Bijvoorbeeld op het gebied van biometrie, werving en selectie en onderwijs.
Maar ook systemen die worden gebruikt in kritieke infrastructuur of die zijn toegevoegd aan andere systemen, zoals auto’s en medische hulpapparatuur. Dergelijke systemen moeten aan aanvullende voorwaarden voldoen. Het gaat dan bijvoorbeeld om voorschriften voor transparantie, menselijk toezicht en juistheid van data.
Van belang is dat ontwikkelaars de risico’s van algoritmes voortdurend in de gaten houden en dat zij risico’s voor de veiligheid, grondrechten en andere publieke belangen beperken. Ook de organisaties die deze systemen in de praktijk gaan inzetten (gebruikers), zullen zich aan regels moeten houden. Dat betekent dat ontwikkelaars moeten zorgen dat ze risico’s voor bijvoorbeeld gegevensbescherming, discriminatie, democratie en de rechtsstaat in de gaten houden en aanpakken. Toezicht op de AI-verordening zal waarschijnlijk voor een belangrijk deel nationaal worden ingericht.
Algoritmeregister
Het algoritmeregister is de basis voor overzicht en inzicht in de algoritmes die overheidsorganisaties en uitvoeringsinstanties gebruiken. In dit register staat hoe en waarom een organisatie een algoritme toepast.
Algoritmes en de AVG
Algoritmes en AI verwerken vaak persoonsgegevens. Dit betekent dat het gebruik van algoritmes moet voldoen aan de Algemene verordening gegevensbescherming (AVG), net als alle andere verwerkingen van persoonsgegevens. De Autoriteit Persoonsgegevens (AP) houdt daar toezicht op.
Bekijk ook: AP - Inzet Artificial Intelligence Act (AI Act)