AI en emotieherkenning

Het thema van deze RAN is AI en emotieherkenning. Naast een theoretische studie en gesprekken met experts bekeek de AP de inzet van emotieherkenning met AI door klantenservices, in wearables (zoals een smartwatch) en in taalmodellen.

De conclusie: emoties herkennen met AI is dubieus en risicovol. Emotieherkenning met AI werkt namelijk op basis van omstreden aannames over emoties en de meetbaarheid daarvan. Daarmee levert emotieherkenning risico’s en ethische vragen op. 

Brede nationale AI-strategie noodzakelijk

Naast de themastudie AI en emotieherkenning pleit de AP in de vijfde editie van de Rapportage AI & Algoritmes Nederland voor een specifieke, gedegen en democratisch onderbouwde overkoepelende nationale AI-strategie. Dit is essentieel om de kansen van algoritmes en AI te benutten én de risico’s in de hand te houden. 

De ontwikkelingen gaan heel erg snel en roepen nieuwe en fundamentele verdelingsvraagstukken in bijvoorbeeld woning- en energiemarkt op, waarbij grondrechten en publieke belangen nu onderbelicht blijven. Betrouwbare inzet van algoritmes en AI vraagt om aandacht voor bescherming, veiligheid en transparantie. 

De strategie moet gericht zijn op de volle breedte van toepassingen van AI en algoritmes. Investeringen in AI-technologie, innovatie, het AI-ecosysteem en educatie zoals AI-geletterdheid zijn daarbij essentieel. De AP adviseert om bij investeringen in innovatie een vastgesteld percentage te reserveren voor interne controle, externe controle en toezicht.