08 aug Autoriteit Persoonsgegevens wil dat algoritmen beter worden geregistreerd
Als het aan de Autoriteit Persoonsgegevens (AP) ligt, worden overheidsorganisaties verplicht de algoritmen en AI-systemen die zij gebruiken te registreren. Dat gebeurt nu nog te weinig, waardoor het voor burgers vaak niet duidelijk waarvoor en hoe overheden en organisaties AI en algoritmen gebruiken.
Een compleet algoritmeregister is de basis voor transparantie, bescherming van grondrechten, uitlegbaarheid en controleerbaarheid bij de inzet van algoritmen en AI, zo stelt de AP. De oproep is niet alleen gericht tot overheden: de AP moedigt ook andere branches en sectoren aan om intensiever aan de slag te gaan met het opzetten van algoritmeregisters. Daarvoor heeft de AP acht handvatten gepubliceerd. De AP is coördinerend toezichthouder op algoritmen en AI.
Registratieplicht
Sinds begin 2023 zijn duizend algoritmen opgenomen in het Algoritmeregister van de Nederlandse overheid. De gemeente Amsterdam en de Douane lopen hierin voorop. Maar meer dan de helft van de gemeenten heeft nog geen algoritmen geregistreerd en van de zelfstandige bestuursorganen heeft meer dan drie kwart helemaal niets geregistreerd. Slechts 5 procent van de geregistreerde algoritmen kent een grondrechtenbeoordeling. Volgens de AP is met duizend geregistreerde algoritmen de pioniersfase voorbij en moet er een registratieplicht voor overheidsorganisaties komen.
Privacy
Buiten de overheid – in sectoren zoals de woningmarkt, vervoer, zorg, onderwijs en financiële dienstverlening – is weinig zicht op algoritmeregistratie. Daardoor is vaak niet duidelijk waar, wanneer en hoe organisaties algoritmen gebruiken. De AP stelt dat algoritmen en AI kansen bieden maar ook risico’s met zich meebrengen, op het gebied van discriminatie, privacy en cybersecurity. De AP vindt het registreren van algoritmen een belangrijke eerste stap om dergelijke risico’s te beperken. Bij registratie moeten niet alleen het doel van het systeem worden beschreven maar ook de gebruikte trainingsdata, de werking van het algoritme, welke controles er zijn en wie ervoor verantwoordelijk is.