02 jun Kabinet stelt regels op voor toezicht op Europese AI-regels
De kansen en beloften van AI zijn groot, zo stelt het kabinet, maar die kunnen alleen worden benut als de gehele samenleving er vertrouwen in heeft. Daarvoor is de Europese AI-verordening in het leven geroepen. Om deze technologie veilig en betrouwbaar te gebruiken, is ook toezicht daarop nodig. Het kabinet werkt nu aan de uitvoeringswet AI-verordening die dit toezicht moet gaan regelen.
De Europese AI-verordening, die op 1 augustus 2024 in werking is getreden, biedt voor de hele Europese Unie regels voor de ontwikkeling en toepassing van AI-systemen. Het toezicht op de naleving van de AI-verordening moeten de EU-lidstaten zelf organiseren. Daarvoor is de uitvoeringswet AI-verordening bedoeld. Deze wet moet ervoor zorgen dat burgers – vanwege dit toezicht – kunnen rekenen op de veiligheid en betrouwbaarheid van AI-systemen, waaraan een steeds groter deel van onze data en processen is toevertrouwd.
Digitale samenleving
Het doel van de AI-verordening is om de ontwikkeling en toepassing van veilige en betrouwbare AI-systemen te bevorderen, om de grondrechten van EU-burgers te beschermen en om innovatie te stimuleren. De verordening moet het vertrouwen in AI-systemen versterken, die ‘mensgericht’ moeten zijn. Op die manier wordt, zo is de bedoeling, een solide basis gelegd voor een digitale samenleving waarin technologische vooruitgang en publieke waarden hand in hand gaan.
Risicogebaseerd
De AI-verordening is ‘risicogebaseerd’: de eisen aan AI-systemen zijn afgestemd op de mate van risico die AI vormt voor veiligheid, gezondheid of fundamentele rechten. Hoe hoger het risico, des te strenger de eisen. Sommige toepassingen zijn zelfs verboden, zoals manipulatieve AI-praktijken of het massaal verzamelen van gezichtsbeelden voor biometrische databases. Hoog-risico AI-systemen hebben betrekking op datakwaliteit, risicobeheer, menselijk toezicht en transparantie. Ook moet duidelijk worden wanneer mensen rechtstreeks met AI-systemen communiceren, bijvoorbeeld via chatbots of AI-gegenereerde content.
Toezicht
Kern van de uitvoeringswet AI-verordening is het toezicht. Omdat AI in veel sectoren al wordt toegepast, stelt het kabinet een toezichtstructuur voor waarin bestaande toezichthouders (‘autoriteiten’ en inspecties) samenwerken. In het voorstel houden de toezichthouders binnen hun eigen domein toezicht op AI. Hierdoor krijgen ondernemers en organisaties zoveel mogelijk te maken met instanties die zij nu ook al kennen.
Toezichtgebieden
Voor toezichtgebieden waar nog geen duidelijke toezichthouder bestaat, wordt de Autoriteit Persoonsgegevens (AP) voorgesteld als toezichthouder. Dit staat in een Kamerbrief. De AP en de Rijksinspectie Digitale Infrastructuur (RDI) krijgen een coördinerende rol binnen dit voorgenomen toezichtstelsel. Ook andere toezichthouders krijgen een rol. De Nederlandse Voedsel- en Warenautoriteit voert het AI-toezicht uit op speelgoed en gasinstallaties, de RDI en de Inspectie Leefomgeving en Transport doen dat bij de kritieke infrastructuur, de Inspectie Gezondheidszorg en Jeugd bij medische hulpmiddelen. Toezicht op AI voor financiële dienstverlening geschiedt weer door de Autoriteit Financiële Markten en De Nederlandse Bank. De procureur-generaal bij de Hoge Raad wordt toezichthouder op hoog-risico AI-systemen die de gerechten gebruiken.
Consultatie
Het wetsvoorstel was tot en met 1 juni 2026 (online) opengesteld voor consultatie.