De FRIA voor AI-systemen komt eraan: bereid u voor

Bent u een overheidsorganisatie of een private organisatie die publieke diensten levert? En bent u van plan een AI-systeem met een hoog risico te gaan gebruiken? Of gaat u als publieke of private organisatie een beoordelingssysteem voor financiële risico’s gebruiken? Dan moet u vanaf december 2027 vooraf beoordelen welke gevolgen dit AI-systeem kan hebben voor de grondrechten van mensen. Zo’n beoordeling heet een ‘fundamental rights impact assessment’ (FRIA), oftewel een ‘grondrechteneffectbeoordeling’. 

De Autoriteit Persoonsgegevens (AP) roept u op om nu al ervaring op te doen met het uitvoeren van een FRIA. De AP helpt u daarbij met uitleg over het FRIA-vereiste in de AI- verordening en een landelijke pilot waaraan u kunt meedoen.

De verplichting om een FRIA uit te voeren staat in de Europese AI-verordening. Met een FRIA brengt u vooraf in kaart welke gevolgen bepaalde hoogrisico-AI-systemen kunnen hebben voor grondrechten. Zoals het recht op gelijke behandeling, menselijke waardigheid, privacy en toegang tot essentiële voorzieningen. Ook moet u beschrijven hoe u deze risico's beperkt en daarover rapporteren aan de toezichthouder.

Sven Stevenson, directeur Coördinatie Algoritmes van de AP: "De verplichte FRIA dwingt organisaties om vooraf stil te staan bij de vraag wat een AI-systeem betekent voor de mensen die ermee te maken krijgen. Daarmee helpt een FRIA om problemen te voorkomen, in plaats van ze achteraf te moeten herstellen."

Hoewel de FRIA-verplichting pas vanaf december 2027 geldt, adviseert de AP u nu al te beginnen. Door alvast ervaring op te doen, krijgt u beter inzicht in de AI-systemen die u gebruikt en kunt u zich tijdig voorbereiden op de nieuwe verplichtingen.

Om u daarbij te ondersteunen, start de AP een pilot. Doet u hieraan mee, dan doet u praktijkervaring op met het Europese template voor de FRIA-rapportage. U krijgt ook feedback op uw aanpak.