AP zet volgende stap in toezicht op AI

De Autoriteit Persoonsgegevens (AP) maakt zich verder klaar voor het toezicht op artificiële intelligentie (AI). Met de start van de nieuwe directie Toezicht en Coördinatie AI/Algoritmes (TCA) krijgt de taakopbouw steeds concreter vorm. De nieuwe directie gaat verder met het coördinerend toezicht op AI en algoritmes dat de AP sinds 2023 uitvoert. Daarnaast bereidt TCA het AI-markttoezicht voor en geeft TCA samen met de Rijksinspectie Digitale Infrastructuur (RDI) vorm aan de 'AI sandbox' en het gezamenlijke AI Coördinatiecentrum.

De AP is beoogd markttoezichthouder op AI, maar nog niet aangewezen. De AP beschikt pas over bevoegdheden in het AI-markttoezicht zodra de Nederlandse Uitvoeringswet AI-verordening van kracht is. Tegelijkertijd is de AP al wel bezig met samenwerking, voorlichting en ondersteuning van verantwoorde innovatie. De AP bouwt daarbij kennis en expertise op over onder meer AI-veiligheid en draagt bij aan de inrichting van de Europese toezichtaanpak.

Goed georganiseerd, proactief en deskundig 

AI biedt grote mogelijkheden, maar kan ook grote gevolgen hebben voor mensen, organisaties en onze samenleving. AI-systemen kunnen mensen beïnvloeden, selecteren en beoordelen. Ook kan AI steeds zelfstandiger taken uitvoeren. Vooral kinderen en andere kwetsbare groepen kunnen worden geraakt door manipulatieve of misleidende toepassingen. 

De recente incidenten met AI Agents die ongeautoriseerd toegang krijgen tot private en publieke online omgevingen, onderstrepen het belang van het krachtige en vroegtijdige toezicht op AI-systemen dat de AI-verordening met zich meebrengt. Dat maakt duidelijk waarom niet alleen regels nodig zijn, maar ook goed georganiseerd, proactief en deskundig toezicht.