Kennisbank • AI-compliance

Voorbeeld AI-risicoanalyse: HR-selectietool

Dit voorbeeld toont de structuur en inhoud van een AI-risicoanalyse voor een HR-selectietool die cv's rankt en shortlists genereert. De opdrachtgever en specifieke details zijn geanonimiseerd.

Laat een AI-risicoanalyse uitvoeren Plan een gesprek

Systeemomschrijving

Het systeem analyseert cv's en motivatiebrieven op vooraf ingestelde criteria en genereert een ranking voor het recruitmentteam. Het maakt gebruik van een taalmodel dat getraind is op historische selectiedata.

AI Act-classificatie

Het systeem valt onder bijlage III van de AI Act (gebruik van AI in werving en selectie van werknemers) en wordt ingedeeld als hoog-risico systeem. Dit brengt documentatie-, transparantie- en menselijk-toezichtsverplichtingen met zich mee.

Geïdentificeerde risico's

Drie hoofdrisico's zijn geïdentificeerd: (1) potentiële bias door historische trainingsdata, (2) gebrek aan uitlegbaarheid van de ranking, en (3) ontbreken van een geformaliseerd menselijk toetsingsproces.

AVG-beoordeling

Het systeem verwerkt bijzondere persoonsgegevens (indirecte indicatoren van achtergrond) en neemt geautomatiseerde besluiten met aanzienlijke gevolgen. Een DPIA is vereist en er moet een grondslag ex artikel 22 lid 2 AVG worden vastgesteld.

Mitigatiemaatregelen

Aanbevolen maatregelen: bias-audit door externe partij, uitlegbaarheidsrapportage per kandidaat, verplichte menselijke beoordeling van de shortlist en aanpassing leverancierscontract op AI Act-verantwoordelijkheden.

Status en opvolging

Na het vaststellen van de risicoanalyse is een compliancepad opgesteld met drie prioritaire acties voor het komende kwartaal. Evaluatiedatum is vastgesteld na 6 maanden.

Gerelateerde diensten

Van kennis naar actie

Wil je hulp bij de uitvoering? Bekijk de bijbehorende diensten van AITransparant.

FRIA laten opstellen

Fundamental Rights Impact Assessment voor hoog-risico AI-systemen.

Meer over FRIA

Een soortgelijke risicoanalyse nodig voor jouw AI-systeem?

AITransparant voert AI-risicoanalyses uit conform AI Act-vereisten met heldere rapportages en vervolgstappen.

Laat een AI-risicoanalyse uitvoeren Plan een gesprek