AI Act-compliance voor een HR-organisatie met AI-selectietools

1. Situatie

De opdrachtgever is een HR-dienstverlener die werving en selectie uitvoert voor meerdere opdrachtgevers in de zakelijke dienstverlening. Voor het screenen van grote aantallen sollicitaties gebruikt de organisatie een AI-tool die CV's rankt en shortlists genereert. Aanvullend wordt een AI-gebaseerde persoonlijkheidsscan ingezet in de voorselectiefase.

De organisatie werkt als verwerker voor haar opdrachtgevers en draagt daarmee zowel verantwoordelijkheid als aansprakelijkheidsrisico bij gebruik van AI in selectiebeslissingen.

2. Probleem

AI-tools in werving en selectie vallen onder bijlage III van de AI Act als hoog-risico systeem. De organisatie had geen documentatie van de werking van de tools, geen bias-evaluatie en geen mechanisme voor menselijke toetsing van AI-uitkomsten.

Opdrachtgevers begonnen te vragen naar compliance-documentatie die de HR-dienstverlener niet kon leveren. Bovendien was er een AVG-risico door geautomatiseerde profilerende verwerking zonder toereikende grondslag.

3. Aanpak

1. Intake en inventarisatie van ingezette AI-tools, leveranciers en dataverwerkingen
2. AI Act-quickscan: classificatie en verplichtingen per tool
3. AVG-toets op geautomatiseerde besluitvorming en profilering (artikel 22)
4. Fundamental Rights Impact Assessment (FRIA) voor de CV-screening tool
5. Beoordeling leverancierscontracten op AI Act-verantwoordelijkheidsverdeling
6. Aanbevelingen voor menselijk toezicht, transparantiebeleid en verwerkersregister

4. Deliverables

• AI Act-quickscan rapport met risicoclassificatie per AI-tool
• FRIA (Fundamental Rights Impact Assessment) voor CV-screening tool
• AVG-adviesnotitie over geautomatiseerde verwerkingen en artikel 22
• Contractaanbevelingen richting AI-leveranciers
• Intern transparantiedocument voor sollicitanten over AI-gebruik
• Checklist voor periodieke evaluatie van ingezette AI-selectietools

5. Resultaat

De HR-organisatie kan haar opdrachtgevers nu voorzien van compliance-documentatie en aantonen dat AI-gebruik in selectie voldoet aan AI Act en AVG-vereisten. Het menselijk toezichtproces is vastgelegd en de leverancierscontracten zijn aangevuld met AI-verantwoordelijkheidsclausules.

Intern heeft het traject geleid tot meer bewustzijn over AI-risico's in het selectieproces en een structureel evaluatiemoment per kwartaal.