AI-risicoanalyse en algoritmenregister voor een zorginstelling

1. Situatie

De opdrachtgever is een middelgrote zorginstelling (circa 400 medewerkers) actief in de intramurale zorg. De instelling maakt gebruik van een elektronisch patiëntendossier (EPD) met ingebouwde AI-modules die behandeladvies geven op basis van patiëntdata. Daarnaast wordt een plannings-algoritme ingezet voor het toewijzen van zorgmedewerkers aan cliënten.

De instelling had geen centraal overzicht van haar AI-systemen, geen risicobeoordeling en geen vastgesteld eigenaarschap per systeem.

2. Probleem

Met de inwerkingtreding van de AI Act en aanscherping van AVG-handhaving rond geautomatiseerde besluitvorming (artikel 22 AVG) was de vraag: welke systemen vallen onder hoog-risico, wat zijn de verplichtingen en hoe documenteren we dit aantoonbaar?

Specifieke knelpunten waren: geen documentatie van trainingsdata, geen vastgelegde menselijke toezichtverplichting en onduidelijkheid over verantwoordelijkheid bij incidenten.

3. Aanpak

1. Inventarisatie van alle AI-systemen via interviews met IT, bestuur en zorgprofessionals
2. Risicoclassificatie conform AI Act bijlage III (medische hulpmiddelen en zorg)
3. AVG-toets op geautomatiseerde verwerkingen en besluitvorming
4. Gap-analyse: vergelijking huidige situatie met AI Act-verplichtingen
5. Opstellen van het algoritmenregister met eigenaarschap en toezichtprotocol
6. Prioriteitenplan voor aanbevolen vervolgstappen

4. Deliverables

• Algoritmenregister met 6 AI-systemen, risicoclassificaties en eigenaarschap
• AI-risicoanalyse voor 2 hoog-risico systemen (EPD AI-module en planningsalgoritme)
• Gap-analyse AI Act vs. huidige documentatiestatus
• Aanbevelingsrapport met 12 prioritaire actiepunten
• Template voor toekomstige AI-systeem onboarding (due diligence checklist)

5. Resultaat

De instelling heeft nu een volledig gedocumenteerd overzicht van haar AI-systemen, inclusief risicoclassificaties en eigenaarsrollen. De twee hoog-risico systemen zijn voorzien van een compliancepad met concrete vervolgstappen richting volledige AI Act-conformiteit.

Het bestuur beschikt over een leesbaar aanbevelingsrapport waarmee prioriteiten zijn gesteld voor het komende jaar. De instelling is aantoonbaar begonnen met AI Act-compliance en kan dit naar toezichthouders verantwoorden.