Bijlage I – veiligheidscomponenten
AI die als veiligheidscomponent wordt gebruikt in producten die al onder geharmoniseerde EU-wetgeving vallen, zoals machines, medische hulpmiddelen en voertuigen.
Verdieping · AI Act
Hoog-risico AI-systemen: verplichtingen en aanpak
Hoog-risico AI-systemen vallen onder de zwaarste categorie van de AI Act. Ze vereisen uitgebreide technische documentatie, een risicomanagementsysteem, logging en aantoonbaar menselijk toezicht.
Definitie
Wanneer is een AI-systeem hoog-risico?
De AI Act definieert hoog-risico in twee categorieën: AI als veiligheidscomponent (Bijlage I) en AI in specifieke toepassingsgebieden (Bijlage III).
Bijlage III – toepassingsgebieden
AI in acht specifieke sectoren: biometrische identificatie, kritieke infrastructuur, onderwijs, werkgelegenheid (HR), essentiële diensten, wetshandhaving, migratie en rechtsbedeling.
Verplichtingen
Wat zijn de verplichtingen voor hoog-risico AI?
Risicomanagementsysteem (Art. 9)
Een doorlopend risicomanagementsysteem gedurende de volledige levenscyclus van het AI-systeem.
AI-risico beoordelenData en data-governance (Art. 10)
Trainings-, validatie- en testdata moeten voldoen aan kwaliteitscriteria: representatief, vrij van fouten en relevant voor het beoogde doel.
Technische documentatie (Art. 11 + Bijlage IV)
Uitgebreide documentatie: architectuur, trainingsdata, testresultaten en prestatie-indicatoren.
Logging (Art. 12)
Automatische logging zodat het functioneren achteraf gecontroleerd kan worden.
Transparantie (Art. 13)
Gebruikers moeten voldoende informatie krijgen om verantwoord gebruik te kunnen maken.
Menselijke controle (Art. 14)
Maatregelen zodat gebruikers het systeem effectief kunnen monitoren en zo nodig kunnen ingrijpen.
Nauwkeurigheid en robuustheid (Art. 15)
Prestatieniveaus voor nauwkeurigheid, robuustheid en cyberveiligheid moeten worden gedocumenteerd.
Conformiteitsbeoordeling
Vóór markttoegang moet een conformiteitsbeoordeling zijn uitgevoerd.
AI-audit voorbereidingKlaar voor een eerste stap?
Plan een vrijblijvend gesprek. Samen bepalen we welke aanpak het beste past bij jouw organisatie.