Algoritmes en werving: wat mag wel en niet onder de AI Act?
AI-systemen die sollicitanten selecteren gelden onder de AI Act als hoog-risico. Wat betekent dat in de praktijk, en waar moet de OR op letten?
Werving en selectie is een van de terreinen waar de AI Act de hoogste eisen stelt. AI-systemen die sollicitanten selecteren of beoordelen, gelden in principe als hoog-risico. Wat betekent dat in de praktijk, en waar moet de OR op letten?
Waarom werving gevoelig ligt
Een selectiebeslissing bepaalt wie wordt uitgenodigd en wie afvalt. Als een algoritme dat voorwerk doet, kan een fout of bias grote gevolgen hebben. Juist daarom noemt de AI Act dit type toepassing risicovol.
Wat zegt de AI Act?
AI-systemen voor werving en selectie staan in de lijst met hoog-risico toepassingen. Dat betekent onder meer eisen op het gebied van documentatie, transparantie, datakwaliteit en menselijk toezicht. Een deel van de AI Act geldt al; de zwaarste verplichtingen voor hoog-risico systemen worden via de AI Omnibus op een later moment van toepassing.
Daarnaast blijft de AVG gelden. Denk aan het recht op uitleg bij geautomatiseerde besluitvorming en aan regels over het verwerken van persoonsgegevens.
De rol van de OR
De OR kan algoritmische werving agenderen in het artikel 24-overleg en vragen om een impactanalyse. Raakt het systeem ook de gegevens of positie van medewerkers, dan kunnen adviesrecht of instemmingsrecht aan de orde zijn. Vraag in ieder geval hoe transparantie en menselijk toezicht zijn geregeld.
Waar let je op bij een selectietool?
- Op welke data is het model getraind en is die representatief?
- Worden kandidaten geïnformeerd over het gebruik van AI?
- Neemt een mens de uiteindelijke beslissing?
- Hoe wordt gecontroleerd op bias en discriminatie?
- Hoe lang worden gegevens van kandidaten bewaard?
Vragen aan de bestuurder
- Gebruiken we AI in het recruitmentproces, en waar precies?
- Is er een impactanalyse gemaakt?
- Hoe worden kandidaten en medewerkers geïnformeerd?
- Wie controleert de uitkomsten en hoe worden klachten behandeld?
Meer over AI en de rol van de OR lees je in onze checklist met 10 vragen voor de ondernemingsraad.
Häufig gestellte Fragen
Valt AI bij werving onder hoog-risico?
AI-systemen die worden gebruikt om sollicitanten te selecteren of te beoordelen, worden in de AI Act in beginsel als hoog-risico aangemerkt. Dat brengt strengere eisen mee voor transparantie, documentatie en menselijk toezicht.
Wat mag een werkgever niet met algoritmes bij werving?
Systemen mogen niet discrimineren en beslissingen mogen niet volledig geautomatiseerd aan kandidaten worden opgelegd. Kandidaten moeten in de regel worden geïnformeerd over het gebruik van AI en er moet menselijk toezicht zijn.
Wat kan de OR doen bij algoritmische werving?
De OR kan het onderwerp agenderen in het artikel 24-overleg, vragen om een impactanalyse, letten op het gebruik van persoonsgegevens en aandringen op transparantie en menselijk toezicht.
Wat is de status van de hoog-risico verplichtingen?
Een deel van de AI Act geldt al, zoals transparantie en AI-geletterdheid. De zwaarste verplichtingen voor hoog-risico systemen worden via de AI Omnibus op een later moment van toepassing. Houd de actuele stand in de gaten.