Artikel 86 i AI-förordningen ger anställda och kandidater en lagstadgad rätt att få en begriplig förklaring när ett beslut som helt eller delvis grundas på högrisk-AI påverkar dem negativt. Det gör "black box"-algoritmer i HR i praktiken olagliga.
Rätten gäller alla som drabbas negativt av beslut som helt eller delvis grundas på högrisk-AI-system. I HR-sammanhang inkluderar det bland annat:
Förklaringen ska vara tydlig och begriplig - inte en teknisk redogörelse för algoritmen, utan en förklaring som en lekman kan förstå. Den ska beskriva:
Om arbetsgivaren inte kan förklara hur ett AI-system kom fram till sitt resultat i klartext, kan systemet i praktiken inte användas lagligt för beslut som påverkar individer. Det innebär att helt ogenomskinliga algoritmer - så kallade black boxes - inte kan användas i HR-processer om resultaten ligger till grund för negativa beslut.
GDPR Artikel 22 ger redan ett skydd mot helt automatiserade beslut med rättsliga eller betydande effekter. AI-förordningens Artikel 86 utökar transparenskravet till att även gälla delvis AI-assisterade beslut - alltså situationer där en människa formellt fattar beslutet men med starkt stöd av ett AI-system. Det gör att arbetsgivare behöver kunna förklara AI:ns roll även när en människa varit med i beslutsledet.