En el marc regulador de la UE, utilitzar la IA en els processos de selecció sense considerar i comprendre les seves implicacions legals ja no és una opció.
La UE ha classificat oficialment la contractació i la selecció com un cas d'ús d''Alt Risc' sota la nova Llei d'IA. Simultàniament, la Directiva de Transparència Retributiva està desplaçant la càrrega de la prova. Ja no es tracta només de preguntar: "Va ser just el nostre procés?". Ara, les autoritats reguladores exigeixen: "Pot demostrar que va ser just?"
Per a qui lidera RRHH i els equips d'Adquisició de Talent, aquestes normatives superposades suposen un canvi massiu en la manera com s'ha de documentar i executar la contractació.
En aquest article, desglossarem què és exactament una "IA de contractació d'alt risc", per què és important i els canvis operatius que el seu equip necessita fer ara mateix per complir amb la normativa.
Definició d'"IA de contractació d'alt risc" sota la Llei d'IA de la UE
A ulls de la Llei d'IA de la UE, l'"Alt Risc" no significa que la seva IA sigui excessivament complexa o intrínsecament perillosa. La classificació es basa completament en la seva finalitat prevista i en el seu impacte potencial en els drets fonamentals i les oportunitats professionals de les persones.
La regla d'or per als equips de selecció es troba en l'Annex III de la Llei: la llista oficial de casos d'ús d'IA d'alt risc predefinits. Qualsevol sistema d'IA aplicat a les àrees llistades aquí es considera d'alt risc per defecte.
L'Annex III assenyala explícitament l'"Ocupació, gestió de persones treballadores i accés a l'autoocupació", destacant:
Publicació d'anuncis de feina dirigits.
Anàlisi i filtratge de sol·licituds (processament de CV).
Avaluació i classificació de persones candidates.
Això significa que la gran majoria de les seves eines automatitzades de contractació, des de la segmentació d'anuncis i el cribratge fins a la preselecció, probablement entrin en la categoria d'alt risc.
Per què la IA en selecció està tan regulada?
La normativa no és contrària a la IA. Simplement reconeix que les decisions de contractació tenen un profund impacte legal i socioeconòmic en la vida de les persones. La designació d'alt risc imposa obligacions estrictes per mitigar tres amenaces específiques:
Biaix inherent: Històricament, la contractació acumula biaixos (per exemple, afavorir certes universitats o mostrar biaixos de gènere a través del llenguatge). La Llei d'IA exigeix que les dades d'entrenament compleixin criteris de qualitat estrictes i que la detecció i mitigació de biaixos s'integrin en la seva governança de dades.
Biaix d'automatització: Tothom vol fer el cribratge més ràpid, però a la UE li preocupa el "biaix d'automatització", la tendència de les persones a confiar cegament en els resultats de la IA. La llei exigeix supervisió humana. Una persona ha de ser capaç d'interpretar els resultats de la IA i tenir autoritat per anul·lar-los o ignorar-los.
Manca de traçabilitat: Els sistemes d'alt risc han de disposar d'un registre automàtic d'esdeveniments (logs). Cal proporcionar instruccions clares, limitacions i finalitats previstes. En resum: Heu de poder reconstruir exactament com es va prendre una decisió de contractació.
Què ha de canviar al teu equip des d’avui
Que la IA en selecció sigui “alt risc” és una crida a professionalitzar el procés.
I la responsabilitat no és només del proveïdor: és teva com a empresa que utilitza la IA.
Punts clau:
1. Audita tot el teu procés de selecció
Identifica on intervé la IA: ATS, screening, publicació d’ofertes, recomanacions…
2. Defineix criteris des de l’inici
Han de ser objectius i neutres en gènere, i aplicar-se de forma consistent.
3. Oblida’t dels registres informals
Fulls, d'Excel, emails o Slack no serveixen. Necessites registre automàtic i estructurat.
4. Documenta la supervisió humana
Cal demostrar qui intervé, quan i per què.
5. Compte amb personalitzar eines
Modificar models o sistemes pot implicar més responsabilitat legal.
La lógica de la normativa: demostrar, no afirmar
La idea clau és clara:
La equitat no s’afirma, es demostra
Si una persona candidata qüestiona una decisió, hauràs de poder explicar:
Per què s’ha valorat així
Si els criteris eren objectius
Quin paper ha tingut la IA
BlindStairs, la intel·ligència llesta per a auditoria
Per a les organitzacions que ja utilitzen un ATS, el repte rarament és la manca d'eines.
El repte és si les decisions de contractació actuals poden ser explicades, reconstruïdes i defensades sota les noves normatives de la UE.
BlindStairs està dissenyat precisament per a aquest escenari.
No substitueix el seu ATS ni interromp els seus fluxos de treball.
En canvi, s'integra directament en la seva infraestructura de contractació existent per garantir que:
els criteris d'avaluació es defineixin prèviament,
les decisions s'apliquin de forma coherent,
i cada resultat de contractació pugui ser traçat i explicat si es revisa.
A la pràctica, BlindStairs actua com una capa de compliment i explicabilitat sobre els sistemes en què els equips ja confien. Convertim la seva plataforma de contractació actual en evidència llesta per a auditoria sense afegir feina manual.
Què passa si no teniu un ATS o esteu començant a usar IA en la contractació?
No totes les organitzacions es troben en el mateix nivell de maduresa en els seus processos de selecció.
Alguns equips:
contracten sense un ATS,
estan en una fase inicial d'adopció de la IA,
o busquen millorar l'eficiència sense introduir riscos de compliment.
Per a aquests equips, Merified AI ofereix una solució independent i llesta per utilitzar que permet la selecció impulsada per IA mantenint l'alineació total amb els requisits reguladors de la UE.
Merified AI dona suport a les organitzacions:
ajudant a definir criteris d'avaluació objectius i rellevants per al lloc de feina abans que comenci la contractació,
permetent un cribratge basat en el mèrit centrat en habilitats i responsabilitats,
i integrant l'explicabilitat i la traçabilitat en el procés des de l'inici.
Això permet als equips beneficiar-se de l'eficiència de la IA sense crear decisions de contractació opaques o indefensables.
El compliment no es tracta només de les eines. Es tracta del procés
Independentment de si les organitzacions utilitzen un ATS o no, la pregunta reguladora continua sent la mateixa:
Podem mostrar clarament com es va prendre una decisió de contractació, utilitzant criteris objectius i documentats?
La Llei d'IA de la UE i la Directiva de Transparència Retributiva no avaluen la tecnologia de forma aïllada.
Avaluen si els processos de contractació són estructurats, neutres, traçables i defensables.
Quan el procés està ben dissenyat, el compliment deixa de ser una càrrega.
👉 Tot a punt per assegurar el futur del vostre procés de contractació?
Reserveu una demostració o parleu amb el nostre equip avui mateix per veure com BlindStairs us pot ajudar a crear un procés de contractació clar, conforme a la llei i d'alta conversió.