Perché la svolta di Google nella 'memorizzazione dei test' dell'IA è una vittoria importante per assunzioni eque

Quando valutiamo i candidati per un lavoro, cerchiamo l'adattabilità. Non vogliamo qualcuno che abbia semplicemente memorizzato le risposte alle domande comuni dei colloqui; vogliamo un pensatore che possa applicare le proprie competenze a sfide nuove e inaspettate. Eppure, per anni, i sistemi di intelligenza artificiale su cui contiamo per selezionare, reperire e valutare questi candidati hanno fatto esattamente ciò che temiamo: la memorizzazione a pappagallo.

I ricercatori di Google hanno recentemente affrontato questa precisa crisi. In un nuovo articolo, hanno rivelato che gli agenti IA auto-miglioranti hanno l'abitudine di 'memorizzare' i loro compiti di test. Sebbene possano sembrare brillanti sulla carta, le loro prestazioni crollano quando si trovano di fronte a scenari nuovi e mai visti. Per combattere questo, Google ha introdotto il Regularized Reinforcement Learning from Self-Play (RRSI). Questo metodo impedisce all'IA di 'barare' memorizzando i benchmark, migliorando i punteggi su compiti mai visti fino a 4,7 punti e utilizzando il 30% in meno di token di calcolo.

Per coloro che sostengono una tecnologia HR etica, questo sviluppo è una pietra miliare enorme.

Nel campo dell'acquisizione di talenti, la 'memorizzazione' è nota come overfitting. Quando un sistema di tracciamento dei candidati (ATS) o uno strumento di screening automatizzato viene addestrato su dati storici di assunzione, memorizza come appariva un 'candidato di successo' in passato, spesso favorendo parole chiave specifiche, università prestigiose o schemi demografici. Non comprende realmente le capacità; ha semplicemente memorizzato il test. Quando un candidato brillante ma non tradizionale si candida, l'IA con overfitting lo rifiuta perché non rientra nel modello memorizzato.

Forzando gli agenti IA a generalizzare piuttosto che a memorizzare, il metodo RRSI di Google indica la strada verso un futuro più equo per gli algoritmi di reclutamento. Se riusciamo a costruire agenti di valutazione dei talenti che comprendano veramente le competenze e il contesto, piuttosto che affidarsi a modelli storici, possiamo ridurre significativamente i pregiudizi sistemici.

Il vero potenziale non può essere misurato da una rigida checklist. Man mano che gli agenti IA si integrano più profondamente nella cultura organizzativa, dobbiamo esigere tecnologie che privilegino la vera adattabilità rispetto alla replicazione meccanica. La ricerca di Google dimostra che possiamo costruire IA più intelligenti e flessibili; ora, spetta all'industria della tecnologia HR applicare queste lezioni e costruire sistemi di assunzione che riconoscano effettivamente il potenziale umano.

Foto: Hitesh Choudhary / Unsplash (https://unsplash.com/@hiteshchoudhary)