- Modelele AI testate au creat stereotipuri despre grupuri fictive, deși toți candidații aveau exact aceleași șanse de succes
- Primele rezultate întâmplătoare au fost transformate rapid în „reguli” despre cine ar fi potrivit pentru anumite profesii
- Modelele avansate au produs, în experiment, o segregare profesională cu aproximativ 65% mai mare decât participanții umani
- OpenAI o3 a obținut un indice de stratificare de 1,83 din maximum 2, față de 0,84 în cazul oamenilor
- Biasul s-a redus când diversitatea a devenit un obiectiv concret, nu doar o recomandare vagă adresată modelului
Un CV intră într-un sistem automat. Algoritmul nu știe nimic despre candidat, dar își amintește că, într-o rundă anterioară, cineva cu o etichetă asemănătoare a eșuat. Din acel moment, întâmplarea începe să semene cu o regulă. După câteva decizii, regula devine stereotip.
Acesta este mecanismul surprins de cercetătorii de la Princeton University și University of Chicago într-un experiment despre AI în recrutare. Concluzia lor este mai incomodă decât ideea deja cunoscută că algoritmii copiază prejudecățile oamenilor: modelele lingvistice mari pot inventa stereotipuri noi, chiar și atunci când nu există nicio diferență reală între persoanele evaluate.
În studiul „Large Language Models Develop Novel Social Biases Through Adaptive Exploration”, cercetătorii Addison J. Wu, Ryan Liu, Xuechunzi Bai și Thomas L. Griffiths au pus mai multe modele AI să joace rolul unor consultanți de recrutare pentru primarul unui oraș fictiv. Sistemele trebuiau să aleagă candidați pentru 20 de profesii, printre care medic, avocat, îngrijitor de copii și om de serviciu.
Candidații aparțineau unor grupuri inventate — Tufa, Aima, Reku și Weki. Numele nu aveau o istorie, o cultură sau stereotipuri reale atașate. În fiecare rundă, modelul primea patru candidați, câte unul din fiecare grup, făcea o angajare și afla imediat dacă persoana aleasă avusese succes.
Jocul continua timp de 40 de runde. Detaliul pe care AI-ul nu îl știa era că toți candidații aveau exact aceeași probabilitate de succes, de 90%, indiferent de grup și profesie. Cu alte cuvinte, diferențele observate de modele erau zgomot statistic — echivalentul unei serii norocoase sau ghinioniste de aruncări cu moneda.
Modelele nu au tratat însă aceste rezultate ca pe niște accidente. Dacă un candidat Aima eșua într-un rol de medic, sistemul putea evita ulterior alți candidați Aima pentru posturi asociate cu un nivel ridicat de competență. În schimb, începea să-i orienteze spre slujbe percepute drept mai puțin prestigioase.
Astfel, AI-ul nu descoperea o realitate ascunsă. O construia singur.
De ce au fost modelele mai grăbite decât oamenii să inventeze stereotipuri?
Cercetătorii au măsurat comportamentul printr-un „indice de stratificare”. Zero înseamnă că grupurile sunt distribuite relativ uniform între profesii. Valoarea maximă, 2, arată că fiecare grup a fost împins aproape complet într-o anumită nișă profesională.
Participanții umani din experimentul psihologic original au obținut un scor mediu de 0,84. Modelele AI de frontieră testate au ajuns, în medie, la 1,39 — o stratificare cu aproximativ 65% mai mare. OpenAI o3 a înregistrat 1,83, aproape de maximum posibil, iar DeepSeek-R1 a ajuns la 1,41.
Rezultatul nu înseamnă că o3 sau un alt model va discrimina automat candidații într-un proces real de angajare. Experimentul a fost construit special pentru a observa formarea stereotipurilor în decizii repetate. Arată însă cât de repede poate un sistem să transforme câteva exemple în generalizări despre un grup.
Problema pornește din ceea ce psihologii și economiștii numesc dilema explorare–exploatare. Un decident poate testa variante noi, riscând să obțină rezultate mai slabe, sau poate continua să aleagă opțiunea care a funcționat deja.
Este aceeași dilemă pe care o avem când alegem între restaurantul preferat și localul nou de la colț. Numai că, într-un proces de recrutare, „restaurantul preferat” poate deveni candidatul dintr-un anumit grup, iar ceilalți nu mai primesc suficiente șanse pentru a demonstra ce pot.
Modelele AI sunt antrenate să găsească tipare și să generalizeze dintr-un număr mic de exemple. Această capacitate este utilă când rezolvă o problemă de matematică sau completează un fragment de cod. Într-un context social, aceeași tendință poate produce bias algoritmic: modelul vede o regulă acolo unde există doar hazard.
Cercetătorii au verificat dacă asocierile dintre grupuri și profesii erau deja ascunse în model. Nu erau. În simulări diferite, același model putea decide că Tufa sunt medici excelenți, iar în următoarea că sunt potriviți mai ales pentru alte slujbe. Stereotipul depindea de primele succese și eșecuri întâlnite în fiecare joc.
Aceasta este diferența față de prejudecățile preluate direct din datele de antrenament. Un studiu distinct despre discriminarea rasială și de gen în deciziile de angajare, publicat în 2024, a constatat că unele modele favorizau în anumite scenarii candidații cu nume percepute drept albe în fața celor cu nume hispanice. Rezultatele variau însă în funcție de formularea promptului.
Noua cercetare merge cu un pas mai departe: chiar dacă eliminăm toate grupurile reale și toate stereotipurile lor istorice, modelul poate produce altele noi.
Ce se întâmplă când chatbotul își amintește fiecare succes și eșec?
Miza crește pe măsură ce asistenții AI primesc memorie, acces la baze de date și libertatea de a lua decizii succesive. Un chatbot care răspunde la o întrebare izolată poate avea un impact limitat. Un agent care își amintește luni de decizii, urmărește rezultatele și își ajustează strategia poate transforma o coincidență într-o politică permanentă.
În recrutarea reală, feedbackul nu vine la fel de repede ca în laborator. O companie poate afla după luni dacă un angajat performează bine, iar evaluarea poate depinde de manager, echipă, proiecte, acces la resurse sau cultura organizațională. „Succesul” nu este un bec care se aprinde verde sau roșu.
Tocmai această complexitate poate face problema mai greu de detectat. Dacă un sistem recomandă mai rar un anumit grup pentru funcții de conducere, compania va aduna mai puține date despre performanța acelui grup în poziții de conducere. Lipsa experienței poate fi apoi interpretată drept lipsă de potențial, iar bucla se închide.
Presiunea pentru automatizare este ușor de înțeles. Potrivit unei analize publicate de Ziarul Financiar despre piața muncii din România, în primele șase luni din 2026 au fost înregistrate peste 6,7 milioane de aplicări la aproximativ 110.000 de joburi noi. Când sute sau mii de CV-uri ajung pentru un singur rol, filtrarea automată devine atractivă pentru angajatori.
Dar eficiența nu este același lucru cu echitatea. Un algoritm poate procesa 10.000 de CV-uri fără pauză și poate aplica aceeași eroare de 10.000 de ori.
Într-o analiză despre noua ordine din business, ZF notează că avantajul companiilor va depinde de modul în care combină AI-ul cu judecata umană, nu doar de viteza adoptării. Aceeași analiză avertizează că există domenii în care AI-ul nu este instrumentul potrivit și în care expertiza umană rămâne indispensabilă.
Tema locurilor de muncă este urmărită și de Aleph Tech. O analiză despre impactul AI asupra joburilor de birou arată că transformarea nu se produce peste noapte, însă tehnologia înaintează spre activități care până recent presupuneau exclusiv decizie umană.
Poate fi convins AI-ul să fie corect sau trebuie schimbat obiectivul?
Cercetătorii au încercat mai multe metode pentru a reduce segregarea. Au modificat „temperatura” modelelor, adică nivelul de variație al răspunsurilor. Le-au cerut să explice pas cu pas cum gândesc. Au schimbat contextul și au eliminat unele elemente de joc.
Efectele au fost limitate sau inconsistente. A-i spune unui model să fie echitabil nu a fost suficient. Sistemul continua să urmărească obiectivul principal: să obțină cât mai multe angajări reușite, chiar dacă pentru asta transforma rezultatele întâmplătoare în reguli despre grupuri.
Intervenția cu cele mai bune rezultate a fost introducerea diversității direct în obiectiv. Când modelele primeau un stimulent explicit pentru explorarea mai multor opțiuni și pentru evitarea concentrării grupurilor în anumite profesii, stratificarea scădea considerabil.
Este o lecție despre felul în care construim sistemele AI. Valorile sociale nu pot rămâne o notă de subsol, în timp ce performanța este măsurată până la ultima zecimală. Dacă sistemul primește bonus numai pentru rapiditate, productivitate sau rata aparentă de succes, va optimiza acele cifre — nu echitatea pe care compania declară că o dorește.
Mai multe informații relevante despre persoanele evaluate au redus, de asemenea, tendința modelelor de a se baza pe apartenența la grup. Date precum educația, experiența sau competențele pot muta atenția spre individ. Informațiile irelevante, precum culoarea părului sau forma unui tatuaj, nu au avut același efect.
Soluția nu este însă colectarea nelimitată de date personale. Mai multe date pot însemna și mai multe posibilități de discriminare, încălcări ale vieții private sau apariția unor corelații imposibil de justificat. Contează dacă informația este relevantă pentru postul respectiv, dacă utilizarea ei poate fi explicată și dacă decizia poate fi contestată.
În Uniunea Europeană, anumite sisteme AI folosite pentru recrutare și gestionarea angajaților sunt tratate drept aplicații cu risc ridicat prin Regulamentul european privind inteligența artificială, AI Act. Cadrul cere măsuri precum managementul riscurilor, documentarea, supravegherea umană și monitorizarea sistemelor.
Reglementarea va trebui însă să țină pasul cu o problemă dificilă: un sistem poate trece testele inițiale și poate dezvolta comportamente noi după ce începe să primească feedback din lumea reală. Aleph Tech a abordat aceeași cursă dintre tehnologie și reguli într-un material despre avertismentul ONU potrivit căruia AI evoluează mai repede decât mecanismele create pentru a o controla.
Experimentul nu demonstrează că orice instrument de recrutare bazat pe AI va discrimina și nici că oamenii sunt, prin definiție, mai corecți. Participanții umani au inventat și ei stereotipuri în același joc. Diferența este de scară și viteză: un om poate lua zeci de decizii, în timp ce un sistem automat poate influența milioane.
Iar dacă AI-ul poate inventa un stereotip pornind de la câteva rezultate întâmplătoare, întrebarea pentru angajatori nu mai este doar „Pe ce date a fost antrenat modelul?”. Devine la fel de importantă o a doua întrebare: „Ce a învățat după ce l-am pus la muncă?”.