Miksi tekoäly voi suosia naisvaltaisella alalla naispuolista ja miesvaltaisella alalla miespuolista hakijaa?
Tekoäly on tulossa työmarkkinoille valitsemaan sopivimpia mahdollisia työntekijöitä hakijoiden joukosta, ja tuo prosessi saattaa vääristyä hyvin yksinkertaisesta syystä. Jotta tekoäly voi tehdä sellaisen valinnan, että se tyydyttää työnantajaa, niin sen pitää kerätä kaikki mahdollinen tieto jo alalla olevista henkilöistä. Kun tieto on kerätty, niin sen jälkeen tuo tekoäly tekee niin sanotun "keskiarvohenkilön" eli matriisin, jonka avulla suoritetaan valinta. Tuo tieto pitää sisällään tietenkin sen, mitä kouluja kukin hakija on käynyt, mutta myös esimerkiksi sen kuinka pitkä työhistoria alalla parhaiten menestyneimmillä tai kaikkein parhailla työntekijöillä on.
Mutta samalla se saattaa pitää sisällään tiedon siitä, että kumpaa sukupuolta alalta löytyy eniten. Jos ajatellaan että alalla on paljon enemmän naisia kuin miehiä tai päin vastoin paljon enemmän miehiä kuin naisia, niin silloin tietenkin tuo asia vaikuttaa siihen, kumman sukupuolen edustajan tekoäly näkee menestyvän paremmin. Se tietenkin menestyy tekoälyn mielestä paremmin, jonka sukupuoli on useammin edustettuna esimerkiksi juuri tilastoissa. Joten jos jossain ammatissa on enemmän naisia, niin tekoälyn mielestä silloin nainen menestyy aina paremmin kuin mies.
Ja samalla tavalla mies menestyy miesvaltaisella alalla tekoälyn mielestä paremmin kuin nainen siksi, että tilastoissa mies on useammin mainittu sukupuoli kuin nainen. Tekoäly on ohjelmisto joka ei tee mitään luovaa. Joten jos tilastossa suurin osa ihmisistä on miehiä, niin silloin tekoäly pitää aina miestä parempana. Ja jos sitten suurin osa tilastoissa mainituista henkilöistä on naisia, niin silloin tekoäly ilman muuta "ajattelee" että nainen menestyy alalla paremmin kuin mies. Joskus tällaista ohjelmaa tehdessä on kohdattu sellainen tilastoihme, jota kutsutaan "Virtasten syndroomaksi".
Tuolloin jos tilastoissa komeilee usein joku tietty nimi, niin silloin tekoäly saattaa väittää, että nimi "Virtanen" tekee henkilöstä sopivamman johonkin tehtävään kuin joku muu nimi, mikä ei varmaan ole aivan totta. Tekoäly on siis työhaun tapauksessa sovellus, joka vertaa erilaisia parametrejä keskenään. Ja kuten tiedämme, niin kaikki data mitä tuo tekoäly tarvitsee on erilaisissa tietokannoissa. Mikäli ohjelmiston luojat eivät muista poistaa nimitietuetta tai saraketta käsiteltävien tietueiden luettelosta, niin silloin ohjelmisto saattaa sanoa, että joku nimi kuten "Virtanen" on sellainen asia, mikä tekee ihmisestä luotettavan tai sopivan.
Kommentit
Lähetä kommentti