Nykyään rekrytoinnissa käytetään yhä enemmän tietokoneohjelmia
eli algoritmeja päätöksenteon apuna. Algoritmit arvioivat ihmisten
koulutodistuksia, persoonallisuutta (kyselyn perusteella) ja terveystietoja. Tämän
on ajateltu lisäävän oikeudenmukaisuutta, koska koneet ovat objektiivisia ja
kaikille samanlaisia. Käytännössä on kuitenkin huomattu, että algoritmeihin
perustuvan rekrytointipäätöksenteon oikeudenmukaisuudessa on lukuisia haasteita
(riippuen valituista parametreistä algoritmit voivat suosia tiettyä
asuinaluetta, sukupuolta, elämänkatsomusta jne.). Karen Higginbottom (2018)[i] kertoo
esimerkiksi Amazonin luopuneen algoritmien käytöstä rekrytoinnissa, koska niiden
todettiin toimivan syrjivästi. Myös ranskalaisten yliopistojen käyttämä
opiskelijavalinnan algoritmi on herättänyt samasta syystä paljon kritiikkiä
(Schwab 2016)[ii]. Mahdollisen
epäoikeudenmukaisuusongelman lisäksi
algoritmeihin liittyy rekrytoinnissa muitakin ongelmia.
Olin kuuntelemassa
Tiedekulmassa kun filosofi Susanna Lindberg[iii] puhui
algoritmeihin liittyvistä ongelmista ”Moral Machines” -seminaarissa 6.3.2019. Lindberg
kertoi, että luokittelualgoritmi toimivat ikäänkuin ”magical sorting hats”,
joiden perusteella päätetään onko joku sopiva työhön vai ei. Koska algoritmien
toiminta perustuu ohjelmointiin ja dataan, näihin liittyvät ongelmat
heijastuvat algoritmien toimintaan. Jos ohjelmoinnissa ei ole huomioitu kaikkia
olennaisia asioita, ei myöskään algoritmi huomioi niitä (kapea-alaisuuden ongelma). Jos data on vinoutunutta tai
virheellistä, ei algoritmikaan toimi oikein. On vaikea rakentaa sofistikoituja
algoritmeja, jotka pystyvät joustavasti kompensoimaan joitain puuttuvia
ominaisuuksia toisilla ominaisuuksilla (joustamattomuuden
ongelma). Kuten Lindberg sanoi:
”Koneet eivät ymmärrä armoa, anteeksiantamista, erityistapauksia tai
olosuhteita”. Minulla on tästä omakohtainen, hieman hämmentävä, kokemus.
Vastasin erään pelifirman työpaikka-ilmoitukseen, etten hae työpaikkaa (koska
tekniset taitoni eivät riitä), mutta voisin tulla konsultoimaan heitä
päätöksenteon psykologiasta ja alitajuisista päätöksentekoon vaikuttavista
asioista (heillä oli selkeä tarve). Sain vastauksen minuuteissa hakemuksen
lähettämisen jälkeen: ”Kiitos mielenkiinnosta työtehtävää kohtaan,
valitettavasti valintamme ei tällä kertaa kohdistunut sinuun”. Vaikutti
vahvasti siltä, että kukaan ei ollut lukenut ehdotustani. En jaksanut lähettää
uudelleen, saavat pärjätä jatkossakin ilman apuani…
Algoritmeihin perustuvassa luokittelussa on myös läpinäkymättömyyden ongelma. Emme tiedä
miten koneet tekevät päätöksiä ja mikä niihin vaikuttaa. Lindholm ihmettelee
joitan rekrytoinnissa käytettyjä kysymyksiä – onko esimerkiksi tärkeää tietää
miten ihmiset käyttävät nettiä viihtymistarkoituksessa, miten he käyttäytyvät
somessa tai paljonko ystäviä heillä on? Ihmiset eivät voi valmistautua tai
puolustautua, jos he eivät tiedä miten päätöksiä tehdään. Tosin tämä ei ole
pelkästään algoritmeihin liittyvä ongelma. Eivät monet perinteisin keinoin
rekrytoivat työnantajatkaan tätä tietoa jaa, joskus sentään saa jonkinlaisen
vastauksen, jos soittelee perään ja kyselee.
Kokosin algoritmeihin rekrytoinnissa liittyvät haasteet alla olevaan kuvioon:
Olisi hyvä jos algoritmien käytöstä heräisi kriittistä yhteiskunnallista keskustelua. On tärkeää pohtia myös yhteiskunnan kannalta oikeudenmukaisuuskysymyksiä. Algoritmit ovat oikein loistava apu päätöksenteolle, kunhan niiden puutteet tiedotetaan. Mitä useampi ihminen pohtii asiaa, sitä todennäköisemmin löydetään keinot epäkohtien korjaamiseen. Kyse on mittakaavaltaan paljon merkittävämmästä yhteiskunnallisesta ongelmasta kuin monet vaalikeskusteluissa esiin nousseet teemat.
Ps. Kiitos kuvasta Nenetus at free digital photos.net
[i]
Higginbottom, Karen (2018): ”The pros and cons of algorithms in recruitment”,
Forbes 18.10.2018,
[ii] Schwab,
Pierre-Nicolas (2016): ” French Universities scandalous selection algorithm
revealed”, Into the minds-blogi, https://www.intotheminds.com/blog/en/french-universities-scandalous-selection-algorithm-revealed/
[iii]
Lindberg, Susanna (2019): ”Just machines”, presentation in conference ”Moral machines? Ethics and politics of the
digital world” –Conference in Helsinki, 6-8.3 2019
Kommentit
Lähetä kommentti