Theseus käyttökatko ma 22.4. klo 12 alkaen. Katko jatkuu 22.4. klo 15 asti ja on koko Theseuksen laajuinen. Lisäksi töiden käsittely ja syöttö on estetty ti 23.4. ainakin klo 12 asti. Theseus service break from Mon 22.4. at 12:00. The break will last until 15:00 on Mon 22.4. and is Theseus-wide. In addition, processing and uploading of work will be blocked until at least 12:00 on Tue 23.4.
Tekoälypohjaisten henkilöarviointien uhkien ja haasteiden ennaltaehkäisy ja henkilöarviointien oikeudenmukaisuuden varmistaminen
Dastan, Aysenur (2022)
Dastan, Aysenur
2022
All rights reserved. This publication is copyrighted. You may download, display and print it for Your own personal use. Commercial use is prohibited.
Julkaisun pysyvä osoite on
https://urn.fi/URN:NBN:fi:amk-202202042112
https://urn.fi/URN:NBN:fi:amk-202202042112
Tiivistelmä
Opinnäytetyössä tutkittiin tekoälypohjaisten henkilöarviointien uhkien ja haasteiden ennaltaehkäisyä sekä arviointien oikeudenmukaisuuden varmistamista. Tutkimuksen päätavoitteena oli selvittää, miten tekoälypohjaisiin henkilöarviointeihin liittyviä uhkia ja haasteita voidaan ennaltaehkäistä ja varmistaa arviointien oikeudenmukaisuus. Lisäksi tutkittiin, miten tekoälyä hyödynnetään henkilöarvioinneissa ja mitä hyötyjä siitä on, mitä uhkia ja haasteita tekoälypohjaisten henkilöarviointimenetelmien käyttöön liittyy ja mitä on tehty näiden uhkien ja haasteiden ennaltaehkäisyksi.
Laadullinen haastattelututkimus tehtiin 14.9.2021-4.10.2021 aikana. Tutkimusta varten haastateltiin kuutta henkilöä, joista kolme toimii henkilöarvioijina, yksi tekoälyasiantuntijana ja kaksi sekä henkilöarvioijina että tekoälyasiantuntijoina.
Tutkimustulosten mukaan tekoälyä voidaan hyödyntää henkilöarvioinneissa erityisesti hakijoiden analysoinnissa, jolloin arvioidaan heidän osaamistaan ja potentiaalia tulevassa työssä suoriutumiseen. Lisäksi tekoälyä hyödynnetään tulosten analysoinnissa ja raportoinnissa, organisaation ymmärtämisessä sekä arviointikriteerien määrittelyssä. Tulosten mukaan tekoälypohjaisten henkilöarviointien uhkina korostui teknologian taso ja ohjelmistokehitys, yksilöllisten erojen ymmärtämättömyys, lainsäädäntö ja hakijan oikeusturva sekä palveluntarjoajien laatutaso. Keskeiset haasteet liittyivät erityisesti tekoälyn kykenemättömyyteen ottaa yksilölliset erot huomioon, josta voi seurata ennakko-oletusten ja syrjinnän vahvistumista. Myös datassa olevat vinoumat, tekoälyn läpinäkymättömyys, järjestelmien väärinkäyttö, teknologian käytön osaamattomuus, tunnetilojen ja käytöksen vaikutus arviointiin sekä arviointitilanteen luontevuus ovat haasteina tekoälypohjaisissa henkilöarvioinneissa. Haastatteluissa tuli esiin, että uhkia ja haasteita voidaan ennaltaehkäistä ihmisen mukanaololla prosessissa ja lopullisessa päätöksenteossa, jatkuvalla ohjelmistokehityksellä, moniammatillisella yhteistyöllä, riittävällä osaamisen tasolla, monipuolisella ja laadukkaalla datalla, avoimuudella ja läpinäkyvyydellä sekä kokeiluhalukkuudella. Oikeudenmukaisuus saadaan varmistettua pitkälti samoilla keinoilla, mutta haastateltavat nostivat lisäksi esiin palautekeskustelut ja demografisten tietojen pois jättämisen.
Tekoälypohjaisten henkilöarviointien uhkien ja haasteiden ennaltaehkäisyssä ja arviointien oikeudenmukaisuuden varmistamisessa on keskeistä, että ihminen on mukana läpi koko prosessin, jolloin päätösten inhimillisyys ja oikeudenmukaisuus saadaan varmistettua. Tekoälyn kehitys on vasta alussa, eikä tekoälyllä ole kykyä ymmärtää asioita yhtä laaja-alaisesti kuin ihmisillä. Jotta uhkia ja haasteita saadaan ennaltaehkäistyä ja varmistettua arviointien oikeudenmukaisuus, ihmisillä tulee olla lopullinen vastuu päätöksistä ja järjestelmien mahdollisiin epäkohtiin on puututtava ja korjattava ne.
Laadullinen haastattelututkimus tehtiin 14.9.2021-4.10.2021 aikana. Tutkimusta varten haastateltiin kuutta henkilöä, joista kolme toimii henkilöarvioijina, yksi tekoälyasiantuntijana ja kaksi sekä henkilöarvioijina että tekoälyasiantuntijoina.
Tutkimustulosten mukaan tekoälyä voidaan hyödyntää henkilöarvioinneissa erityisesti hakijoiden analysoinnissa, jolloin arvioidaan heidän osaamistaan ja potentiaalia tulevassa työssä suoriutumiseen. Lisäksi tekoälyä hyödynnetään tulosten analysoinnissa ja raportoinnissa, organisaation ymmärtämisessä sekä arviointikriteerien määrittelyssä. Tulosten mukaan tekoälypohjaisten henkilöarviointien uhkina korostui teknologian taso ja ohjelmistokehitys, yksilöllisten erojen ymmärtämättömyys, lainsäädäntö ja hakijan oikeusturva sekä palveluntarjoajien laatutaso. Keskeiset haasteet liittyivät erityisesti tekoälyn kykenemättömyyteen ottaa yksilölliset erot huomioon, josta voi seurata ennakko-oletusten ja syrjinnän vahvistumista. Myös datassa olevat vinoumat, tekoälyn läpinäkymättömyys, järjestelmien väärinkäyttö, teknologian käytön osaamattomuus, tunnetilojen ja käytöksen vaikutus arviointiin sekä arviointitilanteen luontevuus ovat haasteina tekoälypohjaisissa henkilöarvioinneissa. Haastatteluissa tuli esiin, että uhkia ja haasteita voidaan ennaltaehkäistä ihmisen mukanaololla prosessissa ja lopullisessa päätöksenteossa, jatkuvalla ohjelmistokehityksellä, moniammatillisella yhteistyöllä, riittävällä osaamisen tasolla, monipuolisella ja laadukkaalla datalla, avoimuudella ja läpinäkyvyydellä sekä kokeiluhalukkuudella. Oikeudenmukaisuus saadaan varmistettua pitkälti samoilla keinoilla, mutta haastateltavat nostivat lisäksi esiin palautekeskustelut ja demografisten tietojen pois jättämisen.
Tekoälypohjaisten henkilöarviointien uhkien ja haasteiden ennaltaehkäisyssä ja arviointien oikeudenmukaisuuden varmistamisessa on keskeistä, että ihminen on mukana läpi koko prosessin, jolloin päätösten inhimillisyys ja oikeudenmukaisuus saadaan varmistettua. Tekoälyn kehitys on vasta alussa, eikä tekoälyllä ole kykyä ymmärtää asioita yhtä laaja-alaisesti kuin ihmisillä. Jotta uhkia ja haasteita saadaan ennaltaehkäistyä ja varmistettua arviointien oikeudenmukaisuus, ihmisillä tulee olla lopullinen vastuu päätöksistä ja järjestelmien mahdollisiin epäkohtiin on puututtava ja korjattava ne.