Generatiivisen tekoälyn hallusinaatiot ja niiden vaikutus IT-palveluiden luotettavuuteen

Abstract

Opinnäytetyössä tarkasteltiin generatiivisen tekoälyn tuottamia hallusinaatioita ja niiden vaikutuksia IT-palveluiden laatuun ja luotettavuuteen. Aihe oli ajankohtainen, sillä tekoälyratkaisut on otettu nopeasti käyttöön erilaisissa IT-palveluissa, mutta niiden tuottaman tiedon virheettömyys ja turvallinen hyödyntäminen olivat vielä kehittymässä. Työn lähtökohtana oli käytännön havainto työelämästä, että tekoäly voi tuottaa uskottavaa mutta virheellistä sisältöä.

Työn tavoitteena oli selvittää, minkälaisia hallusinaatioita generatiivinen tekoäly voi tuottaa ja miten ne vaikuttavat IT-palveluihin. Lisäksi tarkasteltiin hallusinaatioiden aiheuttamia riskejä sekä menetelmiä, joilla niitä voidaan tunnistaa ja hallita. Työ rajattiin IT-palveluiden kontekstiin ja eettisiä ja juridisia kysymyksiä käsiteltiin vain riskienhallinnan näkökulmasta.

Työ toteutettiin narratiivisena kirjallisuuskatsauksena, jonka aineistona olivat alan tutkimusartikkelit, sääntelydokumentit sekä IT-palveluiden viitekehykset. Tietoperustassa kuvattiin generatiivisen tekoälyn toimintaa, suurten kielimallien ominaisuuksia ja hallusinaatioiden syntymekanismeja sekä ITIL-viitekehyksen näkökulmaa palveluhallintaan.

Tulokset osoittavat, että hallusinaatiot vaikuttavat IT-palveluihin erityisesti dokumentaation luotettavuuden, prosessien toimivuuden ja käyttäjäkokemuksen kautta. Hallusinaatioilla havaittiin myös olevan vaikutuksia tietoturvaan ja päätöksentekoon. Hallinnan kannalta keskeiseksi menetelmiksi nousivat muun muassa RAG-arkkitehtuuri, dekoodausstrategiat, ihmisen valvonta ja organisaation sisäiset prosessit, jotka tukevat laadunvalvontaa ja riskienhallintaa.

Johtopäätöksenä todettiin, että generatiivisen tekoälyn hyödyntäminen IT-palveluissa tarjoaa merkittäviä mahdollisuuksia, mutta hallusinaatiot muodostavat riskin, joka on huomioitava sekä teknisissä ratkaisuissa että palvelunhallinnassa. Hallittu käyttöönotto, tarkistusmekanismit ja prosessien läpinäkyvyys parantavat palveluiden luotettavuutta ja vähentävät haittoja.