Paikallisesti hienosäädettyjen kielimallien hyödyntäminen yrityssovelluksissa
Aittovahe, Aapo (2025)
Julkaisun pysyvä osoite on
https://urn.fi/URN:NBN:fi:amk-2025051512275
https://urn.fi/URN:NBN:fi:amk-2025051512275
Tiivistelmä
Opinnäytetyö keskittyi tekoälyavusteisen tikettivastausjärjestelmän kehittämiseen. Tavoitteena oli jatkokehittää olemassa olevaa tikettijärjestelmää generatiivisilla tekoälymalleilla, hienosäätämällä mallia toimialakohtaisella datalla. Järjestelmän toimivuutta oli jo parannettu vektoritietokannalla samankaltaisten tikettien haussa. Työssä tutkittiin generatiivisten kielimallien hyödyntämistä vastausehdotuksissa.
Toteutuksessa rakennettiin modulaarinen ja konttipohjainen järjestelmä Request Tracker -tikettijärjestelmään integroituna. Vektorikantaa hyödynnettiin samankaltaisten tikettien hakuun ja LLM-palvelu kehitettiin vastausehdotusten tuottamiseksi. Empiirisessä osuudessa testattiin eri kielimalleja ja arvioitiin hienosäädetyn DistilGPT2-mallin suorituskykyä vertailussa hienosäätämättömiin malleihin, keskittyen laatuun ja vasteaikoihin.
Tulokset osoittivat, että toimialakohtainen hienosäätö paransi kielimallin laatua asiakaspalvelutilanteissa. Hienosäädetty malli tuotti ammattimaisempia ja hyödyllisempiä vastauksia. Vektorikanta toimi tehokkaasti kontekstuaalisten vastausehdotusten tuottamisessa. Tämän opinnäytetyön kokeilujen perusteella hienosäädetty pieni kielimalli ei kuitenkaan vielä osoittautunut sellaisenaan riittäväksi tuotantokäyttöön.
Toteutuksessa rakennettiin modulaarinen ja konttipohjainen järjestelmä Request Tracker -tikettijärjestelmään integroituna. Vektorikantaa hyödynnettiin samankaltaisten tikettien hakuun ja LLM-palvelu kehitettiin vastausehdotusten tuottamiseksi. Empiirisessä osuudessa testattiin eri kielimalleja ja arvioitiin hienosäädetyn DistilGPT2-mallin suorituskykyä vertailussa hienosäätämättömiin malleihin, keskittyen laatuun ja vasteaikoihin.
Tulokset osoittivat, että toimialakohtainen hienosäätö paransi kielimallin laatua asiakaspalvelutilanteissa. Hienosäädetty malli tuotti ammattimaisempia ja hyödyllisempiä vastauksia. Vektorikanta toimi tehokkaasti kontekstuaalisten vastausehdotusten tuottamisessa. Tämän opinnäytetyön kokeilujen perusteella hienosäädetty pieni kielimalli ei kuitenkaan vielä osoittautunut sellaisenaan riittäväksi tuotantokäyttöön.