RAG-pohjaisen chatbotin toteutus ja arviointi

Abstract

Tässä opinnäytetyössä kehitettiin Retrieval-Augmented Generation (RAG) -pohjainen arkkitehtuuri verkkosivulle integroitua tekoälypohjaista chatbottia varten. Työn tavoitteena oli toteuttaa toimiva esimerkkiratkaisu ja arvioida, mi-ten RAG-menetelmä parantaa vastausten laatua, luotettavuutta ja ajantasai-suutta verrattuna perinteisiin kielimallipohjaisiin chatbot-ratkaisuihin. Työssä toteutettiin järjestelmä, jossa käyttäjän kysymykset muunnettiin vekto-rimuotoon ja niihin haettiin semanttisesti merkityksellistä kontekstia organisaa-tion omasta tietopankista ennen vastauksen muodostamista kielimallilla. Rat-kaisussa hyödynnettiin relaatiotietokantaa vektorihakua varten sekä erillistä offline-prosessia tietopankin sisällön esikäsittelyyn. Chatbot liitettiin verkkosi-vupohjaiseen käyttöliittymään. Järjestelmän toimivuutta ja suorituskykyä arvioitiin testikyselyillä tuotantoym-päristössä. Tulokset osoittivat, että chatbot tuotti palveluun liittyviin kysymyksiin johdonmukaisia vastauksia ja kykeni rajaamaan aiheeseen kuulumattomat kysymykset. Johtopäätöksenä todetaan, että RAG-arkkitehtuuri tarjoaa toimi-van ja kustannustehokkaan tavan yhdistää kielimallit organisaatiokohtaiseen tietoon, ja järjestelmää voidaan jatkossa kehittää esimerkiksi tietopankin hal-lintaa ja käyttäjäpalautteen hyödyntämistä parantamalla.