LLM-driven music expert chatbot

Abstract

The recent leaps in the development of artificial intelligence (AI) have led to a significant rise in the technology's popularity. With more accessible ways to use these technologies, new applications are developed. The development of these applications comes with its challenges, particularly in tuning the models to fit specific needs and ensuring their security.

The aim of this thesis was to build a chatbot capable of answering music-related questions and providing in-sights about users' music tracks. This project was commissioned by Music.Info Finland Oy.

The thesis was carried out as a research-based development assignment. A knowledge base was assembled on the subjects of AI, LLMs, and chatbots before building the application using the gathered information.

The resulting chatbot application met the objectives of the thesis and was able to provide information about individual music tracks to general music questions.

The developed application alongside the supporting literature provides a foundation for building a production version of the chatbot. The thesis provides insight into several factors that need to be considered in building a large language model (LLM) based chatbot, including optimal security practices. Future development could further explore the extent to which LLMs can handle image data for graphs and generate audio.

Viimeaikaiset harppaukset tekoälyn kehityksessä ovat johtaneet sen suosion merkittävään kasvuun. Tekoäly-ratkaisuiden laajempi käyttöönotto ja korkeampi saavutettavuus on lisännyt uusien sovellusten kehittämistä. Näiden sovellusten kehittämiseen liittyy haasteita, erityisesti mallien virittäminen erityiskäyttöön ja niiden turvallisuuden takaaminen.

Opinnäytetyön tavoitteena oli rakentaa chatbot, joka kykenee vastaamaan musiikkiaiheisiin kysymyksiin ja antamaan tarkkaa tietoa käyttäjän musiikkikappaleista. Tämä projekti tehtiin toimeksiantona Music.Info Fin-land Oy:lle.

Opinnäytetyö toteutettiin tutkimuksellisena kehittämistyönä. Tekoälystä, suurista kielimalleista ja chatboteis-ta koottiin tietopohja, jota hyödynnettiin sovelluksen rakentamisessa.

Tuloksena syntynyt chatbot-sovellus täytti opinnäytetyön tavoitteet ja tarjosi tietoa yksittäisistä musiikkikap-paleista sekä vastauksia musiikkikysymyksiin yleisemmällä tasolla.

Kehitetty sovellus ja sen kehitystä varten koottu tieteellinen tieto mahdollistaa chatbotin tuotantoversion rakentamisen. Opinnäytetyö tarjoaa tietoa useista tekoälyyn liittyvistä tekijöistä, jotka tulee huomioida kieli-mallipohjaisten sovellusten rakentamisessa, kuten siihen liittyvät tietoturvakäytännöt. Tuleva kehitys voi sisäl-tää tutkimusta suurten kielimallien kyvystä käsitellä kuvatietoja graafeja varten, sekä niiden kykyä tuottaa ääntä.