Tekoälyn käyttö sosiaalisessa manipuloinnissa ja sen estämisessä

Abstract

Tekoäly ja sitä ympäröivä keskustelu on yleistynyt viime vuosina. Tekoälytekniikat ovat kehittyneet nopeaa vauhtia ja tekoälyratkaisuja halutaan hyödyntää entistä enemmän. Sosiaalinen manipulointi eli ihmisten hakkerointi on vanha konsepti, mutta edelleen hyvin laajasti käytetty tekniikka tietoturvahyökkäyksissä. Sosiaalisen manipuloinnin tekniikat, kuten tietojenkalastelu ja uskottava tarina ovat tietomurtotilastojen kärjessä. Tässä tutkielmassa kerättiin tutkimuksia tekoälyn hyödyntämisestä sosiaalisen manipuloinnin hyökkäyksissä ja niiltä puolustautuessa. Sosiaalisen manipuloinnin ja tekoälyn yhdistämisen tutkiminen koettiin tärkeäksi, minkä vuoksi aihetta alettiin tutkia.

Tekoäly on kone, jolla on ihmisen älykkyyteen liittyviä taitoja, kuten oppimiskyky ja päättelykyky. Tekoälyä on ollut jo 1950-luvulta asti, joten se ei ole uusi ilmiö. Viimevuosina lisääntynyt mielenkiinto tekoälyä kohtaan johtuu koneoppimisen ja sen alakäsitteiden nopeasta kehityksestä. Tekoälyt perustuvat algoritmeihin, joita voidaan ajatella ohjekirjoina. Sääntöpohjaiset algoritmit ja koneoppimisen algoritmit ovat kaksi tärkeää paradigmaa. Tekoäly, joka käyttää koneoppimisen algoritmeja oppii itse datasta ja osaa hyödyntää oppimistaan. Koneoppiminen voidaan jakaa eri kategorioihin, joita ovat muun muassa syväoppiminen, neuroverkot, luonnollisen kielen prosessointi ja generatiivinen tekoäly.

Sosiaalinen manipulointi on ihmisten manipulointia, jonka tavoitteena on arkaluontoisen tiedon haltuun saaminen. Sosiaalinen manipulointi on tietoturvahyökkäys, sillä se kohdistuu tiedon luottamuksellisuuden, eheyden tai saatavuuden rikkomiseen. Hyökkääjä vetoaa yleensä manipuloinnissaan luottamukseen, kiireeseen tai pelkoon. Sosiaalisen manipuloinnin tekniikoita on monia erilaisia, kuten tietojenkalastelu, uskottava tarina, olkapääsurffaus, reppuselkä ja houkuttelu. Sosiaaliselta manipuloinnilta puolustautuminen voi olla haastavaa, sillä tavallisen kyberhyökkäyksen sijaan hyökkäys kohdistuu ihmisten psykologiaan.

Tutkielma toteutettiin narratiivisena kirjallisuuskatsauksena, sillä tavoitteena oli kerätä ajantasaisia tutkimuksia aiheesta ja muodostaa yleiskuvaus tutkittavasta ilmiöstä. Tutkimusten hakuun käytettiin useampaa tietokantaa ja hakusanaa, mutta suurin osa hauista tapahtui IEEEXplore tietokannassa. Tulokset osoittivat tekoälyn hyödyntämisen mahdollisuuden niin sosiaalisen manipuloinnin hyökkäyksissä kuin sosiaaliselta manipuloinnilta puolustautuessa. Tekoälyn hyödyntäminen on joustavaa, sillä olemassa olevia malleja voidaan käyttää sellaisenaan ja uusia malleja voi kouluttaa tai kehittää tiettyä tarkoitusta varten. Tutkimuksia oli enemmän puolustavasta näkökulmasta ja kaikkiin sosiaalisen manipuloinnin tekniikoihin ei löytynyt suoraa vastausta. Eniten tutkimustietoa löytyy tietojenkalasteluun liittyen. Jatkotutkimusaiheina olisi hyvä tarkastella lisää tekoälyn vaikutuksia fyysiseen sosiaaliseen manipulointiin. Lisäksi tutkimusta tekoälyn vaikutuksesta roskisdyykkaukseen, tiedoston piilotukseen, pelotteluohjelmiin ja vesikuoppaukseen tarvitaan.