Tekoälyn käytön edellytykset lääkintälaiteohjelmiston yhteydessä : tapaus Omaolo-palvelun oirearvion keskusteleva käyttöliittymä

Abstract

Työssä tarkasteltiin edellytyksiä, joilla tekoälyä voitaisiin liittää lääkintälaiteohjelmistoon. Ilmiötä tarkasteltiin tapauksen kautta: tekoälyavusteinen ohjautuminen oikealle oirearviolle käyttöliittymässä tekoälyagentin kanssa keskustellen. Työ sisälsi kevyen kokeilun. Myös terveysteknologiapalveluihin halutaan lisätä tekoälyä. Alan sääntely-ympäristö on vaativa ja kehittyvä: Euroopan unionissa on tuore tekoälysäädös, jossa lähestytään tekoälyratkaisuja riskiperusteisesti käyttötarkoituksen mukaan. Lisäksi datan käsittelyä sekä lääkinnällisiä laitteita koskeva sääntely on keskeistä tarkasteltavan ilmiön ympärillä. Tarkastelussa selvisi, että täsmällisiä tulkintoja ja EU-asetusta alemman tason säännöksiä tekoälystä samoin kuin sen yhteensovittamisesta vaikkapa lääkintälaitteiden sääntelyn kanssa joudutaan vielä odottamaan kirjoitushetkellä.

Tarkastelussa havaittiin, että tekoälyn kehittäminen lääkinnällisiin laitteisiin vaatii kehittäjältä valmiuksia - organisatoriset valmiudet tekoälyn hallintaan, toimialakohtaisen tekoälyn sääntelykentän tuntemista sekä teknistä asiantuntemusta ja osaamista - sääntelyssä asetettujen vaatimusten täyttämiseksi ratkaisujen kehittämisessä. Arvioitiin, että sääntelystä johtuvien epävarmuuksien vuoksi kehittämisessä kannattaa tällä hetkellä pyrkiä rajoitetun riskin käyttötarkoitukseen, ja kehittämisessä edetä systemaattisesti datalähtöisen kehitysprojektin vaiheiden mukaan. Mahdolliseksi käytännön haasteeksi tarkastelun pohjalta arvioitiin vaatimustenmukaisuuden osoittamisen raskaat prosessit ilmoitettujen laitosten kanssa myös rajoitetun riskin tekoälyjärjestelmien tapauksissa lääkinnällisten laitteiden yhteydessä. Yhtenä mahdollisuutena nähtiin siirtyminen oh-jelmistoarkkitehtuurissa kohti modulaarisuutta, kuten mikropalveluarkkitehtuuria, jolloin tekoälysääntelyä voisi kohdistaa kokonaisuuden sijaan yksittäisiin komponentteihin.

The study examined the prerequisites for integrating artificial intelligence into medical device software. The phenomenon was analyzed through a case study: AI-assisted navigation to the correct symptom assessment in a user interface via conversation with an AI agent. The work included a lightweight experiment. There is also a growing desire to incorporate AI into health technology services. The regulatory environment in the field is demanding and evolving: the European Union has recently introduced the AI Act, which takes a risk-based approach to AI solutions according to their intended use. In addition, data processing and regulation concerning medical devices are central to the phenomenon under review. The analysis revealed that precise interpretations and lower-level regulations under the EU AI Act-as well as their alignment with, for example, medical device regulation are still pending at the time of writing.

It was observed that developing AI for medical device software requires the developer to have a range of capabilities: organizational readiness for managing AI, knowledge of sector-specific AI regulation, and the technical expertise and competence necessary to meet regulatory requirements in solution development. It was assessed that, due to regulatory uncertainties, it is currently advisable to aim for limited-risk intended uses and to proceed systematically according to the phases of a data-driven development project. A potential practical challenge identified in the analysis was the heavy compliance processes with notified bodies, even for limited-risk AI systems in the context of medical devices. As one opportunity, a shift in software architecture towards modularity, such as microservice architecture, was seen as beneficial, as this could allow AI regulation to be targeted at individual components rather than the entire system.