Tekoälyä hyödyntävän lääkinnällisen ohjelmiston markkinoille saattamisen jälkeistä valvontaa koskevan järjestelmän kehittäminen

Abstract

Tekoälyjärjestelmät yleistyvät terveydenhuollossa, kun niiden odotetaan parantavan diagnostiikan tarkkuutta, tukevan kliinistä päätöksentekoa ja tehostavan terveydenhuollon toimintaa. Uuden teknologian käyttöönottoon liittyy riskejä, joten potilasturvallisuuden varmistamiseksi on tärkeää, että sääntely on kattavaa ja selkeää. Opinnäytetyö toteutettiin tutkimuksellisena kehittämistyönä toimeksiantona suomalaiselle yksityiselle terveydenhuollon palveluntarjoajalle, joka on kehittänyt tekoälyä hyödyntävän lääkinnällisen ohjelmiston, jonka käyttötarkoitus on terveydenhuollon ammattilaisten tukeminen ei-kiireellisen hoidon tarpeen tunnistamisessa sähköisten potilastietojen perusteella.

Opinnäytetyön tarkoituksena oli selvittää, kuinka toimeksiantajan tekoälyä hyödyntävän lääkinnällisen ohjelmiston markkinoille saattamisen jälkeistä valvontaa koskevaa järjestelmää voidaan kehittää. Opinnäytetyön tavoitteena oli luoda kehitysehdotus järjestelmästä, joka ottaa huomioon soveltuvan sääntelyn sekä toimeksiantajan organisaation sisäiset vaatimukset.

Opinnäytetyön aineisto kerättiin kirjallisuuskatsausta hyödyntäen voimassa olevaan sääntelyyn liittyen. Organisaation sisäisiä vaatimuksia järjestelmälle selvitettiin toimeksiantajan asiantuntijoille suoritettavan puolistrukturoidun teemahaastattelun avulla. Aineisto analysoitiin laadullista sisällönanalyysia hyödyntäen, jonka perusteella voitiin listata vaatimukset järjestelmälle. GAP-analyysin avulla arvioitiin organisaation nykyistä markkinoille saattamisen jälkeistä valvontaa koskevaa järjestelmää.

Opinnäytetyön tulokset osoittavat, että sidosryhmäkommunikaation selkeyttäminen, proaktiivisen palautteen kerääminen sekä tekoälyjärjestelmien vuorovaikutusanalyysien dokumentoinnin parantaminen ovat keskeisiä markkinoille saattamisen jälkeisen valvonnan järjestelmää koskevia kehityskohteita. Riskienhallintamenettelyt, riskianalyysi ja käyttöohjeet tulisi arvioida EU:n tekoälyasetuksen liitteen IV asettamia vaatimuksia vasten. Sisäiset kehitysehdotukset korostivat palautekanavan kehittämistä, automaattisten palautekyselyiden käyttöönottoa sekä suorituskyvyn seurannan ja raportoinnin parantamista.

Artificial intelligence systems are becoming more common in healthcare and are expected to improve diagnostic accuracy, support clinical decision-making and to enhance the efficiency of healthcare processes. The introduction of innovative technology involves risks therefore comprehensive and clear regulation has a significant role in ensuring patient safety.

This thesis was conducted as a practice-based development project for a private Finnish healthcare service provider that has developed an artificial intelligence based medical software designed to support healthcare professionals in identifying non urgent care needs based on electronic patient records. The purpose of this study was to examine how the post-market surveillance system of the client’s artificial intelligence based medical software can be further developed. The objective was to produce a development proposal that considers the relevant EU and national regulatory framework as well as the internal requirements of the client organisation.

Data concerning regulatory requirements were collected through a literature review and the internal requirements were examined by conducting a semi-structured interview with private healthcare service provider employees. Data were analyzed using qualitative content analysis. Based on the results of analysis and identified requirements, a development proposal for the post-market surveillance system was produced by applying a GAP analysis to the organization’s existing post-market surveillance system.

Findings of the study conclude that the clarification of stakeholder communication, strengthening proactive feedback collection and improving the documentation of interaction analyses for artificial intelligence systems as key development areas of the post-market surveillance system. In addition, the private healthcare provider’s risk management procedures, risk analysis, and instructions for use should be evaluated against the requirements set out in Annex IV of the EU Artificial Intelligence Act. Internal organizational requirements emphasized the development of the feedback channel, the introduction of automated proactive feedback surveys and improvements in performance monitoring and reporting.