Federated Learning with sensitive data : a cybersecurity analysis and implementation of a security monitoring system
Levula, Charlotte (2025)
Julkaisun pysyvä osoite on
https://urn.fi/URN:NBN:fi:amk-2025122238837
https://urn.fi/URN:NBN:fi:amk-2025122238837
Tiivistelmä
Federoidusta oppimisesta (FL) on noussut lupaava teknologia koneoppimisessa arkaluontoista dataa käsiteltäessä, erityisesti terveydenhuollossa. Tämä lähestymistapa mahdollistaa yhteistyöhön perustuvan mallikoulutuksen ilman datan keskittämistä, mikä parantaa yksityisyyden suojaa. Hajautettu arkkitehtuuri tuo kuitenkin mukanaan erilaisia tietoturvahaavoittuvuuksia, kuten mallin myrkyttämisen ja muita eheyteen kohdistuvia hyökkäyksiä. Koska FL:ssä palvelin ei tyypillisesti voi auditoida paikallisia prosesseja, nämä haavoittuvuudet vaikeuttavat uusien säädösten, kuten EU:n tekoälyasetuksen, vaatiman jäljitettävyyden ja auditoitavuuden täyttämistä.
Tämän opinnäytetyön tavoitteena oli analysoida näitä tietoturvahaavoittuvuuksia tekemällä tietoturva-analyysi, sekä suunnittelemalla valvontajärjestelmän prototyyppi olemassa olevalle hajautetun oppimisen alustalle, Secure and Accurate Federated Learning as a Service (SA-FLaaS). SA-FLaaS-alusta on parhaillaan kehitteillä Turun ammattikorkeakoulussa Business Finlandin rahoituksella. Prototyyppi toteuttaa valvonta-arkkitehtuurin, joka korreloi sovelluksen ilmoittamat toiminnot, jotka tallennetaan HMAC-varmennettuun lokiin. Erillinen varmistusskripti validoi HMAC-ketjun kryptografisen eheyden ja varmistaa, että järjestelmä havaitsee peukaloinnin.
Prototyyppi osoittaa, että tällä valvonta-arkkitehtuurilla saavutetaan säännösten mukainen auditoitavuus ja jäljitettävyys, mikä mahdollistaa FL-käyttöönotot täyttämään tiukat tietoturvavaatimukset. Tämä opinnäytetyö luo käytännön perustan federoidun oppimisen toteuttamiselle säännellyissä ympäristöissä, kuten terveydenhuollossa, jossa sekä tietosuoja että järjestelmän vastuuvelvollisuus ovat olennaisia. Federated Learning (FL) has emerged as a promising technology for machine learning with sensitive data, especially in healthcare. This approach enables collaborative model training without centralizing data, which improves privacy protection. However, the distributed architecture presents different types of security vulnerabilities, including model poisoning and integrity attacks. These vulnerabilities create challenges in meeting the traceability and auditability requirements mandated by new regulations, such as the EU Artificial Intelligence Act.
The objective of this thesis was to address these security vulnerabilities through a security analysis of a real-world Federated Learning platform, Secure and Accurate Federated Learning as a Service (SA-FLaaS), and to design a prototype monitoring system. The SA-FLaaS platform is currently under development at Turku University of Applied Sciences, funded by Business Finland.
The prototype was implemented in Python using HMAC-based cryptographic integrity protection and the Watchdog filesystem monitoring library. The monitoring architecture correlates application-claimed actions, recorded in HMAC-chained logs, with independently-observed filesystem activity. A separate verification script validates the cryptographic integrity of the HMAC chain, ensuring tamper detection. Log aggregation and visualization were implemented using the Loki-Promtail-Grafana stack, deployed via Docker Compose.
The prototype demonstrates that the monitoring architecture can support regulatory-compliant auditability for federated learning systems. This thesis establishes a practical foundation for implementing federated learning in regulated environments, particularly healthcare, where both data protection and system accountability are essential.
Tämän opinnäytetyön tavoitteena oli analysoida näitä tietoturvahaavoittuvuuksia tekemällä tietoturva-analyysi, sekä suunnittelemalla valvontajärjestelmän prototyyppi olemassa olevalle hajautetun oppimisen alustalle, Secure and Accurate Federated Learning as a Service (SA-FLaaS). SA-FLaaS-alusta on parhaillaan kehitteillä Turun ammattikorkeakoulussa Business Finlandin rahoituksella. Prototyyppi toteuttaa valvonta-arkkitehtuurin, joka korreloi sovelluksen ilmoittamat toiminnot, jotka tallennetaan HMAC-varmennettuun lokiin. Erillinen varmistusskripti validoi HMAC-ketjun kryptografisen eheyden ja varmistaa, että järjestelmä havaitsee peukaloinnin.
Prototyyppi osoittaa, että tällä valvonta-arkkitehtuurilla saavutetaan säännösten mukainen auditoitavuus ja jäljitettävyys, mikä mahdollistaa FL-käyttöönotot täyttämään tiukat tietoturvavaatimukset. Tämä opinnäytetyö luo käytännön perustan federoidun oppimisen toteuttamiselle säännellyissä ympäristöissä, kuten terveydenhuollossa, jossa sekä tietosuoja että järjestelmän vastuuvelvollisuus ovat olennaisia.
The objective of this thesis was to address these security vulnerabilities through a security analysis of a real-world Federated Learning platform, Secure and Accurate Federated Learning as a Service (SA-FLaaS), and to design a prototype monitoring system. The SA-FLaaS platform is currently under development at Turku University of Applied Sciences, funded by Business Finland.
The prototype was implemented in Python using HMAC-based cryptographic integrity protection and the Watchdog filesystem monitoring library. The monitoring architecture correlates application-claimed actions, recorded in HMAC-chained logs, with independently-observed filesystem activity. A separate verification script validates the cryptographic integrity of the HMAC chain, ensuring tamper detection. Log aggregation and visualization were implemented using the Loki-Promtail-Grafana stack, deployed via Docker Compose.
The prototype demonstrates that the monitoring architecture can support regulatory-compliant auditability for federated learning systems. This thesis establishes a practical foundation for implementing federated learning in regulated environments, particularly healthcare, where both data protection and system accountability are essential.