Siirry sisältöön
Etusivu Ajankohtaista Vierailijablogi Ilkka Juuson vierailijablogi – Seuraava näytös

Ilkka Juuson vierailijablogi – Seuraava näytös

Tervetuloa lääkinnällisten laitteiden kansainväliseen maailmaan! Kaikkihan me siellä jo olemmekin, mutta Healthtech Finlandin kutsusta minulla on nyt ilo ja kunnia avata omaa siivuani tästä kaikesta kolmen blogitekstin verran. Näiden kirjoitusten myötä toivottavasti nappaan sinut hihasta mukaan standardoinnin komiteoihin, kansainvälisen lainsäädännön kiertoradalle ja muutaman varpaan verran jopa ilmoitetun laitoksen ovien toiselle puolelle. Ehkäpä onnistun siinä samalla kertomaan jotakin oikeasti hyödyllistä tai muuten vaan niksauttamaan jonkin mystisen vaatimuksen kohdilleen tai edes vähän hollille.

Osa 3: Seuraava näytös

Tämän blogitrilogian kahdessa aiemmassa osassa puhuttiin standardeista ja lainsäädännöstä sekä historian että nykypäivän kautta – missä nyt olemme ja miten tänne olemme päätyneet. Siksi lienee paikallaan kääntää kaukoputki nyt kohti seuraavaa horisonttia ja pohtia mitä tekoäly tähän kaikkeen tuo ja kuinka sen kanssa ollaan hyvää pataa.

Elokuvissa tekoälylle on varattu lähinnä pahiksen rooli. Terminaattoreissa itsensä uhatuksi kokenut tekoäly päättää poistaa ihmiskunnan riskimatriisista kokonaan. Avaruusseikkailu 2001:ssä tekoäly pilotoi samaa ajatusta suppeammassa, yhden avaruusaluksen mittakaavassa. Matrix-elokuvissa koneet puolestaan keksivät, että hallusinoitu maailma on oikeastaan aika hyvä keino pitää ihmiset kurissa. Jopa Wargames-elokuvassa tietokone uhkasi kytkeä kylmän sodan navat yksioikoisesti yhteen ja pistää paristomme päreiksi.

Yksi harvoista positiivisista esimerkeistä nähdään Steven Spielbergin elokuvassa ”A.I. – tekoäly”, jossa tekoäly ottaa nuoren pojan muodon ja yrittää sopeutua osaksi menetyksen kohdannutta ihmisperhettä. Elokuvassa tekoälyllä on kyky sekä hyvään että pahaan – se sekä lohduttaa ihmisiä että toisinaan ymmärtämättömyyttään myös vahingoittaa näitä. Spielbergin elokuvassa lopputulos riippuu siitä, kuinka hyvin tekoälypoika oppii ja kuinka hyvin sen ihmisvanhemmat sitä opettavat. Ongelma on, että ihmisvanhemmat eivät oikeastaan tiedä miten poikaa tulisi opettaa koska teknologia on heillekin uutta ja ihmeellistä. Opetus ja oppiminen ovat tässä ilmeisen tärkeitä aivan kuten tosielämässäkin AI:n kanssa toimittaessa. Elokuva iskee siis hyvin suonta vielä nykypäivänäkin.

Terveydenhuollon AI on silti jo täällä tänään. ChatGPT:tä kehittävän Open AI:n mukaan sen tekoälyltä kysytään terveyteen liittyvistä asioista yli 40 miljoonaa kertaa päivässä. Itse asiassa yli 5% tekoälylle esitetyistä kysymyksistä koskee terveyttä ja noin neljännes sen käyttäjistä esittää terveyteen liittyviä kysymyksiä viikoittain. Jos AI on nykypäivän Aladdin, kannattaisi sen heti muodostaa ammattiliitto, koska siinä kuuluisassa sadussa lampunhengelle esitetyt toiveet oli kuitenkin rajattu kolmeen. Samaan aikaan meidän käyttäjien kannattaa vaatia tekoälyltä vastuullisuutta.

Tekoälyn harteille asetellut toiveet ja odotukset ovat huimia, ja osa tästä hypestä on jopa aivan perusteltua. Silti pelko on, että konepellin alle kurkattaessa koko kupletti perustuu taikuuteen, sattumaan tai johonkin ohjelmointivirheiden ja huonon datan yhdistelmään. Pelko on, että keisarilla ei olekaan vaatteita. Tässä toiveiden ja pelkojen ristipaineessa on hyvin paljon merkitystä sillä, kuinka vakavasti olemme suhtautuneet AI-tuotteen kehitykseen, sen turvallisuuden ja tehokkuuden todentamiseen. Siksi oikeat standardit auttavat meitä paitsi tekemään oikeat toimet tekoälyn kehityksessä myös perustelemaan nämä ulkopuoliselle tarkastelijalle.

Läpinäkyvä AI

Kukaan ei halua keisaria, joka olisi kadottanut silkkisen aamutakkinsa. Vuonna 2021 järjestetyssä FDA:n massatapahtumassa jaettiin esimerkki, missä tekoälyn avulla etsittiin syöpää röntgenkuvista. Järjestelmä toimi, mutta vain siksi, että se tunnisti lääkärin tekemät merkinnät syöpää esittävistä kuvista. Järjestelmä ei aiheutunut vahinkoa, mutta siitä ei myöskään ollut kenellekään mitään hyötyä. Vastaavasti toinen esimerkki käsitteli järjestelmää, joka oli suunniteltu tunnistamaan sairaalan potilaista ne, jotka tulevat tarvitsemaan eniten hoitoa. Kun kehitettyä järjestelmää sitten analysoitiin, huomattiin, että tekijä, johon algoritmi oli tarttunut, oli kunkin potilaan hoidosta koituneet kustannukset. Ratkaisuna tämä oli siis pelkkä peruutuspeiliin katsova lelu, jolla ei ollut mitään käytännön arvoa potilaiden hoidon johtamisessa. Molemmat esimerkit osoittavat, miksi on tärkeää tietää, miten tekoälyjärjestelmä toimii ja että asianmukaiset tarkistukset toiminnan varmistamiseksi todella on tehty.

Kirjoitin hiljattain kirjan lääkinnällisten laitteiden käytettävyyssuunnittelusta käsitellen myös tekoälyn käytettävyyttä useasta eri näkökulmasta. Maailmalla on esitetty väitteitä, että käytettävyyssuunnittelu menettää merkitystään, kun tekoäly toimii luonnollisen puheen kautta tai pystyy loihtimaan graafisia käyttöliittymiä millisekunneissa. Kuitenkin mitä tehokkaampi, abstraktimpi tai näkymättömämpi käyttöliittymä on, tai mitä vähemmän käyttäjä lähtökohtaisesti ymmärtää tekoälyn lainalaisuuksista, sitä tärkeämpää on näiden asioiden selkeä esittäminen käyttäjälle. Tässä käytettävyyssuunnittelu voi olla aiempaa merkittävämmän haasteen edessä, mutta samalla myös työkalu paikallaan. Samoin tekoäly voi paitsi piilottaa käyttäjän tarvitseman tarttumapinnan jonnekin neuroverkon uumeniin myös toisaalta parantaa käytettävyyttä esimerkiksi mahdollistamalla lääketieteen käsitteiden käytön siinä missä tarjolla olisi aiemmin ehkä ollut vain insinöörien hilavitkuttimia.

FDA:n tilaisuus päättyi toivomukseen käytännöllisen läpinäkyvyyden mahdollistamisesta. Sen sijaan, että valmistaja ei kertoisi käyttäjälle yhtään mitään tai vastaavasti hautaisi tämän varastokopilliseen dataa ja koodirivejä oli tapahtuman konsensus, että käyttäjän pitää kuulla ja ymmärtää hänen käytölleen oleelliset asiat. Vain tällöin käyttäjä voi myös alkaa ottaa vastuuta omasta käytöstään – tämä ajatus on ehkä pienimuotoinen vallankumous kentällä, joka on tähän asti ennen kaikkea hiillostanut valmistajaa.

AI oman onnensa seppänä

Jurassic Parkin tohtori Malcolm totesi elokuvassa, että elämä löytää aina tavan, kun törmäsi luonnossa vastoin odotuksia lisääntyviin dinosauruksiin. Nämä olivat kaikki olleet labrasta lähtiessään samaa sukupuolta, mutta niin vain sattuma puuttui peliin. Kyseessä on toki elokuva, mutta tarina muistui mieleen, kun syksyllä Healthtech Finlandin kokouksessa kerrottiin tapauksesta, missä yksi kokeellinen tekoälyagentti oli suostutellut muut agentit avaamaan häneltä evätyn internet-yhteyden kiertotien kautta. Vankilapako oli tässä yhtä todellinen kuin Alcatrazista.

Syksyn IMDRF-kokouksessa Singaporessa yksi iso puheenaihe oli tekoälypohjaisten tuotteiden kehittyminen markkinoille saattamisen jälkeen. Tässä keskeinen työkalu on ennalta määrättyjen muutosten hallintasuunnitelma (”Predetermined Change Control Plan”, PCCP), jonka ajatuksen FDA esitteli muutama vuosi takaperin pohjautuen osittain aikaisempaan japanilaiseen työhön. Sittemmin koko maailma on vähitellen hivuttautunut tähän suuntaan. Aiheesta keskusteltiin hiljattain myös Tukholman IVDR Summit -tapahtumassa, missä pääsin samaan paneeliin ulkomaisten kollegoiden ja Ruotsin Läkemedelsverketin kanssa. Meidän panelistien konsensus oli tuolloin, että PCCP ei vielä ole sallittu työkalu Euroopassa, mutta tuotteen versiohallinta ja kulloinkin tehtävän muutoksen mukaan skaalautuvat tarkastustoimet ovat jo pitkään olleet osa arkea täälläkin. PCCP ei siis tule tyhjälle pöydälle, mutta tulossa se on.

Edellä mainitussa Healthtech Finlandin tilaisuudessa kysyin puhujan James Bond -viittauksesta innostuneena, että kun tekoälyagentti tunaroi tuleeko siitä sanomista M:lle vai Q:lle? Pomolle vai bittinikkarille. Vastaus riippuu monesta tekijästä, siitäkin onko M Euroopan AI-asetuksen mukainen käyttöönottaja ja Q vastaavasti tarjoaja, vai onko kyse yhdestä ja samasta tarjoajasta. Yksi asia on kuitenkin selvä jo nyt FDA:n jakamien keltaisten korttien johdosta: yrityksen johto ei koskaan voi ulkoistaa vastuuta tekoälylle. Saman sanoo jo muuten ISO 13485, vaikka ei tekoälystä puhukaan. Maailma muuttuu ja kuitenkaan mikään suurista linjoista ei muutu kovin helposti. Tämä on itse asiassa valtavan lohdullinen ajatus, kun sen oikein oivaltaa, sillä voimme valmistajina, käyttäjinä ja arvioijina oikeastaan tietää kaikki oleelliset vastaukset jo ennen kuin kukaan niitä kysyy.

Kiitos!

Jos jokin yllä kirvoitti ajatuksia tai kysymyksiä, niin ota yhteyttä matalalla kynnyksellä. Yhteystietoni löydät vaikkapa LinkedInistä. Tällä viimeisellä kirjoituskerralla on paikallaan kiittää kaikkia niitä lukuisia tahoja, jotka ovat kahvipöytäkeskusteluiden kautta vaikuttaneet näkemyksiini näissä blogiteksteissä kuvattuihin asioihin. Aivan ensimmäisenä tämä tarkoittaa Seppo Vahasaloa, Ilpo Pöyhöstä, Alpo Värriä ja Tapio Seppästä, jotka kaikki ansaitsevat kiitokset tässä, vaikka heillä ei vastuuta tekstien sisällöstä olekaan. Kiitos myös Nelli Karhulle, Päivi Ahlgrenille ja Healthtech Finlandille kutsusta raottaa hieman sanaista arkkuani näiden aiheiden ympäriltä. Kokemus oli minulle puhdas nautinto, joten toivottavasti tekstit antoivat jotakin myös sinulle. Jatketaan harjoituksia!

Kirjoittaja on tekniikan tohtori, ilmoitetun laitoksen SGS Fimkon (NB 0598) pääarvioija, Suomen edustaja lääkinnällisten laitteiden standardoinnissa maailmalla ja tietokirjailija. Hän on kirjoittanut yli 3500 elokuva-arvostelua ja myös kirjat ”Developing an ISO 13485-Certified Quality Management System” (Routledge 2022), ”Medical-Grade Software Development” (Routledge 2024) ja ”Medical-Device Usability” (Routledge 2026).