Terveydenhuollossa käytettävän teknologian kehittyminen haastaa myös käytettävyyssuunnittelun
Lääkinnällisten laitteiden (ml. ohjelmistot) käytön aikaiset ongelmat ovat suurennuslasin alla. Aiemmin turvallisuuskulttuurin kehittämisessä korostettiin käyttökoulutuksen merkitystä, mikä ei johtanut toivottuihin tuloksiin käyttöturvallisuuden varmistamisessa. Nykyisin ymmärretään vahvemmin, että myös huono käyttöliittymäsuunnittelu voi johtaa käyttövirheisiin ja seuraukset voivat olla vakavia.
Käytettävyyssuunnittelun lähestymistapoihin tuo oman erityismausteensa tekoälyn kytkeytyminen ohjelmisto- tai tietojärjestelmäratkaisuun sekä terveydenhuollossa käytettävän robotiikan kehittyminen. Tekoälyjärjestelmiin liittyvät kysymykset sääntelyineen ovat tulleet myös omalle työpöydälleni ja viimeaikoina olenkin pohtinut muun muassa sitä, millaisia vaikutuksia tekoälyn integroiminen ratkaisuihin tuo tullessaan ihmisen ja teknologian väliseen vuorovaikutukseen ja tehtäväallokaatioon?
Terveydenhuollon turvallisuuskriittinen konteksti
Lääkinnällisten laitteiden käyttökontekstin ominaisuuksista kumpuaa piirteitä, joiden vuoksi ohjelmistot voi nähdä turvallisuuskriittisinä muiden vastaavien, kuten ilmailualan sovellusten rinnalla. Tämä on todettu useissa lähteissä (1,2). Käyttöympäristö on teknistynyt ja yhä useammin lääkinnällinen laite on ohjelmisto. Teknologinen kehitys on johtanut laitteiden ja ohjelmistojen ominaisuuksien määrän kasvuun ja ammattimaisten käyttäjien työn kuormittavuus lisääntynyt. Osaavasta henkilökunnasta on pulaa, toimintamallit ovat monimutkaisia ja niiden kirjo on suuri. Terveydenhuollon ympäristöissä toimivat ammattilaiset suorittavat työtehtäviään kiireen ja paineen vallitessa.
Edellä mainitut seikat koskevat myös terveydenhuollon tietojärjestelmiä ja merkitys korostuu regulatiivisessa mielessä niihin integroitujen lääkinnällisten moduulien ollessa kyseessä. Olen kuitenkin sitä mieltä, että minkä tahansa asiakkaaseen tai potilaaseen liityksissä olevan ohjelmistoratkaisun, tietojärjestelmän tai robotiikan upottaminen terveydenhuollon hektiseen kliiniseen kontekstiin – tuo esiin tarpeen huolehtia käytettävyyssuunnittelusta niin, että käyttöturvallisuus huomioidaan osana ratkaisun kokonaisturvallisuutta. Olipa ratkaisu käyttötarkoitukseltaan lääkinnällisen laitteen tai muun regulaation piirissä tai sitten ei.
Inhimillisten tekijöiden merkitys ja käyttövirheen käsite
Ohjelmistot ja terveydenhuollon tietojärjestelmät edellyttävät monimutkaisia ihmisen ja teknologian välisiä vuorovaikutuksia. Kyse on systeemisistä, sosioteknisistä järjestelmistä (3.) Inhimillisten tekijöiden (human factors) tunnistaminen ja hallinta on käytettävyyden suunnittelun ydinaluetta ja keskeinen lähtökohta. Turvallisuuskriittisten ohjelmistojen käytettävyyssuunnittelu vaatii kehittäjältä isommassa kuvassa käyttökontekstin syvällistä ymmärtämistä.
Eräs tärkeimmistä lääkinnällisten laitteiden suunnittelua ohjaavista lähtökohdista on oivaltaa inhimillisen virheen olemassaolon väistämättömyys. Normaalina käyttönä pidetäänkin valmistajan määrittelemän käyttötarkoituksen mukaista oikeaa käyttöä sekä inhimilliseen toimintaan kytkeytyvää lipsahduksen ja erehdyksen mahdollisuutta – jolloin käyttövirhe saattaa ilmetä. Käyttövirhe tarkoittaa sellaista käyttäjän toimintaa tai toiminnan puuttumista laitteen käyttötilanteessa, jonka tulos poikkeaa valmistajan ilmoittamasta käyttötarkoituksesta tai käyttäjän odotuksista (4.)
Haasteita käyttäjän ja teknologian välisessä vuorovaikutuksessa voi ilmetä esimerkiksi kun:
- käyttöympäristö vaikuttaa käyttäjän inhimillisiin kyvykkyyksiin käyttötilanteessa ja tätä ei ole valmistajan toimesta huomioitu
- käyttöympäristö vaikuttaa laitteen tai ohjelmiston toimintaan mutta käyttäjä ei havaitse tätä vaikutusta
- ohjelmistoa käytetään tavoilla, jotka olisi ollut ennustettavissa mutta valmistaja ei panostanut asiaan, joten nämä jäivät huomiotta
- ohjelmistoa käytetään tavalla, jonka valmistaja kyllä ennusti, mutta käyttöön liittyvien riskien minimointiin ei paneuduttu tarkoituksenmukaisella tavalla
- ohjelmiston käyttövaatimukset ylittävät inhimillisen kyvykkyyden rajat
- ohjelmiston käyttötoiminnan periaate on ristiriidassa käyttäjän odotusarvojen kanssa
Standardi IEC 62366-1 käytettävyyssuunnittelua ohjaamassa
Standardin IEC 62366-1 mukaan lääkinnällisen laitteen, kun sitä käytetään käyttötarkoituksen mukaisella tavalla, tulee saavuttaa riittävä käytettävyyden taso siten, että riskit, jotka seuraavat oikeasta käytöstä sekä käyttövirheistä, ovat hyväksyttäviä (4). Laadukas käyttöliittymä ehkäisee käyttövirheen syntymisen ja mahdollistaa käyttäjän tehokkaan, taloudellisen sekä miellyttävän työskentelyn kiireen ja paineen keskellä.
Käyttöliittymän käsite ymmärretään standardissa IEC 62366-1 laajasti käsittämään kaikki keinot, jotka vaikuttavat käyttäjän ja lääkinnällisen laitteen vuorovaikutukseen. Laitteen ja sen pakkauksen merkinnät, käyttöopas, fyysinen muotoilu, ohjain- ja syöttöratkaisut sekä ohjelmistokäyttöliittymä ovat osa lääkinnällistä laitetta ja sen käyttöliittymää.
Lääkinnällisiä laitteita (ml. ohjelmistot) koskettavan standardin IEC 62366-1 mukaisesti valmistajien on laadittava ”käyttöspesifikaatio”, joka kuvaa laitteen käyttökontekstin. Siinä tulee määritellä muun muassa aiotut käyttäjät, käyttöympäristöt ja muita käyttöön vaikuttavia tekijöitä. Käyttöspesifikaatio laaditaan varhaisessa vaiheessa käyttäjätutkimuksen yhteydessä, ja sitä päivitetään iteratiivisesti sitä mukaa kun käytettävyysanalyysit ja arvioinnit tuottavat uutta tietoa.
Tekoälyratkaisut tuovat uusia haasteita käytettävyyssuunnitteluun
Yksi alue, jota edellisessä kappaleessa mainitussa käyttöspesifikaatiossa olisi syytä laajentaa, on monimutkaisen sosioteknisen järjestelmän aiempaa tarkempi kuvaus sekä arvio siitä, kuinka konteksti sekä allokaatio käyttäjän ja teknologian välillä muuttuvat, kun AI-teknologiaa otetaan käyttöön. Esimerkiksi aiemmin manuaalisesti tehtyjen tehtävien automatisointi voi merkittävästi vaikuttaa kliinisiin työnkulkuihin, tiimityöhön ja osaamiseen.
AI‑avusteiset ratkaisut vaativat uudentyyppistä huomiota seikkoihin, joita käyttäjien tulee ymmärtää (ns. tekoälyn lukutaito). Näitä ovat esimerkiksi algoritmin syötteet ja tuotokset, käytettävän automaation taso, algoritmin suorituskyky ja rajoitteet sekä siihen tehdyt muutokset kulloinkin. Yhtenä metodiikkana käyttöliittymä- ja käytettävyyssuunnittelussa tunnetaan tehtäväanalyysi. Mitä pitää ottaa esimerkiksi tässä menetelmässä huomioon, jotta tekoälyn mukana oleminen osapuolena tehtävän suorittamisessa ymmärrettäisiin ?
Tekoälyratkaisun integroituminen ohjelmistoon tai tietojärjestelmään tuokin käytettävyyssuunnittelulle uusia ratkaistavia haasteita, muunmuassa havaitsemisen ja kognitiivisten kyvykkyyksien huomioon ottamisen sekä ihminen-teknologia vuorovaikutuksen näkökulmasta.
Kysymyksinä nousee esiin muun muassa:
- Miten tekoäly vaikuttaa tilanteen hahmottamiseen käyttäjässä ?
- Ihminen ei ole parhaimmillaan monitorointitehtävässä. Toisen tahon tuottaman tuotoksen tarkistaminen ei välttämättä ole ominaisinta. Tunnistaako käyttäjä tekoälyn käyttäytymisen ja mahdolliset vinoumat ?
- Voiko vaarana olla turtuminen. Alkaako käyttäjä luottamaan liikaa automaatioon ?
- Voiko haasteeksi tulla liiallinen riippuvuus tekoälystä, yliluottamus ?
- Mitkä ovat tekoälyn vaikutukset oppimiseen, tarkkaavaisuuteen tai keskittymiskykyyn ?
Ihmisen ja robotin välinen vuorovaikutus
ISO Standardisarjassa 9241 on julkaistu hiljattain ISO/TR 9241-810:2020:en Ergonomics of human-system interaction. Part 810: Robotic, intelligent and autonomous systems. Teknisessä raportissa todetaan, että sellaisten tuotteiden kehitys, jotka pitävät sisällään robotiikkaa (R), älyllisiä (I) ja autonomisia (A) piirteitä (RIA), on nopeasti kasvamassa. Ennen generatiivisen tekoälyn vahvaa esilletuloa luodussa dokumentissa todetaan, että näiden RIA- järjestelmien kannalta katsoen on kiire avata valmistajille ihmisen ja robotiikan väliseen vuorovaikutukseen (HRI) liittyviä tekijöitä ja erityispiirteitä.
Tekninen raportti pyrkii selittämään vuorovaikutukseen liittyviä, huomioon otettavia tekijöitä RIA ominaisuuksia sisältävien tuotteiden suunnittelussa. Dokumentti käy läpi ergonomiaa RIA järjestelmien kannalta katsoen ja nostaa esiin ihmisen ja systeemin väliseen vuorovaikutukseen liittyviä tekijöitä, jotka tulee ottaa huomioon, kun näitä teknologioita sovelletaan. Teknisessä raportissa pyritään määrittelemään myös tulevia standardoimistarpeita teemaan liittyen ja nostamaan esille tarpeen asettaa uudet rajat sille, mitä ergonomiaksi kutsutaan. (6).
Käytettävyyden määritelmä on monelle käytettävyysasiantuntijalle tuttu. Keskeistä on konteksti, jossa teknologiaa käytetään sekä tehtävät, joiden avulla käyttäjä pyrkii saavuttamaan tarkoittamansa tavoitteet. Käytettävyyden tekijöinä ja mittareina tehokkuus, taloudellisuus ja tyytyväisyys. (Kuva 1)
RIA järjestelmien osalta on tärkeä ottaa kuitenkin uudella tavalla huomioon fyysinen, kognitiivinen ja organisatorinen ergonomia mukaan lukien uudemmat käsitteet kuten käyttökokemus (UX), käytettävyys ja saavutettavuus. Käyttöturvallisuuteen liittyvä toimet tilanteesta johtuvan vahingon eliminoimiseksi tai seurausten minimoimiseksi nousevat erityisellä tavalla myös valokeilaan. (5).
Ihmisen ja robotin välinen tehtäväallokaatio
Ellei RIA järjestelmä ole täysin autonominen, on ihminen mukana toiminnallisena osana tilanteessa jollakin tavalla. RIA järjestelmät muuttavat merkittävästi tapaa millä ihminen toimii, osallisena monimutkaisessa ihmisen ja teknologian muodostamassa tiimissä, joka jakaa yhteisen tavoitteen. (6).
Kuvaan 2 verrattuna, teknisen raportin ISO/TR 9241-810:2020 mukaan painopistettä tulee siirtää siihen, miten robotin (agent) ja ihmisen muodostama TIIMI saavuttaa tuloksen yhdessä ja miten osapuolet mukauttavat toimintaansa (Kuva 2). Ihmiskeskeisyys on kuitenkin se tekijä, jonka laatua tulee aina mitata raportin mukaan (human in the loop).
Kun AI kehittyy ja kykenee oppimaan, tekemään päätöksiä ja mukautumaan, sitäkin pitäisi tarkastella tiimin jäsenenä tai työparina, ei erillisenä työkaluna. Kommunikaatio robotiikan kanssa on myös jo varsin kehittynyttä suurten kielimallien integraation johdosta, mahdollistaen käyttäjille jo varsin merkitykselliset keskustelut robotin kanssa. Olenkin miettinyt, miten tämän tiimin suoriutumista tulisi arvioida käytettävyystutkimuksissa ? Pitäisikö jotenkin pohtia hyväksymiskriteeristöjä myös tämän tiimin suoriutumisen kannalta katsoen?
Loppulause
Ihmisen ja robotin välinen yhteistoiminta ja vuorovaikutus (HRI) on mielenkiintoinen kenttä perinteiseen HCI (Human-Computer Interaction) maailmaan sekä erityisesti lääkinnällisten laitteiden (ml. ohjelmistot) turvallisuuskriittisten ratkaisujen käyttöliittymä- ja käytettävyyssuunnitteluun perehtyneelle asiantuntijalle. Kun teknologia kehittyy – nousee väistämättä eteen myös tarpeita uudistaa lähestymistapoja ja menetelmiä. Tekoäly itsessään tarjoaa potentiaaleja myös käytettävyyden arviointiin, mutta se onkin eri tarina.
Kirjoittaja:
Terhi Holappa, kehittämispäällikkö UNA Oy
terhi.holappa@unaoy.fi
- Gaba DM. (2000). Structural and organizational issues in patient safety: a comparison of health care to other high-hazard industries. California Management Review 43(1): 83–102.
- Hudson P. (2003) Applying the lessons of high risk industries to health care. Quality and Safety of Health Care 12:7–12.
- Carayon, P. (2013). Sociotechnical systems approach to healthcare quality and patient safety. Work. 2012;41(0 1):3850–3854.
- IEC 62366-1:2015+A1:2020. Medical devices –Part 1: Application of usability engineering to medical devices.
- ISO 9241-11:2018 Ergonomics of human-system interaction. Part 11: Usability: Definitions and concepts
- ISO/TR 9241-810:2020:en Ergonomics of human-system interaction. Part 810: Robotic, intelligent and autonomous systems.