{"id":483,"date":"2025-01-03T16:53:01","date_gmt":"2025-01-03T14:53:01","guid":{"rendered":"https:\/\/teknologiateollisuus.fi\/digipooli\/?p=483"},"modified":"2025-01-03T17:01:19","modified_gmt":"2025-01-03T15:01:19","slug":"tekoalysovellusten-saantelysta-ja-tekoalyratkaisuiden-riskienhallinnasta","status":"publish","type":"post","link":"https:\/\/teknologiateollisuus.fi\/digipooli\/tekoalysovellusten-saantelysta-ja-tekoalyratkaisuiden-riskienhallinnasta\/","title":{"rendered":"Teko\u00e4lysovellusten s\u00e4\u00e4ntelyst\u00e4 ja teko\u00e4lyratkaisuiden riskienhallinnasta"},"content":{"rendered":"\n

Teko\u00e4lysovelluksia s\u00e4\u00e4dell\u00e4\u00e4n<\/strong><\/p>\n\n\n\n

Teko\u00e4lysovelluksia s\u00e4\u00e4dell\u00e4\u00e4n<\/strong><\/h2>\n\n\n\n

Moni organisaatio on jo pitk\u00e4ll\u00e4 teko\u00e4lysovellusten hy\u00f6dynt\u00e4misess\u00e4, ja osa on l\u00e4htenyt sellaisia jopa itse kehitt\u00e4m\u00e4\u00e4n. EU:n teko\u00e4lys\u00e4\u00e4d\u00f6s (EU AI Act https:\/\/artificialintelligenceact.eu\/the-act\/<\/a>) astui voimaan 1. elokuuta 2024 ja s\u00e4\u00e4d\u00f6ksen vaatimuksia aletaan soveltaa vaiheittain (https:\/\/artificialintelligenceact.eu\/the-act\/<\/a>) niin, ett\u00e4 2. helmikuuta 2025 ns. kiellettyjen teko\u00e4lyratkaisuiden k\u00e4ytt\u00f6 on kielletty\u00e4. EU AI Act tarkastelee asioita teko\u00e4lysovellusten teko\u00e4lyn k\u00e4ytt\u00f6skenaarioiden ja niihin liittyvien taustalla olevien teko\u00e4lymallien kautta. AI Act koskee kaikkia suomalaisia yrityksi\u00e4 ja organisaatioita ja ei ole edes vapaaehtoista, vaan pakollista jopa sanktioiden uhalla. Muun muassa kriittinen infrastruktuurin osalta teko\u00e4lyj\u00e4rjestelm\u00e4t, jotka on tarkoitettu k\u00e4ytett\u00e4viksi turvakomponentteina kriittisen digitaalisen infrastruktuurin, tieliikenteen tai vesi-, kaasu-, l\u00e4mmitys- tai s\u00e4hk\u00f6huollon hallinnassa ja toiminnassa, kuuluvat suurriskisiin teko\u00e4lyj\u00e4rjestelmiin.<\/p>\n\n\n\n

Teko\u00e4lysovelluksien hallintamalli<\/strong><\/h2>\n\n\n\n

Teko\u00e4lysovelluksien hallintamalli<\/strong><\/p>\n\n\n\n

Teko\u00e4lysovelluksen hallintamalli on t\u00e4rke\u00e4 osa teko\u00e4lyn vastuullista ja tehokasta k\u00e4ytt\u00f6\u00e4. Hyvin toimiva hallintamalli sis\u00e4lt\u00e4\u00e4 useita keskeisi\u00e4 elementtej\u00e4:<\/p>\n\n\n\n

    \n
  1. Roolit ja vastuut<\/strong>: Hallintamallissa tulee m\u00e4\u00e4ritell\u00e4 selke\u00e4sti eri roolit ja vastuut, kuten teko\u00e4lyvastaava, teko\u00e4lyarkkitehti, teko\u00e4lyratkaisuiden riskienhallinnan vastaava, teko\u00e4lyn laadunhallintavastaava jne.<\/li>\n\n\n\n
  2. Riskienhallinta<\/strong>: Teko\u00e4lysovellusten riskienhallinta on olennainen osa hallintamallia. T\u00e4m\u00e4 sis\u00e4lt\u00e4\u00e4 riskien tunnistamisen, arvioinnin ja hallinnan sek\u00e4 vaatimustenmukaisuuden arvioinnin.<\/li>\n\n\n\n
  3. K\u00e4ytt\u00f6tapausten luokittelu:<\/strong> Organisaation tulee varmistaa, ett\u00e4 kaikki erilaiset teko\u00e4lyn k\u00e4ytt\u00f6tapaukset t\u00e4ytt\u00e4v\u00e4t kaikki sovellettavat vaatimukset, kuten GDPR ja teko\u00e4lys\u00e4\u00e4d\u00f6s. Organisaation vastuulla on luokitella teko\u00e4lyj\u00e4rjestelm\u00e4t ja arvioida, mitk\u00e4 teko\u00e4lyj\u00e4rjestelm\u00e4t soveltuvat mihinkin tarkoitukseen.<\/li>\n\n\n\n
  4. L\u00e4pin\u00e4kyvyys ja selitett\u00e4vyys<\/strong>: Teko\u00e4lysovellusten tulee olla l\u00e4pin\u00e4kyvi\u00e4 ja selitett\u00e4vi\u00e4. T\u00e4m\u00e4 tarkoittaa, ett\u00e4 teko\u00e4lyn toimintalogiikat ja p\u00e4\u00e4t\u00f6ksentekoprosessit tulee olla ymm\u00e4rrett\u00e4vi\u00e4 ihmisille.<\/li>\n\n\n\n
  5. Tietosuoja ja tietoturva<\/strong>: Teko\u00e4lysovellusten tulee noudattaa tietosuoja- ja tietoturvavaatimuksia. T\u00e4m\u00e4 sis\u00e4lt\u00e4\u00e4 tietosuojan vaikutustenarvioinnit (DPIA), tietoturva-arvioinnit ja datan hallinnan.<\/li>\n\n\n\n
  6. Eettiset periaatteet<\/strong>: Teko\u00e4lysovellusten kehitt\u00e4misess\u00e4 ja k\u00e4yt\u00f6ss\u00e4 tulee noudattaa eettisi\u00e4 periaatteita, kuten yhdenvertaisuus, monimuotoisuuden huomiointi ja oikeusturvan varmistaminen.<\/li>\n\n\n\n
  7. Koulutus ja osaamisen kehitt\u00e4minen<\/strong>: Teko\u00e4lyosaamisen kasvattaminen on t\u00e4rke\u00e4\u00e4. T\u00e4m\u00e4 voi sis\u00e4lt\u00e4\u00e4 johdon ymm\u00e4rryksen kasvattamista, itseopiskelumateriaaleja, verkkovalmennuksia ja syvent\u00e4vi\u00e4 opintoja valikoiduille rooleille.<\/li>\n<\/ol>\n\n\n\n

    N\u00e4m\u00e4 elementit auttavat varmistamaan, ett\u00e4 teko\u00e4lysovellukset ovat turvallisia, luotettavia ja eettisesti kest\u00e4vi\u00e4.<\/p>\n\n\n\n

    Teko\u00e4lysovelluksiin ja niiden hy\u00f6dynt\u00e4miseen liittyy tunnistettuja riskej\u00e4. Er\u00e4s malli riskien k\u00e4sittelyyn on NIST AI Risk Management framework<\/a>. NIST, U.S. National Institute of Standards and Technology,  viimeisin versio mallista syntyi, kun hein\u00e4kuussa 2024 U.S. valtioviraston toimisto julkaisi riskiprofiilin, joka korostaa Ihmisoikeuksien suhdetta teko\u00e4lysovellusten hy\u00f6dynt\u00e4misess\u00e4 https:\/\/www.state.gov\/risk-management-profile-for-ai-and-human-rights\/<\/a>).<\/p>\n\n\n\n

    Riskienhallintakehikosta poimittua<\/strong><\/h2>\n\n\n\n

    Riskienhallintakehikosta poimittua<\/strong><\/p>\n\n\n\n

    Kehys korostaa mallissaan hyv\u00e4\u00e4 hallintomallia (Govern), johon kuuluu erottamattomana ja jatkuvasti toistuvana iteraationa kartoitukset (MAP), mittaaminen (Measure) ja luonnollisesti omalle toiminnalle relevanttien riskien hallinta (Manage).<\/p>\n\n\n\n

    \"AI
    AI Risk Management framework by NIST<\/figcaption><\/figure>\n\n\n\n

    Malli esittelee my\u00f6s n\u00e4ihin liittyv\u00e4t useimmille sopivat toimenpide-ehdotukset n\u00e4iden otsikoiden alle. Mukana on aivan valtavia aiheita esim. aiheeseen liittyv\u00e4n kulttuurin luominen ja toisaalta yksinkertaisempia teknisi\u00e4 kartoitusteht\u00e4vi\u00e4 – joka tapauksessa suositeltavia toimenpiteit\u00e4 l\u00f6ytyy kaikille teht\u00e4v\u00e4ksi.<\/p>\n\n\n\n

    Monet ehdotuksista eiv\u00e4t ole kaikille valideja sik\u00e4li, koska osa sis\u00e4ll\u00f6st\u00e4 koskee korostetusti teko\u00e4lysovelluksia toteuttavia toimijoita ja osa niit\u00e4 hy\u00f6dynt\u00e4vi\u00e4 organisaatioita. Toisaalta molempia n\u00e4k\u00f6kulmia kannattaa pohtia. Kun teko\u00e4lysovelluksia hy\u00f6dynnet\u00e4\u00e4n oman toiminnan kehitykseen, voi olla vaikea vet\u00e4\u00e4 rajaa sille koska itseasiassa ollaan tekem\u00e4ss\u00e4 teko\u00e4lysovellusta ja koska vain sit\u00e4 hy\u00f6dynt\u00e4m\u00e4ss\u00e4. Toimenpide-ehdotuksia p\u00e4\u00e4see kuitenkin selailemaan AI RMF Playbook<\/a> ty\u00f6kalun avulla.<\/p>\n\n\n\n

    Kenties mielenkiintoisempaa ja viel\u00e4kin haastavampaa voi olla kuitenkin kartoitusteht\u00e4v\u00e4t. Ei niink\u00e4\u00e4n sovellusten luettelointi ja tietovaikutusten dokumentointi, vaan teko\u00e4lyn hy\u00f6dynt\u00e4misen kontekstin ymm\u00e4rt\u00e4minen – eli merkityksen ymm\u00e4rt\u00e4minen omalle toiminnalle. Joka voi olla hyvinkin piilossa, ellei tiedet\u00e4 kaikkien hy\u00f6dynt\u00e4jien odotusarvoja ja pyrkimyksi\u00e4 saatavista hy\u00f6dyist\u00e4. Lis\u00e4ksi voi olla hyv\u00e4 pohtia sit\u00e4, mink\u00e4laisia sosiaalisia vaikutuksia sovellusten hy\u00f6dynt\u00e4misest\u00e4 voi koitua. Asia saattaa vaatia laajaa dialogia organisaatiossa.<\/p>\n\n\n\n

    Mittausteht\u00e4viss\u00e4 ilmeist\u00e4 on sopivien mittareiden virittely ja miten mitataan teko\u00e4lyn tuotosten mahdollisia vaikutuksia ihmisoikeuksiin – tai edes tuotosten olemista linjassa yrityksen tai organisaation arvojen kanssa. T\u00e4rke\u00e4\u00e4 on kuitenkin teknisesti varmistaa sovellusten toiminta ja s\u00e4\u00e4nn\u00f6llisesti arvioida mittareiden perusteella esiin nousevia riskej\u00e4.<\/p>\n\n\n\n

    Hallintatoimista ei voi olla nostamatta palautumisen suunnittelua tai h\u00e4iri\u00f6tilanteisiin varautumista ja niist\u00e4 viestint\u00e4\u00e4 – varsinkin jos oman organisaation tuotokset ovat teko\u00e4lysovelluksista riippuvaisia – kuten alati lis\u00e4\u00e4ntyviss\u00e4 m\u00e4\u00e4rin on jokaisessa yrityksess\u00e4.<\/p>\n\n\n\n

    Digipoolin suosituksia riskienhallintaan teko\u00e4lyaiheissa<\/strong><\/h2>\n\n\n\n

    Digipoolin suosituksia riskienhallintaan teko\u00e4lyaiheissa<\/strong><\/p>\n\n\n\n

    Digipoolin verkostossa yritysten kanssa pidetyiss\u00e4 ty\u00f6pajoissa summattiin oleelliseksi n\u00e4htyj\u00e4 toimenpide ehdotuksia – jotka n\u00e4in j\u00e4lkik\u00e4teen tarkasteltuina osuvat varsin hyvin yhteen NIST kehikon suositusten kanssa. T\u00e4ss\u00e4 verkoston suosituksia toimenpiteiksi teko\u00e4lyn kehityksen ja varautumisen nimiss\u00e4:<\/p>\n\n\n\n