Toimialakohtainen sääntely: AI terveydenhuollossa

Terveydenhuollossa AI-puhelinpalvelu kuulostaa houkuttelevalta heti, kun katsoo puhelumääriä. Ajanvaraukset, peruutukset, aukioloajat, reseptien uusintaohjeet ja valmistautumisohjeet syövät valtavasti aikaa. Moni puhelu ei vaadi hoitopäätöstä. Silti se vaatii vastauksen.

Mutta terveydenhuolto ei ole tavallinen asiakaspalveluympäristö. Puhelussa voi tulla esiin potilastietoja, oireita, lääkityksiä, hätätilanteita ja ihmisen terveyteen vaikuttavia päätöksiä. AI:n pitää tietää rajansa. Ihmistenkin pitäisi, mutta aloitetaan järjestelmästä.

Tämä opas käy läpi, miten AI terveydenhuollossa kannattaa rajata puhelinpalvelun näkökulmasta: mitä voi automatisoida, mitä pitää ohjata ihmiselle ja miten tietosuoja, potilastiedot ja vastuut huomioidaan.

Kaikki puhelut eivät ole hoidon tarpeen arviointia

Ensimmäinen tärkeä erottelu on hallinnollinen palvelu vastaan terveydenhuollon arvio. AI voi olla hyvä hallinnollisissa tehtävissä. Se voi siirtää ajan, kertoa valmistautumisohjeet, kirjata peruutuksen, ohjata oikeaan numeroon ja muistuttaa asiakkaalle, mitä tietoja vastaanotolle tarvitaan.

Esimerkkejä sopivista alkuvaiheen käyttötapauksista:

• ajanvarauksen tekeminen ja siirtäminen
• vastaanoton sijainti- ja aukiolotiedot
• käyntiin valmistautumisen yleisohjeet
• lomakkeiden ja dokumenttien muistutus
• takaisinsoittopyynnön kirjaaminen
• palvelun valinta asiakkaan antaman hallinnollisen tiedon perusteella
• puhelun ohjaus oikeaan tiimiin

Hoidon tarpeen arviointi on eri asia. Jos AI alkaa päätellä oireiden perusteella, onko asia kiireellinen, kyse ei ole enää pelkästä asiakaspalvelusta. Silloin mukaan tulevat potilasturvallisuus, ammattihenkilön vastuu, dokumentointi ja usein korkeamman riskin sääntelyarvio.

Käytännön sääntö on yksinkertainen: AI voi kysyä rajattuja esitietoja, mutta sen ei pidä tehdä kliinistä päätöstä ilman hyväksyttyä prosessia ja ihmisen vastuuta.

Potilastiedot ja minimointi

Terveydenhuollon puheluissa henkilötiedot ovat usein erityisiä henkilötietoryhmiä. Oireet, diagnoosit, lääkitykset ja tutkimukset eivät ole sama asia kuin verkkokaupan tilausnumero. Siksi minimointi on tärkeää.

AI-puhelinpalvelussa kannattaa päättää tarkasti:

• mitä tietoja AI saa kysyä
• mitä se ei saa kysyä
• tallennetaanko ääni, transkriptio vai vain yhteenveto
• mitä tietoja siirretään potilastietojärjestelmään
• kuka näkee puhelun yhteenvedon
• miten virheellinen tieto korjataan
• miten tietopyyntöihin vastataan

Yllättävän moni käyttötapaus toimii ilman laajaa terveystietojen käsittelyä. Ajan siirtämiseen ei yleensä tarvita oirekuvausta. Saapumisohjeisiin ei tarvita diagnoosia. Mitä vähemmän AI käsittelee arkaluonteista tietoa, sitä helpompi palvelu on suojata ja perustella.

Milloin puhelu pitää siirtää ihmiselle?

Terveydenhuollon AI-puhelinpalvelussa eskalointi ei saa olla piilotettu valikkokohta. Sen pitää olla osa keskustelun logiikkaa.

Ihmiselle pitää siirtää ainakin, kun:

• soittaja pyytää ammattilaista
• soittaja kuvaa akuuttia tai vakavaa oiretta
• kysymys liittyy lääkityksen muutokseen
• kyse on lapsen, raskauden, mielenterveyden tai muun herkän tilanteen huolesta
• AI ei löydä hyväksyttyä vastausta
• soittaja on hämmentynyt, vihainen tai ei ymmärrä ohjetta
• puhelu vaikuttaa hoidon tarpeen arvioinnilta

Lisäksi tarvitaan hätätilannepolku. AI ei saa jäädä keskustelemaan, jos ihminen kuvaa tilanteen, jossa pitää soittaa hätänumeroon tai hakeutua päivystykseen. Tähän tarvitaan hyväksytty, terveydenhuollon ammattilaisen tarkistama ohjeistus.

Vastuu ja dokumentointi

Yksi hankalimmista kysymyksistä on vastuu. Kuka vastaa, jos AI antaa väärän ohjeen? Toimittaja, terveydenhuollon palveluntuottaja, ammattilainen, joka hyväksyi sisällön, vai kaikki vähän? Juridinen vastaus riippuu sopimuksista ja käyttötapauksesta. Operatiivinen vastaus on selkeämpi: vastuut pitää kirjata ennen käyttöönottoa.

Dokumentoi ainakin:

• AI:n käyttötarkoitus ja rajaus
• hyväksytyt tietolähteet
• kielletyt vastaukset ja aiheet
• eskalointisäännöt
• hyväksymisprosessi muutoksille
• lokitus ja laadunvalvonta
• virheiden käsittely
• asiakkaalle annettava informointi

Jos AI:n ohjeistusta muutetaan, muutoksesta pitää jäädä versiohistoria. Terveydenhuollossa ei riitä, että joku muistaa muuttaneensa promptia tiistaina. Muisti on huono tietojärjestelmä. Todella huono.

AI Act ja korkean riskin arviointi

Terveydenhuollon käyttötapaukset voivat osua AI Actin näkökulmasta herkemmälle alueelle, jos järjestelmä vaikuttaa hoitoon, triageen tai ihmisen pääsyyn palveluun. Kaikki terveydenhuollon AI ei ole automaattisesti saman riskitason asia, mutta käyttötapaus pitää arvioida.

Matalamman riskin puhelinpalvelu voi olla esimerkiksi ajanvarauksen hallinta, jossa AI ei tee terveydellistä arviota. Korkeamman arvioinnin vaativa tilanne voi olla oireiden perusteella tehtävä kiireellisyysluokitus tai hoitopolun valinta.

Hyvä käytäntö on tehdä käyttötapauskohtainen riskikuvaus:

• voiko AI:n virhe viivästyttää hoitoa
• voiko AI antaa väärän turvallisuuden tunteen
• vaikuttaako AI pääsyyn palveluun
• onko ihmisellä helppo tapa ohittaa AI
• miten virheet havaitaan
• kuka valvoo laatua

Tämän työn voi tehdä käytännöllisesti. Sen ei tarvitse olla 80-sivuinen rituaali, mutta sen pitää vastata oikeisiin kysymyksiin.

Tietolähteet ja vastausten hallinta

Terveydenhuollon AI ei saa nojata yleiseen mallimuistiin, kun se vastaa potilaalle. Sen pitää käyttää hyväksyttyjä lähteitä: vastaanoton omia ohjeita, ajanvarauskalenteria, palvelukuvauksia, virallisia valmistautumisohjeita ja ammattilaisen tarkistamaa sisältöä.

Vastauksissa kannattaa käyttää rajoitettua tyyliä. AI voi sanoa: "Voin kirjata takaisinsoittopyynnön hoitajalle". Sen ei pidä sanoa: "Tämä kuulostaa vaarattomalta". Ero on valtava.

Laatua kannattaa seurata otannalla. Kuunnelkaa tai lukekaa säännöllisesti puheluita, joissa AI siirsi asian ihmiselle, ei osannut vastata tai sai huonon palautteen. Nämä kertovat, missä rajaukset vuotavat.

Käyttöönoton turvallinen eteneminen

Terveydenhuollossa järkevä eteneminen on yleensä vaiheittainen:

1. Aloita hallinnollisesta käyttötapauksesta. 2. Rajaa AI:n tehtävät ja kiellot kirjallisesti. 3. Tarkistuta sisällöt terveydenhuollon vastuuhenkilöllä. 4. Päätä, mitä tietoa tallennetaan ja minne. 5. Testaa hätätilanne-, epäselvyys- ja ihmiseen siirtymisen polut. 6. Avaa pilotti rajatulle liikenteelle. 7. Seuraa puheluita ja korjaa rajoja ennen laajennusta.

Jos pilotti toimii, automaatiota voi laajentaa. Jos se ei toimi, hyvä että opittiin pienessä mittakaavassa. Terveydenhuollossa tämä on harvinaisen järkevä periaate.

Yhteenveto

AI terveydenhuollossa voi helpottaa puhelinruuhkaa, kun käyttötapaus on rajattu. Ajanvaraus, ohjaus, muistutukset ja takaisinsoittopyynnöt ovat luontevia alkuja. Hoidon tarpeen arviointi, lääkitysohjeet ja yksilölliset terveydelliset päätelmät vaativat aivan eri tason prosessin.

Onnistunut AI-puhelinpalvelu kertoo ihmiselle, että käytössä on AI, minimoi potilastiedot, siirtää riskitilanteet ammattilaiselle ja jättää tarkistettavan jäljen. Aisteri auttaa suunnittelemaan tällaisen rajauksen ja toteutuksen käytännössä. Kysy lisää: visa.valkonen@aisteri.fi.