Tekoälyapurityöpaja syvensi ymmärrystä tekoälyhallusinaatioista ja julkisten palvelujen kehittämisestä

AIdemoc järjesti tammikuussa työpajan, jossa tarkasteltiin mm. kielimallien virheitä eli tekoälyhallusinaatioita ja niiden vaikutuksia mahdollisissa julkisen palvelun sovelluksissa. Työpajassa tarkasteltiin myös yleisesti hyväksyttäviä tapoja hyödyntää tekoälyä viranomaispalveluissa. Tulokset korostivat tekoälyn roolia asiantuntijan tukena, ei itsenäisenä neuvojana.

AIdemoc-hankkeessa kehitetään ja arvioidaan tekoälysovellusten prototyyppejä yhteistyössä julkisten toimijoiden kanssa. Yhtenä konkreettisena esimerkkinä on chatbot-prototyyppi, joka tuottaa vastauksia Tukesin asiakaskysymyksiin. Viranomaistyössä vastausten virheettömyys on ensisijaista, koska lainsäädäntö vaatii, että viranomaisviestinnän tietosisällön asianmukaisuuden täytyy olla ennalta varmistettua.

– Työpajassa arvioitiin esimerkiksi hyväksyttäviä ja ei-hyväksyttäviä tapoja hyödyntää tekoälyä julkisissa palveluissa. Keskeistä tutkimuksessa on asiantuntijoiden tekemä kielimallien tuottamien vastausten arviointi. Arvioinnissa tarkastellaan vastausten virheettömyyttä, kattavuutta ja käyttökelpoisuutta luonnoksina, sanoo työpajasta vastannut yliopistonlehtori Jami Pekkanen Helsingin yliopistosta.

Viranomaistyön reunaehdot ja tulevaisuuden mahdollisuudet

Viranomaistyössä tietosuoja- ja tietoturvakysymykset rajaavat vahvasti sitä, mitä tietoa tekoälylle voidaan antaa käsiteltäväksi. Työpajassa nousi esiin viranomaisille sisäiseen käyttöön tarkoitettu oma tekoäly, johon voisi laittaa myös salassa pidettävää materiaalia tietoturva- ja tietosuoja-asiat huomioiden. Tekoälyä voisi hyödyntää Tukesilla myös asiakaspalautteissa, esimerkiksi suurten tietomassojen käsittelyssä.

– Tekoäly voi tehdä asiakaspalautteista koosteita ja kehittämisehdotuksia, joiden avulla palveluja voidaan parantaa. Se voi myös tunnistaa samankaltaisia aiempia tapauksia tai tuottaa räätälöityjä vastauksia, jotka asiantuntija tarkistaa ennen asiakkaalle lähettämistä, sanoo Tukesin viestintäasiantuntija Sanna Pasanen. 

Pasasen mukaan tekoälyn hyödyntämistä kannattaisi miettiä myös laajemmin asiakaspalvelussa: se voi esimerkiksi tukea asiakasta ohjaamalla hänet oikean tiedon äärelle Tukesin sivuilla tai välittää kysymyksen oikealle asiantuntijaryhmälle organisaatiossa. 

Kohti vastuullista, luotettavaa ja ajantasaista tekoälyn käyttöä

Noin 55 prosenttia tekoälyn laatimista vastauksista arvioitiin asiasisällöltään hyväksyttäviksi sellaisenaan, mutta loput sisälsivät virheitä tai puutteita, jotka asiantuntijan pitäisi korjata. Tulosten perusteella tekoälystä ei siis ole itsenäiseksi asiakasneuvojaksi, mutta se voisi tukiälynä helpottaa asiantuntijan työtä merkittävästi. Keskustelut ja palaute auttoivat hahmottamaan entistä paremmin tukeslaisten tarpeita sekä sitä, mihin tekoälytyökaluja voisi käytännössä hyödyntää ja millä tavoin. 

– Aineistoa hyödynnetään sekä nykyisten kielimallien ongelmien tunnistamisessa että seuraavien prototyyppien kehittämisessä. Saadun aineiston pohjalta lähdetään kehittämään sovellusta, joka laatii asiantuntijoille vastausaihioita ja hakee kysymyksen kannalta olennaista taustamateriaalia, Pekkanen kertoo. 

AIdemocin osahankkeessa (WP3) selvitetään kielimallien hallusinointia, sen ennaltaehkäisyä ja vaikutuksia mm. viranomaiskäyttöön. Osahanketta vetää AIdemocin konsortionjohtaja Anna-Mari Wallenberg Helsingin yliopistosta.