Tekoälyagenttien käyttö yleistyy yrityksissä kovaa vauhtia. Osin niitä käytetään tukemaan ihmisten tekemää työtä, mutta on myös monia käyttötapoja, joissa tekoälyagentti tekee itsenäisiä valintoja. Tällaisia ovat esimerkiksi työhakemusten esikarsinta ja luotonantopäätökset.
Joissakin Aasian maissa kuten Kiinassa ja Singaporessa rahoitusvalvontaviranomaiset ovat heränneet arvioimaan agenttien käyttöön liittyviä riskejä ja vastuukysymyksiä ja julkaisseet menettelytapasuosituksia rahoituslaitoksille, kertoo The Asian Business Review.
Mielenkiintoinen artikkeli nostaa esiin tärkeän vastuisiin liittyvän seikan: tekoälyagentit toimivat tavoilla, jotka eivät täysin sovi yhteen perinteisten tietoturvakäytäntöjen kanssa. Perinteisesti työntekijöiden pääsyä luottamuksellisiin tietoihin rajataan rooli- ja tehtäväkohtaisesti. Tietojärjestelmien pääsyä tietoihin puolestaan hallinnoidaan staattisilla käytänteillä, koska perinteiset tietojärjestelmät suorittavat niille määritettyjä tehtäviä ennakoitavasti.
Toisin kuin perinteiset tietojärjestelmät, tekoälyagentit eivät suorita tarkasti määriteltyjä toimintoketjuja vaan ne soveltavat. Niille on vaikeaa ennakoivasti luoda täysin pitäviä sääntöjä, jotka varmuudella esimerkiksi estävät niiden pääsyn arkaluontoisiin tietoihin tai estävät niitä hyödyntämästä näitä tietoja lainvastaisilla tavoilla.
Kiinan ja Singaporen viranomaiset suosittavatkin, että rahoituslaitokset varmentavat ja tallentavat tekoälyagenttien päätökset etukäteen, ennen kuin ne esimerkiksi käynnistävät maksutapahtumia tai hyväksyvät luottohakemuksia. Tämä siis sen sijaan, että valvonta tapahtuisi jälkikäteen, jo tehtyjä päätöksiä tarkastamalla, kuten yleensä lienee tapana.
Suosituksen tavoitteena on selkiyttää vastuukysymyksiä. Jos tekoälyagentti tekee virheellisen päätöksen, on pystyttävä määrittämään, kuka siitä on vastuussa.
Vastuukysymys ei koske ainoastaan pankkeja vaan aivan yhtä hyvin mitä tahansa tekoälyagenteille ulkoistettuja toimintoja. Jos työhakemuksia perkaava tekoälyagentti syrjii työnhakijoita vaikkapa ulkomaalaisen sukunimen perusteella, kenen on vastuu? Jos luottopäätöksiä tekevä tekoälyagentti soveltaa naisiin eri kriteereitä kuin miehiin, kenen on vastuu? Jos asiakaspalvelun tekoälyagentti antaa asiakkaalle virheellistä tietoa, kenen on vastuu?
Onko syypää tekoälysovelluksen rakentanut yritys? Vai sitä käyttävän yrityksen IT-osasto? Vai kenties kyseisestä liiketoiminnosta vastaava taho? Näitä vastuukysymyksiä selvitellessä saattaa kulua tovi jos toinenkin, rahasta puhumattakaan.
Aasialaisten viranomaissuositusten kantavana ajatuksena on, että vaikka kuinka tekoäly hoitelisi prosesseja, loppuviimeksi vastuun pitää olla nimetyllä ihmisellä. Se on minusta varsin hyvä nyrkkisääntö.