Tekoälystä on tullut monille kätevä työkalu ja osa työnteon arkea. Generatiiviset kielimallit ovat lyöneet itsensä läpi niin suurella vauhdilla ja voimalla, että on tärkeää tarkastella kriittisesti niiden heikkouksia.
Vastuullisuusnäkökulmasta katsottuna tekoälytyökaluissa on paljon kriittisiä ongelmia: Massiivisesta energian- ja vedenkulutuksesta on puhuttu paljon. On nostettu esiin, että tekoälypohjaiset kuvageneraattorit ryöstöviljelevät tekijänoikeuksien suojaamia aineistoja. On puhuttu algoritmeihin kätkeytyvistä vinoumista, jotka aiheuttavat eriarvoista kohtelua ja syrjintää muun muassa sukupuolen tai etnisyyden vuoksi.
Viime aikoina julkiseen keskusteluun on alkanut nousta uusi teema: hallusinaatiot. Generatiivisilla kielimalleilla on taipumuksena tuottaa uskottavan kuuloista sepitettä, jolla ei välttämättä ole mitään todellisuuspohjaa.
Miten tekoälyn hallusinointi sitten liittyy vastuullisuuteen? Mahdollisesti paljonkin.
Vastuullisuuteen erikoistunut mediayhtiö Trellis kertoi aiemmin tällä viikolla blogissaan kiinnostavasta kokeilusta: he kehittivät tekoälyagentin, jonka tarkoituksena oli auttaa seulomaan valtavasta vastuullisuustiedon tulvasta kunkin yrityksen kulloiseenkin tilanteeseen oleelliset asiat.
Kuulostaa varsin pätevältä käyttötarkoitukselta! Massiivinen infoähky lienee tuttua jokaiselle vastuullisuuden parissa työskentelevälle. Ehkä jo kuitenkin arvaat, ettei homma mennyt ihan putkeen.
Trellis laittoi tekoälyagentin testiin. "James", kuvitteellinen operatiivinen johtaja, jonka tehtävänä oli vastata tärkeän asiakkaan lähettämään biodiversiteettiä koskevaan kyselyyn, pyysi tekoälyltä apua. Ja mitä tapahtuikaan? Tekoälyagentti ei suinkaan auttanut "Jamesia" selvittämään todellisia vastauksia asiakkaan kysymyksiin vaan tuotti täysin sepitetyt vastaukset uskottavan kuuloisella "vastuullisuuskielellä".
Sama toistui uudelleen ja uudelleen. Trellisillä huomattiin, että tekoälyagenteilla on perustavanlaatuinen taipumus avuliaasti tuottaa positiivista sisältöä, jos agenttia ei rivakasti ohjaa toimimaan toisin.
Trellisin havainnot ovat tärkeitä. On ymmärrettävä työvälineidensä rajoitteet, jotta voi ymmärtää, mihin ne soveltuvat ja mihin eivät.
Kukaan nimittäin tuskin haluaa tilannetta, jossa vastuullisuuteen liittyvän tiedon tulva vain lisääntyy, ja uutena lisähaasteena on yrittää tunnistaa, miltä osin tieto on oikeasti tietoa ja miltä osin hallusinaatiota.
Kuva: Ehimetalor Akhere Unuabona / Unsplash
