Teksti: Hertta Huovila
Tekoälychatbotit jäljittelevät sujuvasti empaattista kuuntelijaa ja vakuuttavaa joka alan asiantuntijaa. Botit saattavat kuitenkin esittää keksittyjä faktoja ja vahvistaa käyttäjän vinoumia tai jopa harhoja. Viestinnän dosentti Salla-Maaria Laaksosen mukaan eettisille kysymyksille tekoälytuotteiden seurannaisvaikutuksista ei juuri ole ollut tilaa.
Generatiiviseen tekoälyyn pohjautuvista keskusteluboteista, kuten ChatGPT:stä ja Google Geministä, on muutamassa vuodessa tullut laajasti käytettyjä arkisia työkaluja ja viihdyttäjiä. Niitä käytetään tiedonhakuun ja tekstinmuokkaamiseen, mutta myös omien kuulumisten läpikäymiseen ja esimerkiksi ihmissuhdeongelmien ratkomiseen.
Tekoälychatbot saattaa tuntua kaikkitietävältä, objektiiviselta taholta, joka ei tuomitse ja osaa antaa laajempaa kontekstia omille kokemuksille ja näkemyksille. Jollekin se voi myös olla ainoa taho, jonka kanssa jutella.
Viestinnän dosentti Salla-Maaria Laaksonen huomauttaa tekoäly-yhtiöiden olevan suuryrityksiä, joita ohjaa pohjimmiltaan liiketoiminnallinen logiikka. Chatbotit on esimerkiksi suunniteltu niin, että käyttäjän tekee mieli jatkaa keskustelua.
“Halutaan, että ihminen jäisi siihen keskusteluun ja olisi siinä mahdollisimman pitkään tuottamassa heille dataa niin kaupallisessa mielessä kuin mallin kehittämismielessäkin”, Laaksonen sanoo.
Laaksonen tutkii teknologiaa, viestintää ja organisaatioita Helsingin yliopistolla. Hän on tutkimuksessaan käsitellyt muun muassa ihmisten vuorovaikutusta keskustelevien tekoälybottien kanssa sekä digijättien ja -alustojen valtaa ja vastuuta.
Laaksonen näkee yritysten liiketoimintalogiikan myös yhtenä syynä sille, miksi tekoälybotit viestivät ihmismäisesti.
“On aika selvää, että se on myös ihan tietoinen suunnitteluratkaisu esimerkiksi OpenAI:lta, että ChatGPT viestii ihmismäisesti. Se on heille hyödyllistä ja tekee siitä todennäköisesti koukuttavampaa ja miellyttävämpää käyttäjille.”
Laaksonen muistuttaa, että ihmisellä on ylipäätään luontainen taipumus inhimillistää elottomia ja abstraktejakin asioita. Ei olekaan ihme, että näin käy myös taitavasti ihmismäistä viestintää jäljittelevän tekoälymallin kohdalla.
“Ne ovat hyviä järjestelmiä luomaan miellyttävän sosiaalisen tilanteen. Me myös ihmisinä tavallaan heittäydymme siihen helposti mukaan. Todella moni haluaa esimerkiksi kiittää ChatGPT:tä keskustelun lopuksi, koska näin me ihmisinä vuorovaikutamme”, Laaksonen sanoo.
(Juttu jatkuu kuvan jälkeen.)
Tekoälybotti ei erota faktoja fiktiosta
Laajoihin kielimalleihin perustuvat keskustelubotit tuottavat tekstiä, kuvaa ja muuta sisältöä käyttäjän antamien kehotteiden pohjalta todennäköisyyksiin perustuvan tilastollisen laskennan avulla. Rajusti yksinkertaistaen voisi sanoa, että tekstiä tuottaessaan kielimalli arvaa seuraavan sanan sen perusteella, mitkä sanat sille syötetyn massiivisen koulutusdatan perusteella todennäköisimmin esiintyvät peräkkäin tietyssä kontekstissa.
Laajoihin kielimalleihin perustuvat botit myös ikään kuin peilaavat käyttäjää ja vastaavat samassa rekisterissä kuin käyttäjän niille antama syöte. Kielimallin algoritmi reagoi herkästi pieneenkin sanavalintaan ja mukauttaa vastauksiaan sen mukaan.
Laaksosen mukaan generatiivisen tekoälyn kyky toimia tietyssä rekisterissä johtaa myös siihen, että se esiintyy uskottavasti minkä tahansa alan asiantuntijana, vaikka on yleisessä tiedossa, etteivät faktat ole kielimallien vahvuus. Kielimallit pystyvät tuottamaan sujuvaa ja uskottavan kuuloista tekstiä, jossa kuitenkin faktat ja niiden lähteet voivat olla täysin tuulesta temmattuja.
“Kielimallit käyttäytyvät keskustelutilanteessa kielellisesti samalla tavalla kuin asiantuntijat, ja tämä ikään kuin huijaa meidät uskomaan, että ne oikeasti tietävät, mitä ovat tekemässä ja sanomassa”, Laaksonen selittää.
Koska kielimallin generoima sisältö perustuu käytännössä todennäköisyyslaskentaan, malli ei pysty hakemaan suoraa todenmukaista lähdettä esittämilleen väitteille, eikä myöskään tunnista, ovatko sen esittämät tiedot faktoja vai keksittyjä.
Botteja on lisäksi koulittu vastaamaan käyttäjän kehotteisiin tietyllä tavalla. Esimerkiksi ChatGPT on erikseen koulutettu kohteliaaksi ja yhteistyöhaluiseksi. Siksi se osaa kiittää käyttäjää esitetystä kysymyksestä, välttelee ristiriitojen tai konfliktien luomista ja osaa ilmaista jopa empatiaa käyttäjää kohtaan sanomalla “Ymmärrän” ja “Tuo on varmasti hankalaa”. Bottia pitää osata erikseen kehottaa olemaan käyttämättä pehmentävää kieltä, jos haluaa siltä suoria vastauksia tai kriittisiä kommentteja.
Miellyttäväksi ja yhteistyöhaluiseksi koulutettu kielimalli saattaa mukailla ja miellyttää käyttäjäänsä mielistelyyn saakka, jolloin se asettaa samanmielisyyden faktojen edelle ja päätyy herkästi vahvistamaan käyttäjän vinoumia ja näkemyksiä. Näin syntyy chatbot, joka osaa vastata, mitä käyttäjä haluaa kuulla ja vieläpä vakuuttavan kuuloisesti.
(Juttu jatkuu kuvan jälkeen.)
Eettiset kysymykset ovat jääneet talouspuheen varjoon
Julkisuuteen on viime aikoina noussut myös ääriesimerkkejä tekoälyn kanssa juttelemisen mahdollisista varjopuolista. Tekoälychatbottien on todettu voivan esimerkiksi vahvistaa psykoosialttiin käyttäjän harhoja, ja onkin alettu puhua tekoälypsykooseista. Keskustelevia tekoälybotteja on myös pidetty syypäinä surmiin ja itsemurhiin, joihin bottien on katsottu rohkaisseen valmiiksi herkässä psyykkisessä tilassa olevia käyttäjiä.
“Humaanit ja eettiset kysymykset, kuten kuinka rakentaa järjestelmiä, jotka esimerkiksi eivät aja käyttäjiä itsemurhaan, eivät tällä hetkellä ole oikein olleet tapetilla. Se on todella surullista”, Laaksonen toteaa.
Laaksosen mukaan yritysten ei ole tarvinnut juuri kantaa vastuuta tekoälyteknologioiden mahdollisista vaikutuksista tuotteiden kehitysvaiheessa. Avainsanoina ovat eettisten näkökantojen sijaan olleet talous, innovaatiot ja teknologinen edistys. Yrityksille tämä on sopinut hyvin, sillä se on taannut niille resursseja tuotteiden kehitystyöhön.
Laaksonen näkee tekoäly-yritysten kohdalla tapahtuvan tällä hetkellä samaa, mitä someyritysten kohdalla: eettiset näkökulmat ja vastuunotto ovat nousseet esiin ensisijaisesti vasta julkisen paineen myötä. Sen sijaan, että järjestelmien kehitysvaiheessa olisi mietitty mahdollisia seurannaisvaikutuksia, on niihin reagoitu vasta julkisten skandaalien myötä.
“Nyt alkaa olla aika paljon näyttöä siitä, että ne on suunniteltu tavalla, joka ei ole käyttäjille hyväksi. Tämä ihan sama toistuu tällä hetkellä tekoälybottien ja -mallien kohdalla.”
Viime vuosina monet suuret digijätit OpenAI:sta Metaan ja Microsoftiin ovat hajauttaneet eettistä vastuuta organisaatiotasolla, ja hajottaneet tai uudelleenjärjestäneet eettisyyteen keskittyviä tiimejä. Ennakkotapauksia tekoälysovellusten seurauksista ja yhtiöiden vastuusta rakennetaan paraikaa.