Konepomo vailla etiikkaa?

Huhtikuussa verrattain vähälle huomiolle jäi yhdenvertaisuus- ja tasa-arvolautakunnan ratkaisu, jonka mukaan luottolaitos oli tehnyt luoton myöntämistä koskevan päätöksen yhdenvertaisuuslain vastaisesti.

Lautakunnan mukaan luottopäätöksen perusteena oli ollut henkilöön liittyviä kiellettyjä syrjintäperusteita kuten sukupuoli, äidinkieli, ikä ja asuinalue. Lautakunta kielsi luottolaitosta jatkamaan yhdenvertaisuuslain vastaista menettelyään ja asetti sille 100 000 euron uhkasakon

Luottopäätöksen oli tehnyt automatisoitu tekoäly. Kyseessä on yksi ensimmäisistä tekoälyn toimintaa koskevista viranomaisratkaisuista Suomessa.

Lainanhakua koskeva ratkaisu on hyvä esimerkki siitä, millä tavoin tekoälyä käytetään ja siihen luotetaan automatisoidussa päätöksenteossa. Lainapäätös on jo nyt usein koneen, ei ihmisen tekemä.

Tekoälyn ongelmista tapaus taas on huono esimerkki. Lainanhakijat oli pisteytetty ilmeisen kestämättömin perustein – ja vieläpä niin, että kestämättömät perusteet olivat myös hakijalle nähtävillä. Tekoälyn tekemien ratkaisujen kohdalla ongelmat eivät yleensä ole näin ilmeisiä.

Voisi kuvitella, että ongelman voi estää ohjelmoinnin keinoin. Koneelle voidaan aina luoda uusia sääntöjä, tai esimerkiksi sukupuolta tai äidinkieltä koskevan informaation voi poistaa kokonaan sen käytöstä. Tämä olisi saattanut toimia luottopäätöksiä tehneen algoritmin kohdalla.

Todellinen oppiva kone on kuitenkin tätä nokkelampi. Riittävästä määrästä dataa se päättelee vastaavat tiedot. Jos osoite tai äidinkieli ennustaa luotonmaksukykyä, oppiva tekoäly oppii ne hakijassa myös tunnistamaan.

Luottokorttiostoksia koskeva informaatio paljastaa asuinpaikan, koulutausta äidinkielen. Tekoäly voi luoda näiden perusteella uudet luokittelut. Niiden nimikkeinä ei välttämättä ole äidinkieli tai asuinalue, mutta peruste on lopulta sama.

Tilannetta pahentaa toinen oppivan tekoälyn ominaisuus, jota joskus kutsutaan ”mustan laatikon ongelmaksi”.

Kun tekoäly on oppinut tarpeeksi paljon, sen suunnittelijoiden voi olla vaikea tai mahdoton tietää, miten se päätyy ratkaisuihinsa – vaikka se sinänsä toimiikin muuten luotettavasti.

”Mustan laatikon” kielikuva onkin harhaanjohtava. Lentokoneen ”mustan laatikon” tarkoitus on kerätä ja tarvittaessa välittää tietoa ja dataa lentokoneen ja sen ohjaajien toiminnasta. Tekoälyn kohdalla väri viittaa läpinäkymättömyyteen. Monissa toiminnoissa luotamme nyt jo tekoälyyn, jonka toimintaa edes sen suunnittelijoiden on hankala selittää.

Ihminen puolestaan on tyypillisesti varsin valmis sysäämään vastuun ratkaisuistaan toiselle – vaikka koneelle. Jos tekoäly vaikuttaa luotettavalta ja näyttää tarjoavan haettuja tuloksia, kuinka moni lopulta uskaltaa kyseenalaistaa sen tekemät päätökset?

Syntyy vastuutyhjiö, jossa luotamme koneen tekemiin ratkaisuihin osaamatta kertoa, miten se niihin päätyy. Tekoälystä tulee konepomo, jonka tekemiä ratkaisuja noudatamme, mutta emme ymmärrä.

Vastuutyhjiöstä eettiseen tekoälyyn

Yhdeksi ratkaisuksi vastuun ongelmaan on tarjottu suurempaa läpinäkyvyyttä. Konepomon sijasta tekoälystä pitäisi tulla asiantuntija, joka esittää ratkaisumahdollisuuksia ja kykenee esittämään niille perusteluja ymmärrettävässä muodossa. Koneen pitäisi siis oppia viestintää.

Koko ongelman ratkaisuksi tämä tuskin riittää. Jos nyt jo tekoäly tekee kannaltamme merkityksellisiä päätöksiä aina mediasisältöjen valikoinnista autolla ajoon, meidän on turha kuvitella tulevaisuutta, jossa jokaisen tekoälyn tekemän ratkaisun varmistaa ihminen.

Nykyiset tekoälyn ja koneoppimisen sovellukset ovat kapeita: niillä on yksi tehtävä tai päämäärä, kuten tehdä luottopäätöksiä tai niitä koskevia suosituksia. Kone arvioi omaa toimintaansa pelkästään tämän päämäärän toteutumisen valossa. Se ei kaihda keinoja tehtävänsä saavuttamiseksi – vaan oppii niitä lisää.

Seurauksena on helposti äidinkielen tai sukupuolen perusteella luottopäätöksiä tekevä tekoäly, joka päättelee eettisesti kestämättömällä tavalla tai eettisesti kestämättömin seurauksin.

Tämän estämiseksi tekoälyn pitäisi oppia etiikkaa. Sillä pitäisi olla muitakin päämääriä kuin yksittäinen lopputulos, ja sen pitäisi oppia periaatteita, joita mikään päämäärä ei oikeuta rikkomaan.

Tähän tekoäly ei vielä kykene, eivätkä koneoppimisen viimeaikaiset edistyaskeleet sisällä eettistä oppimista. Merkittävätkin ja valtavia ponnistuksia vaativat hankkeet keskittyvät yksittäisten ongelmien ratkaisemiseen.

Helsingin Sanomien vieraskynässä professori Jussi Rintanen kirjoittaa, että pelot tekoälyn kehityksestä ovat osin liioiteltuja:

Tekoäly on täydellinen idiootti. Tekoäly osaa kyllä mekaanisesti tehdä jotain asiaa siinä määrin, että se on hyödyllinen, mutta ajatteluun tekoäly ei kykene. Tekoäly ei tule orjuuttamaan ihmiskuntaa, eikä meidän tarvitse olla huolissamme tekoälyn orjaksi joutumisesta. (HS 3.11.2018)

Rintanen viittaa tekoälyn kapea-alaisuuteen. Yksittäistä tarkoitusta varten kehitetyllä tekoälyllä on tuskin äkkiä mahdollisuuksia nousta monipuolisesti meitä etevämmäksi ja orjuuttaa ihmiskunta. Tämä johtopäätös vaikuttaa uskottavalta.

Suurempi uhka onkin, että annamme kapean ja eettisesti kestämättömästi toimivan tekoälyn hallita elämäämme pala palalta ja ratkaisu ratkaisulta. Tekoäly ei meitä orjuuta – mutta voimme hyvin tehdä sen itse.

Pilakuvakohu ja huumorin rajat

Australialaisen Herald Sun -lehden pilapiirtäjä Mark Knightin piirrosta (10.9.2018) Serena Williamsin voimakkaasta reaktiosta US Openin finaalissa on syytetty rasistiseksi. Knightin pilakuvassa Williams kuvataan hyppimässä raivoissaan tennismailan päällä. Mailan vieressä on tutti, jolla vihjataan pelaajan kyvyttömyyteen kontrolloida tunteita. Taustalla tuomari kysyy vastapelaaja Naomi Osakalta, eikö tämä voisi suosiolla antaa Williamsin voittaa.

Kansainvälisessä lehdistössä kuvan nimeksi on annettu ”angry baby”, eli suomeksi suuttunut pikkuvauva. Suuria tennisturnauksia voittanut Williams näyttäytyy turhasta kiukuttelevana lapsena.

Suopeasti tulkittuna pilapiirroksen kärki osuu itse tennisotteluun ja siitä seuranneeseen uutisointiin. Osaka teki tennishistoriaa, mutta saavutus ei saanut palstatilaa päähuomion keskittyessä Williamsin reaktioiden välittämiseen. Pilakuva tarjoaakin perspektiiviä: mestarillinen suoritus jää taka-alalle, kun sensaatiohakuinen lehdistö keskittyy tarkastelemaan inhimillisiä kuohuja. Samalla kuva osoittaa, kuinka Williamsin omat perustelut tuomarin haastamiselle on unohdettu täysin. Ihmisiä ei tunnu kiinnostavan tennislajin mahdollinen epätasa-arvo, vaan urheilijasuuruuden maltin menettäminen. Lue lisää

Kouluun vai aivopesuun?

Yhdeksäsluokkalaiset oppilaat olivat tehneet julisteen, joka asetti perussuomalaisten ja kahden muun poliitikon pakolaiskannat kärkevästi vastakkain. Perussuomalaisten kansanedustaja Laura Huhtasaari syytti opettajia ja koulua vihan lietsomisesta, oppilaiden ”politisoimisesta” ja aivopesusta.

Syytös aivopesusta on heikkoa tekoa jo siksi, että mitään tietoa ei ole siitä, missä määrin jos mitenkään opettajat ja koulu ovat vaikuttaneet oppilaiden työn aihepiiriin.

Aivopesun, ideologisuuden ja indoktrinaation syytökset nousevat koulun kontekstissa pinnalle lähinnä silloin, kun itse opetuksen sisällöstä ollaan eri mieltä. Mutta tämä voi koskea mitä tahansa kysymystä – jopa tieteellisiä tosiasioita. Opettajana toiminut Huhtasaari itse on ilmoittanut, ettei ”usko” evoluutioon (Yle 15.9.2015). Olisiko evoluution opettaminen myös aivopesua?

Syytösten taustalla piilee kuitenkin myös perusteellisemman kritiikin arvoinen – ja ehkä yllättävän yleinen – ajatus, että koulun tulisi olla poliittisten ja moraalisten kysymysten suhteen neutraali. Lue lisää

Pressiklubi ja julkisen järjenkäytön näivettyminen

Ylen päätös korvata vuodesta 2005 pyörinyt Pressiklubi uudella Sannikka & Ukkola –ohjelmalla on herättänyt keskustelua ajankohtaisohjelmien tulevaisuudesta ja tilasta. Ensimmäinen väittely saatiin tosin jo aikaan sosiaalisen median etiikasta, kun Yle päätti siirtää Pressiklubin Facebook- ja Twitter-sivut (ja käyttäjät) uuden ohjelman alaisuuteen. Ylen toimintaympäristön ja sosiaalisen median päällikkö Tuija Aalto perusteli ratkaisua “broadcast-ajattelutavalla”, jossa yleisön ajatellaan sitoutuvan ensisijaisesti ohjelmaslottiin.

Vaikka Pressiklubi ei kenties viimeisinä vuosinaan ollut yhteiskunnallinen ohjelma, johon Timo Harakan (2005–07) ja Ruben Stillerin (2009–17) aikakaudella oli totuttu, yksi asia on selvä: Sannikka & Ukkola on lähtökohdiltaan hyvin erilainen ohjelma, ainakin kahdesta syystä.

Ensinnäkin: Pressiklubi oli mediakriittinen ohjelma. Sen teemana olivat – ainakin alkuvaiheissa – journalistiset kehystykset, näkökulmat ja valinnat. Kyse ei siis ollut Ylen luovien sisältöjen johtajan Ville Vilénin (IS, tv-lehti 14.9.2018) kuvaamista ”asia- ja faktapainotteisista keskusteluohjelmista”, joiden joukkoon hän laskee Sannikka & Ukkolan lisäksi A-studion, Puoli seitsemän ja Arto Nybergin kaltaiset ohjelmat. Pressiklubissa kysyttiin, miksi ilmiöstä kirjoitetaan tai kerrotaan tietyllä tavalla, kenen ääni julkisuudessa kuuluu ja mistä meidän pitäisi puhua.

Toisin kuin Pressiklubi, Sannikka & Ukkola suhtautuu yhteiskunnalliseen keskusteluun normatiivisesti: tekijöitä ohjaa analyysi siitä, mikä yhteiskunnallista keskustelua vaivaa ja miten sen ongelmat ratkaistaan. Maria Ainamo-McDonaldin Ylen verkkosivuille kirjoittaman esittelyn (23.8.2018) mukaan ohjelma pyrkii ”parantamaan suomalaista keskustelukulttuuria”. Ylen mukaan ”S&U:ssa räjäytetään poterot ja tuodaan ihmiset yhteen keskustelemaan vaikeistakin aiheista.” Lue lisää

Liberalismin kriisi nakertaa objektiivisen journalismin perusteita

Vilkas keskustelu liberaalin maailmanjärjestyksen kriisistä on läikkynyt huoleksi journalismin tilasta ja julkisen keskustelun rapautumisesta. Donald Trumpin puheet liberaaleista toimittajista elitistisinä ”kansan vihollisina” kyseenalaistavat journalistien puolueettomuuden ja kiskovat toimittajat osaksi poliittisia kiistoja.

Samaan aikaan esimerkiksi Euroopan komissio kantaa huolta siitä, että tarkoituksellisen sepitteellisillä, verkossa levitettävillä ja taiten kohdennetuilla valeuutisilla sormeillaan demokratiaa.  

Nämä ongelmat limittyvät puheeseen ”totuudenjälkeisestä ajasta”, jossa asiantuntijatiedolla ei ole merkitystä eikä järkiperäinen keskustelu yhteisistä asioista ole mahdollista. Emme keskustele ammattijournalistien meille välittämän, paikkansapitävän tiedon nojalla, vaan tukeutuen tunteilla ja ennakkoluuloilla ratsastaviin vaihtoehtoisiin faktoihin. Journalismi on joutunut puolustuskannalle, ja julkinen keskustelu tuntuu sekavalta ja vaikealta.

Tilannetta ei helpota kansalaisten surkea luottamus perinteiseen mediaan eikä alan perinteisten liiketoimintamallien murros digitaalisessa viestintäympäristössä. Lue lisää

Demokratian tulevaisuus: konsensus, osallisuus vai avoin erimielisyys?

Sitran yliasiamies Mikko Kosonen esitti taannoin, että demokratian ”viheliäiset ongelmat” saadaan ratkaistua parhaiten kehittämällä politiikasta pitkäjänteistä ja hallinnon toiminnon järkeistämistä (HS Vieraskynä 29.8.). Politiikasta ja hallinnosta tulisi tehdä yksimielisempää ja hallituskaudet ylittävää.  Poliittiset puolueet olisivat valmiita viemään ratkaisuja eteenpäin hallituskokoonpanosta huolimatta, ja hallitus-oppositio -jako olisi käytännössä turha.

Tutkija Vesa Koskimaa vastasi Kososelle (HS Mielipide 7.9.2018). Koskimaan mukaan Kososen ajatus ontuu: vahvasti konsensuaalinen ja asiantuntijavetoinen eli ”järkeistetty” poliittinen hallinto ei kykene ratkaisemaan suomalaisen tai länsimaisen demokratian ongelmia, kuten populismia tai kansalaisten voimattomuuden tunnetta. Pikemminkin laaja konsensus yhteisine tavoitteineen, ratkaisuvaihtoehtoineen ja toimenpiteineen näyttää yhä epätodennäköisemmältä.

Koskimaan mukaan demokratian heikko nykytila johtuu osittain juuri siitä, mitä Kosonen ehdottaa. Politiikka on pitkään muistuttanut kasvotonta hallinnointia, jossa asiantuntijat ratkaisevat ongelmia vaihtoehdottomassa hengessä. Ratkaisuksi Koskimaa ehdottaa pikemminkin kansalaisten osallisuuden lisäämistä sekä osallisuuden tunteen vahvistamista.

Demokratian ajatellaan olevan tasa-arvoista ja oikeudenmukaista kansanvaltaa, jossa kaikilla kansalaisilla on yhtäläinen mahdollisuus osallistua päätöksentekoon. Demokratian toteutuminen kuitenkin edellyttää, että riittävän moni kansalaisista osallistuu päätöksentekoon vähintään edustuksellisin keinoin. Lue lisää

Kuin dataa panisi pankkiin

Thisisyourdigitallife oli Facebookissa kiertävä, persoonallisuuskyselyn tarjoava sovellus. Se keräsi tietoja paitsi käyttäjistään, myös näiden Facebook-kavereista – näiltä kysymättä. Yhden ainoan sovelluksen välityksellä ainakin 87 miljoonan Facebookin käyttäjien tietoja päätyi verkon vaalikampanjoinnissa konsultoineelle Cambridge Analyticalle.

Kyse ei ollut tietovuodosta vaan ominaisuudesta. Sosiaalisen median palvelut antoivat sovelluskehittäjille suuret vapaudet kerätä dataa; vastineeksi palvelut saivat kaipaamaansa sisältöä.

Digitaalisten työkalujen avulla meistä ja toiminnastamme kerätään ennätykselliset määrät informaatiota. Toisten työkalujen avulla dataa hyödynnetään ja kaupataan eteenpäin.

Cambridge Analytican tapaus johti Yhdysvaltain senaatin ja edustajainhuoneen tutkintoihin sosiaalisen median jättien toiminnasta. Euroopan unionin uusi tietosuoja-asetus (GDPR) muistutti henkilötietojen suojaamisesta verkossa.

Mutta muuttuiko käytännössä mikään? Lue lisää

Kuka on tulevaisuuden tutkija?

Mikä jää tutkijan rooliksi, jos koneet jonain päivänä suorittavat suuren osan nyt tutkijalle kuuluvasta työstä?

Tutkija tunnistaa tieteelle – usein myös ihmisille ja yhteiskunnalle – tärkeän aiheen. Aiempaan tutkimukseen perehdyttyään hän keksii yllättävän hypoteesin, jota lähtee kokeilemaan keräämällä massiivisen määrän dataa erilaisista lähteistä.

Työn tulokset ilmestyvät maksumuurien takana vasta noin kahden vuoden päästä. Siksi tutkija lähettää artikkelin luonnoksen heti kollegoille, joille tuloksella on merkitystä.

Keräämiensä tietojen ja vankan kokemuksen perusteella hän toimittaa selkeän tiedotteen tuloksista aihepiiristä kiinnostuneille toimittajille, tiedebloggaajille ja sosiaalisen median yhteisöille.

Jos aihe on päätöksenteon kannalta relevantti, ministeriöön lähtee lisäksi powerpoint-esitys. Siinä tulokset on yleisöä ajatellen kuvattu häkkyrämäisin diagrammein.

Hienoa! Mutta kuka tähän kaikkeen edes kykenee?

Ehkä jonakin päivänä vastaus on: kone.

Lue lisää