Mustan laatikon ongelma

Autosta on polttoaine lopussa. Onneksi lähimmälle huoltoasemalle on matkaa vain muutama kilometri. GPS ohjaa tosin kääntymään pois valtaväylältä. Tasainen ylämäki muuttuu asfaltista kärrypoluksi ja päätyy kukkulalle. Matkanteko pysähtyy huteraan aitaan jyrkänteen reunalle. Kuski kertoo brittimedialle jälkikäteen, ettei hänellä ollut mitään syytä epäillä navigointilaitteensa antamia ohjeita.

En nyt ihan voi väittää, ettenkö olisi itsekin ollut vastaavanlaisessa tilanteessa, viimeksi lomareissulla Etelä-Euroopassa. Vasta kun kreikkalaisperhe keskeytti työt maatilallaan tullakseen työntämään takapyörät tanakasti ilmassa seisovaa vuokra-autoamme, mietin josko seuraavalla kerralla kelpuuttaisin algoritmin lisäksi myös näköhavaintoni perustaksi suunnistuspäätöksiin.

Matemaatikko ja tietokirjailija Catherine O’Neil on yksi monista, joiden mielestä algormitmeilla on huomattavan suuri ote elämäämme. Pelkästään omia valintoja tarkastellessa on väitettä vaikea sivuuttaa. Netflix-sarjan katsottuani algoritmi suosittelee seuraavaa, johon suurella todennäköisyydellä myös tutustun. Sairastuessani reissussa luotan hakukoneeseen löytääkseni pätevän lääkärin. Ja kun Google listaa artikkelihaun tehtyäni Naturen julkaisun ensimmäisellä sivulla ja saman artikkelin avoimen version vasta neljännellä, on hyvin todennäköistä, etten koskaan löydä jälkimmäistä.

Algoritmitaloudella on hyvät puolensa. Tarvitsemani tieto on useimmiten käden ulottuvilla lajiteltuna tärkeysjärjestykseen. Mutta kun haluan selvittää, kenen tekemään tärkeysjärjestykseen ja millä perusteella tärkeys määritetään, ollaan ongelman ytimessä. Aikana, jona tekoälyalgoritmit vaikuttavat lukuisten digitaalisten työkalujen taustalla, jopa niiden kehittäjien voi olla mahdotonta pilkkoa tulosten taustalla vaikuttavia tekijöitä osiin.

Mustalaatikko-ongelma on ilmeinen syväoppimiseksi kutsutun menetelmän kohdalla, joka on osoittautunut ylivoimaiseksi tiettyjen, tarkkaan rajattujen ongelmien ratkaisussa laskentakapasiteetin ja datan nopean kasvun seurauksena. Tällaisia ongelmia ovat esimerkiksi objektien tunnistaminen kuvista ja tekstin kääntäminen kieleltä toiselle. Löytääkseen vaikkapa kissan kuvasta, koneelle on syötettävä suuri määrä kuvia kissoista. Tämän perusteella algoritmi oppii löytämään kissan suuresta määrästä kuvia ihmissilmää paremmin ja huomattavasti nopeammin.

Netflixin seuraavaan sarjasuositukseen johtaneen kaavan säilyminen mysteerinä ei maailmaa kaada, mutta kun algoritmi ohjelmoidaan asettamaan työnhakijat paremmuusjärjestykseen tai arvioimaan henkilön todennäköisyyttä rikosten uusimiseen, on tilanne toinen. Ongelmatapauksia on ollut esillä lukuisia.

Käyttäjät huomasivat Googlen kuvahaun luokittelevan tummaihoiset ihmiset gorilloiksi. Yritys totesi virheen olleen tahaton ja pyysi tätä anteeksi. Amerikassa oikeuslaitoksen laajalti käyttämä ohjelmisto arvioi tummaihoisten todennäköisyyden uusia rikoksensa kaksinkertaiseksi todelliseen riskiin nähden. Carnegie Mellon yliopiston tekemä tutkimus osoitti, että kovapalkkaisia työtehtäviä mainostettiin todennäköisemmin miehille kuin naisille.

Taloustieteen Nobel-palkinnon työstään saanut Daniel Kahneman havainnollistaa kirjassaan Ajattelu, nopeasti ja hitaasti (Thinking Fast and Slow) ihmisen ajattelumallien ja päätöksenteon taustalla vaikuttavia puutteita ja vinoumia. Yleistämme pienestä evidenssistä. Nappaamme ympäristöstä vahvistusta omille mielipiteillemme puolueettoman tarkastelun sijaan. Kuvittelemme tekevämme päätöksiä rationaalisesti, mutta todellisuus on usein toista. Ajattelumallien taustalla vaikuttavat tekijät eivät anna meistä päätöksentekijöinä järin imartelevaa kuvaa.

Algoritmit yleistävät henkilökohtaiset ajatteluvinoumamme julkisiksi tuloksiksi, päätöksiksi ja suosituksiksi, ellemme kiinnitä asiaan aktiivisesti huomiota. Tässä suunnittelulla ja dataa koskevilla valinnoilla on tärkeä rooli. Mikäli nämä valinnat tehdään huolimattomasti, riskinä on, että vahvistamme tiedostamattamme epätasa-arvoa ylläpitäviä, tai muuten ongelmallisia rakenteita. Eikä ongelma liity ainoastaan huolimattomuuteen. Se, että jokin asia on tilastollisesti totta ei tarkoita, että se on oikein. Sovellus ymmärrettävästi suosittelee pelkästään miehiä johtajapestiin, mikäli johtajat ovat historiallisesti olleet vain miehiä. Tämä ei tarkoita sitä, että tulevaisuudessa haluamme näin olevan.

Reiluuden ja läpinäkyvyyden varmistaminen ovat tekoälyn isoja haasteita, joita ei ratkaista pelkästään avointa dataa ja koodia koskevia lakeja säätämällä. Lisäksi tarvitaan käytäntöjä ja työkaluja, joiden avulla arvoista tulee osa arkea. Tästä hyvänä esimerkkinä on MyData, joka auttaa ihmisiä ottamaan haltuun ja hyödyntämään koneiden keräämän, itseään koskevan datan.

Niin ja tarvitaan erityisesti* niitä ihmisiä, jotka ymmärtävät, mitä algoritmien tuottamista tuloksista voidaan päätellä, ja vielä tärkeämpää, mitä niistä ei voida päätellä. Lopulta opimme tunnistamaan ehkä myös ne tilanteet, joissa on syytä luottaa omiin aistihavaintoihin navigaattorin suositusten sijaan.

Julkaistu Tivi Pro –lehdessä 1.11.20;18

Related posts:

Small businesses have to overcome many obstacles on their path to transform into bigger organizations. However, in this digital age, you can conquer these obstacles by using technology. Technology…

Robin Colucci is a book writing coach. If you are thinking of writing a non-fiction book to advance your career, Robin is someone who would help you think through the strategy of the book to increase…

Things were looking bleak for thousands of Long Island senior citizens in November. The island saw its main contract with the Commodity Supplemental Food Program end, leaving a void in resources for…