Kirjallisuutta: Miten säilyttää äly älymaailmassa
Gerd Gigerenzer: Miten säilyttää äly älymaailmassa. Terra Cognita 2022, 319 s.
Jos olet hyvin perillä siitä, mitä tekoäly on ja mihin se pystyy, niin tämä kirja sinun kannattaa ehdottomasti lukea. Jos et ole perillä tekoälystä, niin kirja sopii sinulle ehkä vielä paremmin. Kirja on kirjoitettu tavalliselle ihmiselle eikä sen lukeminen vaadi ennakkotietoja. Sen näkökulma ei ole ensisijaisesti tavanomaisen tekninen, vaan ihmislähtöinen, humanistinen, jopa rauhoittava. Sitä kuvaa hyvin kirjan lisänimike ”Miksi ihmisäly voittaa edelleen algoritmit”.
Kirjoittaja on koulutukseltaan psykologi. Hän tietää, mistä puhuu, sillä hän on toiminut professorina useissa yliopistoissa Saksassa, Itävallassa ja Yhdysvalloissa, viimeksi Max Planck -instituutin Mukautuvan käyttäytymisen ja tajunnan keskuksen johtajana. Hänen erikoisalaansa on päätöksenteko, mihin hän on kouluttanut erityisesti tuomareita, lääkäreitä ja huippujohtajia.
Kirjalla on selvä sanoma: ”on rakennettava digitaalinen maailma, jossa haluamme elää”. Näkökulmaa voi luonnehtia jopa poleemiseksi. Tekijä kertoo konkreettisia esimerkkejä tietoverkoissa ja sosiaalisessa mediassa esiintyvästä salailusta, misinformaatiosta, addiktiomenetelmistä sekä kaupallisesta ja hallinnollisesta valvonnasta. Keskeinen teema on kuitenkin tekoälyn ja ihmisälyn vahvuuksien vertailu.
Tekoäly rakentuu kompleksista algoritmeista. Niihin luotetaan laajalti ja ehdottomasti. Uskoa pyrkivät vahvistamaan teknologiayritysten edustajat, jotka vakuuttavat, että tekoäly työskentelee täsmällisemmin, nopeammin ja halvemmalla kuin ihminen. Palveluja käyttävät mainostajat, vakuutusyhtiöt, vähittäiskauppa, pankkien luottoluokittajat, (äly)rakennusteollisuus, julkinen terveydenhoito ja turvallisuusviranomaiset. Perusteluna tekoälyn ylivoimaisuudelle ihmiseen verrattuna käytetään esimerkiksi sitä, että tekoäly on voittanut ihmisen šakissa ja go-pelissä.
Tekoäly onkin ylivoimainen, kun toimitaan täsmällisten sääntöjen mukaan tai hyvin määritellyissä tilanteissa, vakaassa maailmassa. Sen sijaan epävarmuus tai uudet tilanteet saattavat osoittautua nykyiselle tekoälylle ylitsepääsemättömiksi, vaikka ihmisäly selviääkin niistä. Tekijä käsittelee esimerkkeinä muiden muassa itseohjautuvaa autoa, deittisivustoja ja hahmontunnistusta.
Deittipalvelut ovat kuvaava esimerkki siitä, millaisilla iskulauseilla maksavat asiakkaat saadaan mukaan, esimerkiksi ”joka 11. minuutti yksi sinkku rakastuu”. Millaiset mahdollisuudet sinulla on onnistua, jos palvelulla on useita miljoonia käyttäjiä eikä ole varmuutta, että toinen sinkku rakastuu sinuun? Aina toinen osapuoli ei ole edes ihminen, esimerkkinä deittipalvelu, joka naispuolisten käyttäjien puutteessa otti käyttöön 70 000 naispuolisiksi esittäytynyttä tekoälyä, bottia. Ilmiön kuvailuun ja analysoimiseen tekijä käyttää koko ensimmäisen luvun.
Kasvojentunnistuksessa tekoäly menestyy hyvin. Sitä käytetään henkilöllisyyden varmistamiseen rajavalvonnassa, älypuhelimen avaamisessa, pankkiautomaatilla, hotelliin kirjautumisessa jne. Siinä se toimiikin hyvin. Esimerkiksi eräässä kokeessa Googlen automaattinen kasvontunnistusjärjestelmä onnistui päättelemään yli 99 prosentissa tapauksista, esittävätkö kaksi kuvaa samaa henkilöä, mikä on samaa luokkaa kuin mihin ihminen pystyy.
Kasvojentunnistusta on pyritty käyttämään myös joukkoseulonnassa ja ehkäisevässä poliisityössä. Siinä tekoäly ei pärjääkään. Poliisi seuloi esimerkiksi 170 000 katsojaa UEFAn Mestareiden liigan loppuottelun yhteydessä vertaamalla heidän kasvokuviaan puolen miljoonan kuvan rikollistietokantaan. Järjestelmä antoi 2470 osumaa. Näistä oli virheellisiä 2297 eli 93 prosenttia. Vastaavasti, kun Yhdysvaltain kongressin 535 edustajan kuvia verrattiin rikollisten kuviin, saatiin 28 osumaa, kaikki vääriä. Räikeimmässä esimerkissä tekoäly luokitteli tummaihoisen pariskunnan gorilloiksi. Algoritmia ei korjattu sen kummemmin, vaan poistettiin vain ”gorilla” tulosvaihtoehtojen luettelosta.
Myös itseohjautuvan auton kohdalla ollaan kaukana todellisesta itseohjautuvuudesta. Autoinsinöörien seura (Society of Automotive Engineers) määrittelee viisi automaation tasoa, joista korkein edustaa itsenäiseen ajamiseen pystyvää autoa. Valmistajien markkinointipuheista huolimatta ollaan tällä hetkellä todellisuudessa vasta tasolla 2, jolla automaatio vasta tukee ihmisajajaa.
Tekoälyn parhaat kyvyt perustuvat syviin neuroverkkoihin ja koneoppiviin algoritmeihin. Niille ei anneta sääntöjä, joiden perusteella oikea ratkaisu tehdään, vaan järjestelmä muodostaa säännöt itse. Niinpä edes järjestelmän laatijat eivät aina tunne ratkaisujen perusteluja. Sääntöjen muodostamisessa järjestelmä voikin harhautua pahasti. Esimerkkinä tällaisesta kerrotaan Yhdysvaltain armeijan yrityksestä opettaa tekoäly erottamaan venäläiset tankit yhdysvaltalaisista. Verkko opetettiin puolella laajasta kuva-aineistosta ja testattiin toisella puolella. Se suoriutui testistä loistavasti sadan prosentin tarkkuudella. Kunnes huomattiin, että verkko erotteli kuvat taivaan perustella, sillä yhdysvaltalaiset tankit oli kuvattu aurinkoisina päivinä ja venäläiset pilvisinä. Tekoälyprojektien suurin ongelma onkin usein oppimisaineiston vinoutuneisuus. Tämä on näkynyt myös esimerkiksi sekä oikeustuomioiden että työhakemusten automaattisessa käsittelyssä.
Suurin osa nykyisestä tekoälystä on tekijän mukaan kaupallista tai sotilaallista eikä tieteellistä. Vaikka periaatteessa pyritään luomaan järjestelmiä, jotka hyödyttävät yhteiskuntaa ja sen tavallisia jäseniä, niin kaupalliset intressit saattavat syrjäyttää hyvän tarkoituksen. Tästä ovat esimerkkeinä Iso-Britannian ja Yhdysvaltojen kansanterveysjärjestelmähankkeet tämän vuosituhannen alussa. Niiden arvioitiin tuovan kummassakin maassa kymmenien miljardien säästöt vuosittain. Hyvä ajatus ei kuitenkaan toteutunut intressiristiriitojen takia. Kustannukset kasvoivat, koska järjestelmä suositti lääkäri- ja laboratoriolaskujen kasvattamiseksi enemmän uusia tutkimuksia kuin ihmislääkärit olisivat pitäneet tarpeellisina. Vastaavasti ohjelmistoyritykset pyrkivät käyttämään valtion tukiaisia omien järjestelmiensä rakentamiseen ja laskutuksen kasvattamiseen potilaiden hoidon parantamisen asemesta. Tekoälyprojektien toteutus ei siis aina jää kiinni varsinaisesti tekoälystä, vaan aggressiivisen markkinoinnin luomista katteettomista lupauksista.
Kirjan suurin anti on vaihtoehtoisen näkökulman esittelemisessä. Sitä tekijä nimittää psykologiseksi tekoälyksi. Sen malli on ihmisen älyllisessä toiminnassa. Tietokoneelle opetetaan, miten asiantuntijat ratkaisevat ongelman. He eivät hae useinkaan parasta, vaan vain tyydyttävää ratkaisua ja perustavat päätöksensä lyhyisiin päätösluetteloihin. Näiden erityisenä etuna on se, että päätöksen perustelut ovat kaikkien nähtävissä. Päätöksenteko on siis läpinäkyvää toisin kuin syvän neuroverkon mustan laatikon tapauksessa.
Kuvaava esimerkki ovat Yhdysvaltain presidentinvaalit vuonna 2016. Kyselyt, vaalimarkkinat ja suuraineistoanalyysit olivat ennustaneet selvää voittoa Hillary Clintonille. Vastakkaisen ennusteen teki historian professori Alan Lichtman kolmetoistakohtaisen päätösluettelonsa – algoritmin – perusteella. Eikä hän onnistunut ennustamaan vain tämän vaalin tulosta, vaan hän oli ennustanut oikein kaikkien presidentinvaalien tulokset vuodesta 1984 lähtien. Huomionarvoista on, että osa hänen säännöistään ei edellyttänyt minkäänlaista arviointikykyä, vaan vain vaaleja edeltävän tilanteen toteamista.
Kirjassa on paljon muitakin esimerkkejä siitä, että läpinäkyvät, muutamasta säännöstä tai piirteestä – jopa yhdestä! – koostuvat päätöslistat tuottavat epävarmuuden vallitessa vähintään yhtä täsmääviä ennusteita kuin suuraineistoihin perustuvat syvien neuroverkkojen ennusteet. Erityisesti hätätilanteissa päätösluetteloista on suuri hyöty, kun ne nopeuttavat ammattilaistenkin päätöksentekoa. Tämä nakertaa perusteetonta uskoa siihen, että kompleksinen ongelma edellyttää aina kompleksista ratkaisua ja että täsmäävimmät algoritmit ovat väistämättä luonteeltaan käsittämättömiä.
Kirjan neljässä viimeisessä luvussa yhdestätoista tekijä paneutuu siihen, miten digitalisoituminen muuttaa ja on jo muuttanut asenteitamme ja käyttäytymistämme. Teknologiayritysten algoritmit keräävät tietoja, joiden perusteella luodaan yksilöllisiä profiileja ja toteutetaan kohdennettua taloudellista tai poliittista markkinointia. Tietojen kerääminen on miljardibisnestä. Helpoin tapa luopua yksityisyydestään on hyväksyä aina kaikki evästeet tai kirjautua sivustoille, joista haluaa etsiä tietoja. Monet ovat jo alistuneet tähän ja hyväksyvät kaikki evästeet. Yksityisyysparadoksina voidaan pitää sitä, että ihmiset ovat huolissaan yksityisyydestään, mutta eivät ole valmiit maksamaan sen suojaamisesta. Näennäisesti ilmaisten palvelujen käyttäjät eivät maksa niistä rahalla, vaan yksityisyydellään. Myös sosiaalisessa mediassa klikatut tykkäykset kertovat käyttäjän ajattelutavasta ja mieltymyksistä. Puhumattakaan siitä, että monet julkaisevat yksityisiä tietojaan sosiaalisessa mediassa omasta halustaan.
Tästä seuraavaa tekoälyn kaikkitietävyyttä tekijä nimittää valvontakapitalismiksi, eniten siitä syystä, että motiivina on taloudellisten etujen saavuttaminen. Teknologiayritysten todellisia asiakkaita eivät nimittäin ole internetiä käyttävät tavalliset ihmiset, vaan mainostajat, jotka maksavat kootuista tiedoista. Älymaailma luo erinomaiset mahdollisuudet myös kansalaisten valvontaan. Yhdysvalloissa on asennettu noin 15 videokuvaa tallentavaa valvontakameraa sataa asiakasta kohti, Kiinassa vähän vähemmän, vaikka siellä kansalaisten valvonta on järjestelmällistä ja julkista, mitä se ei länsimaissa ole. Tietoja keräävät käyttäjän tietämättä myös monet kodin älylaitteet: älypuhelimet, -televisiot, -jääkaapit jms.
Kirjoittaja käsittelee myös tarkoituksellista käyttäytymisen ja tunteiden manipulointia: mis- ja disinformaatiota. Faktantarkistus on uusi toimiala. Se on syntynyt vastavetona muunnellun totuuden esittämiselle. Toiminta on nykyään niin yleistä ja merkittävää, että on nimetty kansainvälinen faktantarkistuspäivä. Se on ironisesti aprillipäivän jälkeinen päivä 2.4. Suomalainen faktantarkistustoteutus on verkossa toimiva, kaikille avoin Faktabaari. Suomi mainitaan kirjassa muutenkin digitaalisen viisauden esimerkkimaana.
Kirja on mielenkiintoista, jopa jännittävää luettavaa. Runsaat konkreettiset esimerkit valottavat digitaalista ympäristöämme hyvässä ja pahassa tavalla, joka ei ole tavanomaista tekoälykirjoissa. Tekstiin sisältyy myös neuvoja siitä, miten kuka tahansa meistä voi toimia älykkäästi yhä laajenevassa ja monimutkaistuvassa digitaalisessa ympäristössä. Lähdeluettelo on vakuuttava, noin 350 lähdettä. Lähdeviitteitä on kuutisen sataa, osa selittäviä. Ainoa kohta, johon olisin toivonut perusteellisempaa työtä, on asiahakemisto. Nyt siinä on vajaat 500 asiasanaa, vaikka asioita on paljon enemmän. Tämä ei ole vakava puute, sillä teos on paremminkin kiinnostava lukukirja kuin hakuteos.
