Kone ei tiedä, mitä on olla ihminen
Otava 2019.
Ian McEwan käsittelee ihmisen ja tekoälyn yhteentörmäyksiä.
Brittikirjallisuuden kärkihahmo Ian McEwan tarkastelee romaaneissaan ihmiselämän haurautta. Hänen toistuva aiheensa on arkisen yhteentörmäys poikkeukselliseen ja sovinnaisen epäsovinnaiseen. Usein kysymys on väärintulkinnoista tai ihmisten erilaisista todellisuuskäsityksistä. Ne johtavat moraalisiin ongelmatilanteisiin, jotka määrittelevät ihmisen elämää ennakoimattomalla tavalla.
Kaltaiseni koneet on kertomus siitä, miten tekoäly muuttaa ihmisen elämää, ja millaisia moraalisia haasteita se tuo mukanaan. McEwanin tarinan ytimessä on pieni mutta sattumanvarainen muutos todellisessa historiankulussa. Sen sijaan että matemaatikko Alan Turing olisi riistänyt hengen itseltään vuonna 1954, hän valitsikin toisin. Eloonjäänyt Turing pystyi keskittymään uraauurtavaan tutkimustyöhönsä, mikä johti tärkeän ohjelmointiteoreettisen P vs. NP -ongelman ratkaisuun. Tämä mahdollisti ennennäkemättömän algoritmisen kehityksen.
Turingin tieteellisen työn seuraukset näyttäytyvät kirjassa kahdella tasolla. Yhtäältä ne vaikuttavat yksilöiden elämänpiiriin, sillä algoritmien tehostuminen mahdollistaa ihmistä simuloivan koneen synnyttämisen. Niiden tulo markkinoille mullistaa yksilöiden elämän ja on tarinan lähtökohta.
Kertoja Charlie ostaa perintörahoillaan koneen, Aatamin, joka on kuin ihminen samanlaisine kokemusmaailmoineen ja anatomisine yksityiskohtineen. Kirjan kantava teema on Charlien ja Aatamin välinen suhde. Miten älykkään, tunteita simuloivan koneen ja ihmisen vuorovaikutus toimii? Entä miten koneiden läsnäolo vaikuttaa ihmisten keskinäiseen vuorovaikutukseen?
Tarinaa kehystää Charlien rakkaussuhde yläkerran naapuriin Mirandaan. Näiden kahden ja Aatamin välille muodostuu kolmiodraama, joka synnyttää inhimillisten valintojen ja ohjelmoitujen sääntöjen välisen ristiaallokon. Ongelmaa peilataan Charlien kokemusten kautta. Miten olla mustasukkainen koneelle, jonka on itse konfiguroinut?
Draama-aineksen lisäksi McEwanin tarinalla on moraalinen ulottuvuus. Miranda on aikaisemmassa elämässään kostanut hirvittävän rikoksen omalla laittomalla teollaan. Vaikka lukijalle on selvää, että Mirandan teko on moraalisesti oikeutettu, Aatami ei kykene ymmärtämään asiaa, sillä hänen tehdasasetuksiinsa kuuluu lain noudattaminen ja totuuden vaaliminen. Kontekstisidonnainen moraali, joka toisinaan oikeuttaa valehtelun ja laittomuuden, ei mitenkään taivu Aatamin maailmankuvaan. Tämä johtaa Aatamin reagoimaan tavalla, jota Charlie ei voi hyväksyä ja johtaa kysymykseen, olisiko Aatami pitänyt ohjelmoida jotenkin toisin. Mutta miten?
Henkilöjuonen lisäksi McEwan hahmottelee vaihtoehtoisen yhteiskunnallisen kehityskaaren, joka on kytköksissä todelliseen historiaan mutta johon on vaikuttanut Alan Turingin eloonjäämisen vinouma. Kuten Ray Bradburyn novellissa Ukkosen jyrähdys, tämä pieni historian nyrjähdys aiheuttaa valtaisan muutoksen nykyhetkeen.
Perhosefekti konkretisoituu Falklandin sodan kehityskulussa. Todellisuudessa sota päättyi Ison-Britannian voittoisaan maihinnousuun Falklandin saarille, mutta kirjassa hyökkäys epäonnistuu Argentiinan uusien koneoppimista hyödyntävien aseteknologioiden ansiosta. Tämä johtaa pääministeri Thatcherin eroon ja poliittiseen kriisiin. Yhteiskunnan epävakaus eskaloituu teknologisen ja sosiaalisen polarisaation takia. Suuri osa ihmisistä ei enää kykene tarjoamaan markkinoille mitään, mitä koneet eivät tekisi paremmin ja edullisemmin. McEwanin koneethan ovat voimakkaampia ja älykkäämpiä kuin kukaan työntekijä, ja ne myös läpäisevät Turingin testin; konetta on vuorovaikutuksessa mahdotonta erottaa ihmisestä.
McEwanin teos on mielenkiintoinen ajatuskoe vaihtoehtoisesta historiankulusta. Oleellista ei ole kuvatun teknologisen harppauksen realistisuus vaan se, millaisia eettisiä ja yhteiskunnallisia ongelmia syntyy ihmisen ja tekoälyn yhteentörmäyksessä. Vaikka McEwanin androidi poikkeaa olemukseltaan oikeista viimeaikaisista tekoälyn sovelluksista, perusongelmat ovat samankaltaisia.
Kirjan opetus – jos sellaisen haluaa löytää – on mielestäni pohdiskelu ihmisyydestä. Näennäisestä samankaltaisuudestaan huolimatta kone ei ole inhimillinen siitä yksinkertaisesta syystä, että sillä ei ole kokemusta ihmisenä olemisesta. Se ei tiedä mitä on olla ihminen. Tätä ei riitä korvaamaan kirjallisuuden, taiteen ja runouden tuntemus tai kyky jäljitellä inhimillisiä reaktioita. Ilman kokemuksellisuutta kauneinkaan taide ei lopulta merkitse mitään ja ilman merkityksen kokemusta reaktiot eivät ole koskettavia. Niihin ei voi eläytyä. Aatamin kirjoittamat haikutkin ovat ihmisen korvaan kömpelöitä ja poseeraavia ja jo moneen kertaan kuultuja.
Samasta syystä Aatamin ei ole mahdollista havainnoida sosiaalisia normeja tai ymmärtää epätriviaalia kommunikaatiota, esimerkiksi ironiaa, mikä on ihmiselle luontaista. Tämä näyttäytyy Aatamin kyvyttömyytenä tunnistaa moraalin ja lain ero. Jälkimmäinen on kuin algoritmi, joka toimii määrätyllä tavalla määritellyissä olosuhteissa, ja on siksi luontainen operointiympäristö myös Aatamille. Sen sijaan sosiaaliset normit, jotka ovat hankalasti määriteltäviä mutta tunnistettavia ihmisille, eivät kunnolla avaudu hänelle.
Kyse on siitä, että kone ei pohjimmiltaan tunne empatiaa. Sillä ei ole eikä voi olla ymmärrystä, että kanssaihmiset kokevat asiat suurin piirtein samalla tavoin kuin itse (paitsi tietysti koneiden yhteisössä). Empatian takia sosiaalinen vuorovaikutus ei palaudu jäännöksettömästi yksilöihin tai heitä määrittäviin algoritmeihin. Yhteisö on enemmän kuin osiensa summa. Samasta syystä etukäteisellä moraalikoodilla varustetun androidin istuttaminen ihmisyhteisöön johtaa vääjäämättä väärinkäsityksiin ja valintoihin, jotka tuntuvat ihmisestä käsittämättömiltä ja epäeettisiltä.
Toinen McEwanin tärkeä huomio on, että teknologinen kehitys on herkkää yksityiskohdille. Yksittäinen keksintö – tai sen puute – voi muuttaa ratkaisevasti historian kulkua. On pelottavaa ajatella, kuinka paljon kehitystä on jäänyt toteutumatta siksi, että oikeat ihmiset eivät ole olleet oikeaan aikaan edistämässä sitä. Siksi myös teknologisen kehityksen tulevaisuutta on vaikeaa ennakoida.
