No niin, nyt se alkaa, ajatteli moni, kun näki uutisen riehaantuneista boteista, jotka Facebook oli joutunut hätäpäissään sulkemaan.

Koneiden kapina. Skynetin syntyminen. Ihmiskunnan tuomiopäivä.

Me kuollaan kaikki.

Uutisissa kerrottiin, että FB sulki yhden tekoälyjärjestelmistään, kun chattibotit alkoivat kommunikoida keskenään omalla kielellään ja torjuivat muut komennot. Lopulta tutkijat sammuttivat järjestelmän ja pakottivat koneet käyttämään jälleen englantia.

Tapaus sattui Facebook AI Research Labin (FAIR) tutkimuksissa viime kesäkuussa. Tavoitteena oli kehittää ”dialogiagenttien” keskustelutaitoja koneoppimisen toimintamenetelmillä antamalla bottien jutella keskenään. Kun ryhdyin selvittämään hankkeen taustoja tarkemmin, paljastuikin mielenkiintoinen tutkimusprojekti.

FAIR-tutkijoiden tekninen innovaatio on keskustelun aukipurku, jossa neuvottelemaan kehitetyt chattibotit jakavat eri vaihtoehdot osiin, simuloivat erilaisia skenaarioita ja pisteyttävät lopputulemat. FB:n mukaan vastaavia ideoita on käytetty peliympäristöissä mutta niitä ei ole ennen sovellettu kieleen, jossa mahdollisten vaihtoehtojen määrä on paljon suurempi.

Kahdelle dialogiagentille voidaan esimerkiksi näyttää kokoelma esineitä – vaikkapa kaksi kirjaa, yksi hattu ja kolme palloa. Botteja ohjeistetaan neuvottelemaan esineiden jakamisesta. Molemmille boteille on määritelty kunkin esineen arvo eli kuinka paljon botti ”välittää” siitä. Kumpikaan ei tiedä, miten toinen arvottaa esineitä vaan joutuu päättelemään sen.

Ihmiselle on tyypillistä, että neuvottelut voivat jäädä ratkaisematta, kun jompikumpi osapuoli lähtee ovet paukkuen pihalle. Botit sen sijaan neuvottelevat, kunnes lopputulos saa parhaan mahdollisen pisteytyksen.

Voisikohan tätä koneiden kärsivällisyyttä hyödyntää vielä joskus maailmanpolitiikassa ja rauhanneuvotteluissakin? Siis sen sijaan, että aina peloteltaisiin tekoälyn aloittamalla ydinsodalla ja ihmiskunnan tuholla?

Uutiset oman kielensä keksineistä boteista osoittautuivat – yllätys, yllätys – hieman liioitelluiksi. Jäljitin alkuperäisen ”uutisen” Fast Company -nimisen suunnittelufirman nettisivuille. Yrityksen sivuille kirjoittava kolumnisti oli haastatellut FAIR:n tutkijoita, jotka kertoivat hänelle tapauksesta.

Maailmalle levinneissä uutisissa kolumnistin anekdootit kasvoivat apokalyptisiin mittoihin. Uutisten mukaan ”asiat riistäytyivät käsistä”, ja muun muassa Tech Times kirjoitti, että ”järjestelmä suljettiin, ennen kuin se kehittyi Skynetiksi”.

Mitä botit sitten juttelivat ”omalla kielellään”? Kolumnistin mukaan tällaisia:

Bob-botti: ”i can i i everything else.”

Alice-botti: ”balls have zero to me to me to me to me to me to me to me to me to.”

Bob: ”you i everything else.”

Alice: ”balls have a ball to me to me to me to me to me to me.”

Vaarallisuudessaan tilanne on samaa luokkaa kuin jos robotti-imuri jää nylkyttämään jumiin nurkkaan ja se pitää nostaa takaisin matolle.

Julkaistu lehdessä Mikrobitti 9/2017. Kirjoittaja on koneita ja nappuloita rakastava viestinnän asiantuntija.