Jono vie kulunvalvontalaitteelle. Työnnät laitteeseen henkilökorttisi, ja laite ilmoittaa algoritmin perusteella sinulle numeron. Numero kertoo, mihin huoneeseen on mentävä. Huoneessa 1 on juhlaillallinen: ostereita, kaviaaria,shampanjaa ja muita herkkuja. Huoneessa 2 tarjoillaan makaronilaatikkoa ketsupilla. Huoneessa 3 pöydällä on pieni kori, jossa on näkkileivän paloja sekä kannu rusehtavaa vettä.

Kulunvalvontalaite skannaa koodin henkilökortistasi ja joudut huoneeseen kolme. Paras kaverisi pääsee huoneeseen yksi. Millä perusteella valinta tehtiin? Miksi sinä sait lyhyemmän korren?

Algoritmit tekevät jo nyt päätöksiä puolestamme. Ne luokittelevat meitä erilaisiin ryhmiin melko yksinkertaistenkin mallien perusteella. Amazon suosittelee sinulle kirjoja ostohistoriasi perusteella ja Netflix elokuvia katseluhistoriasi perusteella.

Parhaimmillaan algoritmit helpottavat elämäämme, mutta ongelmallisia niistä tulee, kun mallit, joiden perusteella ne laskevat tuloksia ja ennusteita, vääristävät totuutta.

Algoritmeista on tullut nykyajan vallan portteja, joten on äärimmäisen olennaista, minkälaisiin valintoihin niiden toiminta perustuu.

Matemaatikko Cathy O’Neil kutsuu vääristyneitä algoritmeja matikkatuhoaseiksi (Weapons of Math Destruction) samannimisessä kirjassaan. Hänen mielestään algoritmit toteuttavat vaarallisimmillaan mallintajiensa väärin painottuneita tavoitteita ja maailmankuvaa sekä syrjivät tiettyjä ihmisryhmiä. O’Neill kiteyttää algoritmimatikkatuhoaseiden ominaisuudet kolmeen sanaan: läpinäkymättömyys, mittakaava ja tuho.

Moni algoritmi on jo vääristänyt maailmaamme, O’Neil sanoo. Predpol on sovellus, jota käytetään rikosten ehkäisyyn. Historiatiedon perusteella se laskee poliiseille alueet, joissa rikokset voivat seuraavaksi tapahtua. Poliisit ohjataan tyypillisesti köyhien alueille, joissa pienimpiäkin rikoksia tekevät köyhät jäävät poliisin haaviin. Tämä taas kannustaa ennustavaa algortimia ohjaamaan virkavallan seuraavankin kerran köyhälle alueelle.

Pidetty opettaja menetti Yhdysvalloissa työpaikkansa, koska oli opettajien taitoja arvioivan Impact-menetelmän algoritmin mukaan huono opettaja. Vaikka koulun rehtori ja vanhemmat pitivät opettajaa erittäin hyvänä kasvattajana, ei algoritmin tulosta voinut kyseenalaistaa.

Algoritmeja käytetään myös mainosohjelmissa, jotka keräävät tietoa ihmisistä netissä, pyrkivät löytämään heidän heikot kohtansa ja iskevät sitten niihin dollarin kuvat silmissään.

Ikävimmillään algoritmit saavat ihmiset vääristelemään totuutta: Yhdysvalloissa yliopistojen menestyksellisyyttä mittaava algoritmi sai jotkut koulut vääristelemään tuloksiaan, jotta ne näyttäisivät algoritimin mielestä paremmilta.

On tärkeä ymmärtää algoritmien uhat ja mahdollisuudet tulevaisuudessa. Ennen kaikkea on tärkeää ymmärtää, O’Neilin sanojen mukaan, että algoritmit ovat pahimmillaan koodiksi muokattuja mielipiteitä.

Algoritmien maailmassa tarvitaan entistä enemmän keskustelua etiikasta.

Kirjoittaja on futuristi.