Monille New Yorkin puistoalueille vievien katujen yli kulkee siltoja, jotka ovat huomattavan matalia. Sillat ja kaupungin monet muut 1900-luvun alkupuolikkaan rakennusprojektit ovat lähtöisin saman suunnittelijan, Robert Mosesin kynästä. Sillat eivät ole matalia sattumalta: tarkoituksena on ollut estää bussiliikenne puistoihin ja ylemmän keskiluokan asuinalueille. Tämän tarkoituksena taas on ollut hankaloittaa etnisten vähemmistöjen ja köyhien liikkumista.

Mosesin suunnitteluperiaatteista on kertonut muun muassa Luke Dormehl kirjassaan The Formula, ja ne tuntuvat nykyään pöyristyttäviltä. Tietoinen liikkumisen rajoittaminen taustan tai varallisuuden perusteella on vastoin kaikkia tasa-arvon periaatteita. Vaikka Mosesin toimia sellaisenaan ei enää toistettaisikaan, sama saattaa toistua päivittäisissä verkkopalveluissa.

Kadun tavoin myös kaikkien käyttämä verkko, hakukone tai sosiaalisen median palvelu on päällisin puolin neutraali käyttäjiään palveleva koneisto. Sen ytimessä on silti mustaan laatikkoon sullottu algoritmi, jonka suunnitteluperiaatteet eivät ole avoimia.

Yhä suurempi osa toimintaamme on algoritmien ohjaamaa. Seurustelu- tai panokumppanin haku (Tinder), asunnon hankinta (Oikotie), tv:n katsominen (Netflix), osoitteen löytyminen (Google Maps) ja tilapäismajoituksen hankinta (AirBnB) tapahtuvat kaikki algoritmien avulla. Ja näiden algoritmien yksityiskohdat ja toimintaperiaatteet ovat pitkälti liikesalaisuuksia.

Vaikka hyväksyisimme sen, että algoritminen päätöksenteko on hyväksyttävää kaupallisten yhtiöiden keskenään kilpailevissa ja vapaaehtoisesti käytettävissä palveluissa, täytyy meidän miettiä sen käyttöä julkisissa palveluissa. Vaikkapa sairaaloissa käytettävien laitteiden ja diagnoosimenetelmien algoritmit vaikuttavat elämäämme ratkaisevasti ilman, että meillä on tietoa näiden algoritmien suunnitteluperusteista.

Tammikuussa globaali tietotekniikan tieteellinen yhteisö Association for Computing Machinery (ACM) julkaisi kannanoton (pdf) läpinäkyvien ja vastuullisten algoritmikäytäntöjen puolesta. Kannanotto sisältää seitsenkohtaisen periaatelistan vastuullisesta algoritmisuunnittelusta.

Vaikka ACM:n kannanotto ei velvoita ketään mihinkään, periaatteita ei voi ohittaa olankohautuksella. EU on jo mennyt pidemmälle. Ensi vuodesta alkaen EU:n jäsenvaltiot voivat uuden tietosuojadirektiivin ohjaamina säätää lakeja, jotka antavat kansalaisille oikeuden saada selvityksen algoritmiperustaisesta päätöksestä.

EU:n ja alan ammattilaisten kannanotot ovat hyvä merkki. Ne myös toivottavasti kasvattavat tietoisuutta siitä, että algoritmit ovat inhimillistä, ihmisten määrittämää toimintaa. Toiminnan täytyy olla mahdollisimman avointa. Toimintaa voidaan ja pitää rajoittaa, mikäli se ei kohtele ihmisiä reilusti. Aivan kuten siltojen ali täytyy päästä bussilla.

Kirjoittaja on Yle Areenan palvelupäällikkö, joka on lopettanut kirjoittamisen Mikrobittiin kolme kertaa.