Tekoälyn ongelmista ja rajoittuneisuudesta kuulee aina välillä ikäviä esimerkkejä. Oikeudenkäynneissä apuna käytetty tekoäly saattaa suositella mustille herkemmin ja ankarammin rangaistuksia, koska sen kokemuksen mukaan tämä on yleinen linja. Onhan mustia jo tähänkin mennessä tuomittu ankarammin.

Tai työnhakijoiden lajittelussa käytetty tekoäly siirtää naisten lähettämät hakemukset jonon hännille, kun yhtiössä ennenkin on palkattu mieluummin miehiä kuin naisia tietynlaisiin tehtäviin.

Asiat tuntuvat muuttuvan valitettavan hitaasti. OneZero kirjoittaa tutkimuksesta, jota ovat työstäneen Carnegie Mellon- ja George Washington -yliopistojen tutkijat.

Apuna käytettiin tunnettua ImageNet-kuvatietokantaa ja siihen pohjautuvia algoritmeja. Algoritmin pureskeltavaksi annettiin viitteenomaisia kasvokuvia, joita sen piti täydentää puhelimista tutun ennakoivan tekstinsyötön tavoin kokonaisiksi ihmisiksi.

Tulokset ovat aika kylmääviä. Siinä missä mieshahmoilla oli yleensä päällään puku tai jonkinlaiset työvaatteet, naiset algoritmi varusti yleensä bikineillä tai avokaulaisella topilla. Vielä tylympi oli tulos, kun käsiteltäväksi annettiin mustat mieskasvot. Valkoisilla miehillä saattoi algoritmin täydentämissä kuvissa olla käsissään työkaluja, mustalla miehellä oli ase.

”Kun tulokset ovat tällaisia, on syytä olla erittäin varovaisia, jos algoritmeja käytetään jonkinlaisiin valvontasovelluksiin”, tutkimuksessa mukana ollut Ryan Steed varoittaa.