Tekoälyalgoritmeista kaavaillaan ratkaisua moneen sellaiseen ongelmaan, jossa päätöksenteko vaikuttaa henkilön elämään merkittävästi. Vaikka tekoälyn käyttö saattaa nopeuttaa päätöksentekoa, aiheuttaa algoritmien puolueellisuus ongelmia.

Guardian kirjoittaa, kuinka brittiläinen tekoälyekspertti Noel Sharkey vaatii päätöksentekoalgoritmeille samanlaista suuren mittakaavan testausta kuin uusille lääkkeille.

Sheffieldin yliopiston professorina toimiva Sharkey sanoo, että kaikkien ihmisten elämään vaikuttavien algoritmien käyttöönottoa tulisi lykätä. Sharkey on aiemmin tullut tunnetuksi muun muassa robottisotilaiden vastustajana.

Erityisen huolissaan professori on algoritmeista, joita kehitetään työhaastatteluihin, sosiaalitukipäätöksiin ja vankiloihin. Hänen mukaansa kasvojentunnistusalgoritmit eivät osaa tunnistaa tummaihoisia ihmisiä yhtä tehokkaasti kuin valkoihoisia. Tästä syystä algoritmiin muodostuu hänen mukaansa rasistinen painotus.