Massachusettsissa sijaitseva huippuyliopisto MIT on poistanut käytöstä tietokannan, joka mahdollisesti opetti tekoälyjärjestelmiä kuvailemaan ihmisiä rasistisilla, seksistisillä ja muilla ongelmallisilla termeillä, kertoo The Register.

Tietokanta hylättiin kesäkuun lopussa The Registerin ilmoitettua yliopistolle aiheesta. MIT pyysi myös tutkijoita ja kehittäjiä lopettamaan tietokannan käyttäminen ja poistamaan kaikki kopiot. Nimettömänä esiintyvä yliopiston professori kertoi The Registerille MIT:n pyytävän anteeksi virhettään.

Yliopiston rakentamaa opetusjärjestelmää on käytetty kouluttamaan koneoppimista käyttäviä malleja tunnistamaan automaattisesti ja listaamaan kuvissa olevat ihmiset ja esineet. Esimerkiksi jos sille näyttäisi kuvan puistosta se saattaisi kertoa lapsista, aikuisista lemmikeistä ruohosta ja puista.

MIT:n lähestymistavan takia järjestelmä saattaa kategorisoida naisia seksistisillä sanoilla ja etnisiä vähemmistöjä rasistisilla sanoilla. Tietokannan avulla koulutettuja tekoälyjä käyttävät sovellukset, nettisivustot ja muut tuotteet saattavat käyttää näitä termejä analysoidessaan kuvia ja videoita.

Kyseessä oleva tietokanta on ”80 Million Tiny Images”, joka luotiin vuonna 2008. Sen tarkoituksena oli luoda edistyneitä esineentunnistustekniikoita. Tietokanta on kokoelma monista kuvista, joista kerrotaan mitä niissä on. Sitä voidaan käyttää syötteenä tekoälyille, jotka oppivat tunnistamaan esineet.