Viime vuoden syyskuussa jotkin Twitter-käyttäjät huomasivat automaattisen rajaamisen toimivan erikoisesti. Jaettaessa kuvaa, jossa esiintyy tumma- ja valkoihoinen henkilö, ominaisuus rajasi usein tummaihoisen pois, Yehi Web kertoo. Yhtiö kertoi silloin tutkineensa algoritmia ennen sen julkaisemista eikä löytänyt siitä mitään tämänkaltaisia ongelmia.

Twitterin ohjelmistotuotannon johtaja Rumman Chowduryn mukaan käyttäjät olivat kuitenkin oikeassa. Automaattisen rajauksen takana oleva algoritmi kohtelee ihmisten kuvia eri tavalla demografisten erojen perusteella, Chowdury kertoo.

Twitterin tutkijat havaitsivat, että rajaustyökalu valitsi valkoihoisen ihmisen 7 prosenttia useammin kuin tummaihoisen. Twitter aloittikin kokeilun, jossa käyttäjät voivat itse päättää miten kuvat rajataan.

Rajaustyökalu kehitettiin alunperin, jotta käyttäjät voivat nähdä pienen esikatselun kuvasta aikajanaa selatessaan. Kokonaisen kuvan voi nähdä klikkaamalla rajatun kuvan keskustaa.

Työkalu tuli käyttöön vuonna 2018 ja sen tarkoituksena oli maksimoida aikajanalle mahtuvien kuvien määrä. Yhtiö kehittikin algoritmin, joka yrittää ennustaa mitä ihmiset haluavat nähdä ensimmäisenä kuvassa. Algoritmin luomiseen käytettiin dataa. katseenseurantatutkimuksesta.