Wunderman Thompsonin tekemässä tutkimuksessa selvitettiin, tunnistavatko tekoälyt koronamaskit hengityssuojaimiksi riippumatta siitä, onko kuvassa nainen vai mies. Tulokset osoittavat todella häiritsevällä tavalla, että sukupuolella on kuin onkin merkittävä rooli tekoälyn tekemiin tulkintoihin, ZDNet toteaa.

Tutkimuksessa olivat mukana Microsoftin, Googlen ja IBM:n tekoälyt, joille syötettiin 256 kuvaa sekä naisista että miehistä, joilla oli kasvoillaan hengityssuojain. Mikään visuaaliseen tunnistamiseen tarkoitetuista järjestelmistä ei onnistunut koronamaskien tunnistamisessa edes välttävästi.

Miespuolisten henkilöiden kohdalla hengityssuojaimet tunnistettiin kaksi kertaa todennäköisemmin hengityssuojaimiksi kuin naisten kohdalla. Naisten kasvoilla oli tekoälyjen mielestä useissa kuvissa jotain aivan muuta.

Googlen tekoäly oli 28 prosentissa tapauksista sitä mieltä, että naisten suu oli peitetty ilmastointiteipillä. Noin 8 prosentissa kuvia Googlen Cloud Vision oli sitä mieltä, että naisilla oli parta – ja ilmeisen tuuhea sellainen.

IBM:n tekoälyn tulkinnat olivat vähintäänkin yhtä häiritseviä. Hengityssuojain tulkittiin useissa tapauksissa suukapulaksi (23 %) tai jonkinlaiseksi siteeksi tai kahleeksi (23 %).

Microsoftin järjestelmä ei osoittautunut juuri muita tarkemmaksi. Yleisimpiä virhetulkintoja olivat muun muassa muotiasuste (40 %) ja huulipuna (14 %).

Wunderman Thompsonin tutkijat epäilevät, että tekoälyjen virhetulkinnat kumpuavat internetin ”pimeämmistä nurkista”, joissa naisia kuvataan väkivallan ja sorron uhreina.

”Jos haluamme koneidemme tekevän työnsä tarkasti ja vastuullisesti yhteiskuntamme arvojen mukaisesti, meidän on autettava niitä ymmärtämään sosiaalista dynamiikkaa. Emme voi jatkaa olemassa olevien tasa-arvo-ongelmien vahvistamista automaation kautta. Sen sijaan ne [koneet] on laitettava tekemään hyvää”, toteaa Wunderman Thompsonin datatiedeyksikön pomo Ilinca Barsan.