Yli satatuhatta naista on joutunut pornografisia väärennöksiä tehtailevan Telegram-botin uhriksi, kertoo Wired. Botin tekoäly poistaa uhriensa kuvista vaatteet ja lähettää pornografisia väärennöksiä Telegram-kanavalle, jota seuraa Wiredin mukaan lähes 25 000 henkilöä. Tapausta tutkineen Sensityn mukaan 70 prosenttia kanavan käyttäjistä on Venäjältä tai sen naapurimaista.

Lisäksi botin avulla voidaan luoda väärennöksiä yksityiseen käyttöön. Näin ollen kanavalta löytyneiden 104 000 kuvan lisäksi väärennöksiä on luultavasti olemassa huomattavasti enemmän, eikä suuri osa uhreista edes tiedä joutuneensa botin hyökkäyksen kohteeksi. Wiredin mukaan osa botin uhreista vaikuttaa olevan alaikäisiä.

Sensityn toimitusjohtajan Giorgio Patrinin mukaan kyseessä on ensimmäinen kerta, kun pornografisia väärennöksiä tehdään näin suuressa mittakaavassa. Toisin kuin deepfake-videot, joissa uhrin kasvot on siirretty videossa esiintyvälle henkilölle, botin avulla luodut kuvat eivät vaadi teknistä osaamista ja bottia voi käyttää käytännössä kuka tahansa.

Yksikin kuva riittää

Deepfake-videohyökkäykset ovat yleensä kohdistuneet julkisuuden henkilöihin, mutta Telegram-botin uhrit ovat puolestaan suurimmilta osin aivan tavallisia yksityishenkilöitä, BuzzFeed huomauttaa. Patrinin mukaan botti tarvitsee toimiakseen vain yhden kuvan, mikä selittää osaltaan sitä, miksi iso osa uhreista on yksityishenkilöitä, sillä kenen tahansa Facebook-profiilikuva riittää väärennöksen luomiseen.

Miamin yliopiston oikeustieteen professorin Mary Anne Franksin mukaan tapaus on vahvistus peloille, jotka syntyivät, kun vastaavaa teknologiaa havaittiin ensimmäisen kerran.

”Kauhistuttava realiteetti on nyt se, ettei ole väliä, oletko ikinä poseerannut kameran edessä alasti tai lähettänyt mitään intiimiä tietoa kenellekään, sillä he tarvitsevat vain kuvan kasvoistasi”, Franks sanoo.

Telegram ei ole vastannut botin luomia väärennöksiä koskeneisiin tiedusteluihin. Telegramin säännöt kuitenkin kieltävät laittoman pornografisen sisällön lataamisen julkisille kanaville.