Facebookin käytäntöjä valvova johtaja Monika Bickert, Harvard Kennedy Schoolin tutkimusjohtaja Joan Donovan, Center for Humane Technologyn pääjohtaja Tristan Harris sekä Nebraskan lakiyliopiston apulaisprofessori Justin Hurwitz jättivät Yhdysvaltain edustajainhuoneen energia- ja talouskomitealle kirjeen, jossa he ilmaisivat huolensa deepfake-videoiden voiman suhteen ja siitä, kuinka ne tulevat vaikuttamaan vuoden 2020 presidentinvaaleihin.

Deepfaket eli tekoälyn avulla puhujan kasvot toisiksi vaihtavat videot ovat voimakas ase valheiden ja väärän tiedon levittämiseen. Deepfake-tekniikka tuottaa häkellyttävän uskottavia videoita, joiden avulla katsoja saadaan luulemaan, että esimerkiksi tunnettu poliitikko on puoltanut jotain asiaa tai paljastanut todelliset karvansa.

Cnet antaa esimerkkeinä valevideot, joissa Facebookin Mark Zuckerberg ylpeilee kuinka hän hallitsee yksityistä dataa, presidentti Obama vuolaasti kiroilee väärää tietoa ja demokraattien puhemies Nancy Pelosi kuulostaa haastattelussa humalaiselta.

”Vaikka nämä videot ovat internetissä toistaiseksi suhteellisen harvinaisia, ne ovat merkittävä haaste teollisuudellemme ja yhteiskunnallemme”, Bickert kirjoitti komitealle.

”Vuoden 2020 vaalikauden kannalta väärän tiedon kuten deepfake-videoiden torjuminen on yksi tärkeimmistä asioista mitä meidän tulee tehdä”, Bickert jatkoi.

Asiantuntijoiden kirje vahvistaa pelkoja siitä, että deepfake-videoita ja muuta väärennettyä aineistoa käytetään vaikuttamaan kansalaisten äänestyskäyttäytymiseen.

Ongelmallista on, että sosiaalisen median alustat eivät välttämättä reagoi väärennettyihin videoihin mitenkään. Siinä missä YouTube poisti Pelosi-videon, Facebook vain rajoitti sen leviämistä ja Twitter antoi sen levitä vapaasti.

Business Insider kertoo, että Bickert joutuikin komitean hampaisiin Facebookin käytäntöjen lepsuuden vuoksi.

Facebookia kritisoitiin siitä, että vaikka se juuri kielsi deepfake-videoiden julkaisemisen palvelussaan, se ei kategorisesti kiellä kaikkia videomanipulaatioita. Esimerkiksi Pelosi-video menisi edelleen seulasta läpi, sillä se oli vain hidastettu video, jolloin deepfake-videoita koskevat säännöt eivät siihen purisi.

Bickert puolusti yhtiötä sanomalla, että Facebook pyrkii suojelemaan sananvapautta jättämällä valetiedonkin näkyviin mutta liittämällä sen yhteyteen merkinnän, että kyseessä on valeuutinen.

Bickert sanoi, että Facebook pyrkii nopeuttamaan faktantarkistusprosessia, jotta väärennetyt videot saisivat valheet paljastavat merkinnät ripeämmin.

Valevideoita on näkynyt myös Suomessa.

Marraskuussa perussuomalaisten puheenjohtaja Jussi Halla-aho kysyi sisäministeri Maria Ohisalolta (vihr.) meneekö ulkomaalaisten turvallisuus suomalaisten turvallisuuden edelle. Ohisalo vastasi Halla-aholle, ettei ihmisiä pitäisi oikeusvaltiossa asettaa vastakkain.

Sosiaalisessa mediassa levisi pian väärennetty video, jossa Ohisalo sanoo ulkomaalaisten turvallisuuden menevän suomalaisten turvallisuuden edelle. Manipuloituun videoon oli leikattu osa Ohisalon vastauksesta Veronika Honkasalon (vas.) kysymykseen, joka koski aivan eri asiaa.