Kasvojen vaihtaminen videolla toisiin voi olla hauska temppu kavereiden kesken sosiaalisessa mediassa, mutta tekniikkaa voi käyttää myös härskeihin väärinkäytöksiin. Tästä valitettavana esimerkkinä on alkuvuodesta suureen suosioon noussut deepfake-porno, jossa näyttelijöiden kasvot korvattiin julkkisten naamatauluilla. Sittemmin deepfake-videot on ehditty kieltää useilla verkkosivustoilla kuten PornHubissa ja Redditissä, josta koko ilmiö sai alkunsa.

Usein alkuperäistä videota on hankala erottaa manipuloidusta, etenkin jos video on kompressoitu. MIT Technology Review’n mukaan Enter Andreas Rosslerin johtama tutkimusryhmä Münchenin teknillisessä yliopistossa on kuitenkin onnistunut kehittämään ongelmaan ratkaisun. Kyseessä on syväoppimiseen pohjautuva algoritmi, joka tunnistaa hyvällä osumatarkkuudella videot, joissa kasvot on vaihdettu.

Tutkimusryhmä tuotti algoritmin luomista varten kasapäin omia videoita, joille oli tehty kasvonvaihtotemppu. Näitä verrattiin alkuperäiseen videomateriaaliin, jolloin XceptionNetiksi ristitty algoritmi oppi tunnistamaan erot manipuloidun ja alkuperäisen videon välillä.

Rosslerin mukaan kyseessä on tähän asti selvästi kehittynein ja tarkin algoritmi tunnistamaan, ovatko videolla näkyvät kasvot alkuperäiset vai eivät.

Vääriin käsiin joutuessaan algoritmia voitaisiin käyttää myös entistä parempien ja vaikeammin havaittavien kasvonvaihtojen toteuttamiseen. Tutkijat ovatkin tietoisia väärennösten havaitsemisen olevan jatkuvaa kissa ja hiiri -leikkiä: paljastamistekniikoiden parantuessa kehittyvät itse väärennöksetkin.