Facebook ilmoitti maanantaina kieltävänsä niin kutsutut deep fake -videot ja muut manipuloidut mediasisällöt palvelustaan. Asiasta uutisoivat muun muassa Business Insider ja The Verge.

Yhtiö kertoo antamassaan lausunnossa lähestyneensä ongelmaa monitahoisesti muun muassa tekemällä yhteistyötä yliopistojen, hallituksen ja teollisuuden kanssa manipuloidun sisällön tunnistamiseksi nykyistä paremmin.

Facebook listaa kaksi kriteeriä, joiden perusteella harhaanjohtava video- ja mediasisältö tullaan poistamaan jatkossa.

Ensimmäinen koskee editointia tavalla, joka ei ole ilmeinen keskivertoihmiselle ja johdattelisi todennäköisesti jonkun ajattelemaan, että kohde sanoo videolla sellaista, mitä hän ei ole todellisuudessa sanonut.

Toinen kriteeri koskee tekoälyä ja koneoppimista, joiden avulla video on saatu näyttämään aidolta. Kriteeri kattaa deepfake-videot, jotka ovat videoväärennöksiä ja saavat ihmisen sanomaan tai tekemään tekaistuja asioita aidon näköisesti.

Käytännössä deepfake -sisällöt toteutetaan yhdistämällä erilaisia elementtejä, kuten ääntä ja ihmisten kasvoja. Näin on mahdollista luoda video, jolla Yhdysvaltain presidentinvaaleissa ehdokkaana oleva henkilö vaikuttaisi sanovan jotakin, mitä hän ei ole todellisuudessa sanonut.

”Vaikka nämä videot ovat toistaiseksi harvinaisia internetissä, ne asettavat (teknologia)teollisuudelle ja yhteiskunnalle merkittävän haasteen, kun niiden käyttö lisääntyy”, Facebook kommentoi lausunnossaan.

Facebook liputtaa ensin mahdolliset deepfake-videot. Sen jälkeen kolmannen osapuolen faktantarkistaja arvioi, onko sisältö mahdollisesti manipuloitua. Uusi käytäntö ei vaikuta videoihin, jotka on tehty komedia- tai satiiritarkoituksessa.

Deepfake -videoiden tunnistaminen ei ole asiaan vihkiytyneellekään silti aina helppo tehtävä. Facebook kertookin tuottaneensa omia deepfake-sisältöjä oppiakseen tunnistamaan niitä paremmin.

Syksyllä Facebook lupasi myös merkittävän palkinnon taholle, joka onnistuu kehittämään deepfake-videot tunnistavan teknologian.

Suomessa herätti syksyllä huomiota Maria Ohisalon (vihr) ja Jussi Halla-ahon (ps) eduskuntakeskustelusta levinnyt videomanipulaatio. Siinä oli liitetty yhteen kysymys ja vastaus, jotka eivät liittyneet toisiinsa. Ohisalo kertoi tuolloin, ettei Facebook suostunut poistamaan videota. Uusien sääntöjen valossa video näyttäisi kuitenkin täyttävän poistamiskriteerit. LUE LISÄÄ:

Suomessa levinneen videon poistamiskriteereiden täyttymiseen viittasi ensimmäisenä Ilta-Sanomat.