Voidaanko syväväärennöksiä havaita?

Kun lähdekuvia on riittävästi, sen tekeminen ei ole niin vaikeaa Jordan Peele presidentti Obamaan, Jimmy Fallon John Oliveriin, tai Jon Snow on pettyneiden Game of Thrones -faneiden tiedottaja. Aluksi syväväärennösten tavoittaminen ei ollut liian vaikeaa – jopa parhaimmilla oli visuaalisia lahjoja, kuten sumentumista, vääristymiä ja uskomattomia kasvojen eroja, jotka saivat ne näyttämään ”pois”.

Se on kuitenkin kissa-hiiri-peli, ja näyttää siltä, ​​että heti kun opimme yhden menetelmän syväväärennösten havaitsemiseen, seuraava sukupolvi korjaa vian. Onko olemassa luotettavia ratkaisuja sen torjumiseksi, mitkä videot yrittävät huijata meitä?

Visuaalisia vihjeitä

Artefaktit eivät ole vain asioita, joita Indiana Jones laittaa museoihin – ne ovat myös pieniä poikkeamia, jotka jäävät jäljelle kuvan tai videon käsittelyn jälkeen. Varhaisissa syväväärennöksissä ne voidaan usein havaita ihmissilmällä, ja huonoissa syväväärennöksissä voi silti olla joitain varoitusmerkkejä, kuten epäselvyyttä reunojen ympärillä, liian tasoittuneet kasvot, kaksinkertaiset kulmakarvat, häiriöt tai yleisesti ”epäluonnollinen” tunne siitä, kuinka kasvot sopivat. .

Suurimmaksi osaksi tekniikat ovat kuitenkin nyt parantuneet siihen pisteeseen, että nämä artefaktit näkyvät vain muille algoritmeille, jotka kampaavat videodataa ja tutkivat asioita pikselitasolla. Jotkut heistä voivat olla melko luovia, kuten yksi tekniikka, joka tarkistaa, vastaako nenän suunta kasvojen suuntaa. Ero on liian hienovarainen ihmisten havaittavaksi, mutta koneet osoittautuvat siinä melko mahtaviksi.

Biometriset vihjeet

Hetken aikaa vaikutti siltä, ​​että avain syvän väärennösten paljastamiseen oli niiden luonnollisten vilkkumiskuvioiden puute, koska ”silmät kiinni” lähdekuvia oli suhteellisen vähän. Ei kestänyt kauan, kun seuraavan sukupolven deepfake-tekniikka sisälsi paremman vilkkumisen, mikä kuitenkin heikensi nopeasti tekniikan tehokkuutta.

Muita biometrisiä indikaattoreita ei kuitenkaan ole vielä murrettu kokonaan, kuten yksittäisiä omituisia omituisia omituisia otuksia, joita algoritmit eivät voi helposti automatisoida syväväärennöksiksi, koska ne edellyttävät jonkin verran kontekstuaalista ymmärrystä käytetystä kielestä. Pienet tottumukset, kuten nopea räpyttäminen, kun olet yllättynyt tai kulmakarvojen kohottaminen, kun kysyt kysymyksen, voi poimia ja käyttää syvää fakea, mutta ei välttämättä oikeaan aikaan, koska he eivät voi (vielä) automaattisesti selvittää, milloin käyttää niitä liikkeitä.

Tekoälyllä, joka pystyy lukemaan sykettä videokuvien avulla, on paljon sovelluksia syvän väärennösten havaitsemisen lisäksi sykettä ilmaisevien säännöllisten liikkeiden ja värimuutosten etsiminen voi auttaa tunnistamaan tekoälyn luomia huijareita. Ilmeisin lahja on silloin, kun deepfakella ei ole lainkaan sykettä, mutta deepfakeilla on usein pulssia. Siitä huolimatta epäsäännöllisyydet (kuten kasvojen eri osat, jotka näyttävät eri sykettä) voivat silti auttaa tunnistamaan syvän väärennöksen.

AI-projektit

Monet suuret nimet ovat erittäin kiinnostuneita Deepfake-ongelman ratkaisemisesta. Facebook, Google, MIT, Oxford, Berkeley ja monet muut startup-yritykset ja tutkijat tarttuvat tähän ongelmaan kouluttamalla tekoälyä havaitsemaan väärennettyjä videoita muun muassa yllä luetelluilla menetelmillä.

Yksi asia molemmat Facebook ja Google parhaillaan luomassa datajoukon korkealaatuisia videoita näyttelijöistä tekemässä asioita, joita he sitten käyttävät syväväärennösten luomiseen. Näihin koulutettu tekoäly voi sitten selvittää syvän väärennösten ilmaisumerkit ja saada tehtävän havaita ne.

Tietenkin tämä toimii vain niin kauan kuin tutkijat jatkavat syväväärennösten luomista uusimmalla tekniikalla, mikä tarkoittaa, että uusimpien syväväärennöstemppujen löytämisen ja näiden algoritmien havaitsemisen välillä on aina pieni viive. Hyvällä tuurilla kuitenkin kokeet käyttämällä todellisia hiiriä syväväärennösten tunnistamiseen paistaa ja antaa meille etua.

Todennus

Tunnistustekniikat eivät kuitenkaan ole täydellinen vastaus syväväärennöksiin, sillä niiden onnistumisprosentti ei todennäköisesti koskaan ole 100 %. Deepfake, joihin on käytetty jonkin verran aikaa ja rahaa, voisi luultavasti läpäistä monet haistelevat testit ja nykyiset tekoälymenetelmät. Ja muistetaan, miten Internet toimii: vaikka nämä väärennökset saadaan kiinni, jotkut ihmiset joka tapauksessa todennäköisesti kierrättävät ne ja uskovat ne.

Siksi on myös tärkeää, että sinulla on jonkinlainen vahvistusmekanismi – jokin todiste siitä, mikä video on alkuperäinen, tai jokin, joka voi osoittaa, onko videota muokattu. Siitä yritykset pitävät Fakta, Ambervideo, ja Axiom tekevät koodaamalla dataa videoista muuttumattomiin lohkoketjuihin.

Monien projektien perusajatuksena on, että videotiedoston sisältämien tai tietyn kameran luomien tietojen avulla voidaan luoda ainutlaatuinen allekirjoitus, joka muuttuu, jos videota muutetaan. Lopulta sosiaaliseen mediaan ladatuissa videoissa voi olla mahdollisuus luoda todennuskoodi, jonka alkuperäinen lataaja voi rekisteröidä lohkoketjuun todistaakseen olevansa videon alkuperäinen omistaja.

Näillä ratkaisuilla on tietysti omat ongelmansa, kuten videokoodaukset, jotka muuttavat tiedoston tietoja ja muuttavat allekirjoitusta ilman, että videosisältö itse asiassa muuttuu, tai laillinen videoeditointi, joka sotkee ​​allekirjoituksen. Kuitenkin suurissa tilanteissa, kuten kaupallisissa liiketoimissa, joissa kuvia käytetään toimituksen vahvistamiseen tai sijoittajatuen saamiseksi, tällainen todennuskerros voi auttaa estämään syväväärennöksiin liittyviä petoksia.

Ovatko syväväärennökset vaarallisempia kuin Photoshop?

Tässä vaiheessa me kaikki vain oletamme, että kuvat eivät ehkä ole todellisia, koska olemme täysin tietoisia siitä, että on olemassa tekniikka, joka saa lähes kaiken näyttämään todelliselta still-kuvassa. Lopulta saatamme alkaa suhtautua videoihin samalla skeptisesti, kun niiden väärentäminen on yhtä helppoa ja vakuuttavaa kuin Photoshop tekee kuvien muokkaamisesta tällä hetkellä. Yleisellä tiedolla on kuitenkin helppo kuvitella, että monet tosielämän tapahtumat alkaisivat hyvin ajoitetulla ja laadukkaalla syväväärennöksellä lähitulevaisuudessa.

Kuvatekstit: Google/FaceForensics, Facebook AI, Ambervideo