InvestigateTV – Teknologiaa, jolla luotiin todentuntuisia videoita kansainvälisesti kuuluisasta näyttelijästä, Yhdysvaltain entisestä presidentistä ja jopa maailman johtajasta väkivaltaisen konfliktin keskellä, käytetään jokapäiväisessä amerikkalaisissa.
Syy: Ystävällisten kasvosi käyttäminen voi helposti saada tuntemasi ihmiset huijaukseen.
Nämä aavemaiset väärennökset on luotu huippuluokan tietotekniikalla, joka on suunniteltu jäljittelemään ihmisaivoja.
Tekoälyyhteisössä videoita kutsutaan "deepfakeiksi". Termiä käytetään äänistä, kuvista tai videoista, joita on manipuloitu näyttämään todelliselta.
Deepfakes käyttää tekoälyn muotoa, jota kutsutaan "syväksi oppimiseksi", tekniikkaa, joka yrittää kopioida ihmisten ajattelua ja oppimista. Sieltä johdetaan myös syvän väärennöksen "syvä".
Äskettäin Tiktokin käyttäjä Chris Ume nousi viruksen leviämiseen näyttelijä Tom Cruisen syväfakensa kanssa. Vuonna 2018 ohjaaja Jordan Peele ja Buzzfeed levittelivät entisen presidentin Barack Obaman syväväärennöstä varoittaakseen ihmisiä tekniikan edistymisestä ja siitä, kuinka he voivat levittää väärää tietoa väärinkäytön kautta.
Näiden mahdollisesti ongelmallisten videoiden jäljittämisessä yksi harvoista organisaatioista, joilla on tietoa syväväärennöksistä, on Sensity, amsterdamilainen yritys, joka käyttää syväoppimista ja tietokonetekniikoita syväväärennösten havaitsemiseen.
Sensityn mukaan syväväärennöksiä ilmaantui vuoden 2017 lopulla, ja niiden määrä verkossa on kasvanut nopeasti. Vuonna 2018 yritys seurasi yli 7 000 deepfake-videota verkossa. Joulukuuhun 2020 mennessä heidän raportinsa mukaan määrä on noussut räjähdysmäisesti yli 85 000:een nettideepfakesiin.
Sensityn data seuraa vain tapauksia, joissa on mukana julkisuuden henkilöitä. Se ei sisällä tapauksia, joissa on osallisena yksityishenkilöitä. Hakkerit teeskentelevät kuitenkin muutakin kuin julkkiksia ja poliitikkoja.
Hakkeroitu ja väärennetty
Kyle Hawkins tietää sen liiankin hyvin. Hän astui tietämättään deepfakesin maailmaan, kun hänen sosiaalisen median tilinsä hakkeroitiin helmikuussa 2022.
Hawkins on vakuutusasiamies, joka on erikoistunut Medicareen ja eläkesuunnitteluun Richmondissa, Virginiassa.
Eräänä päivänä hän avasi Instagramin ja sanoi nähneensä viestin vanhalta ystävältä. Hawkins luuli, että ystävä tavoitteli hänen palvelujaan ja etsi apua.
"Sain viestin Instagramin kautta joltakulta, jonka kanssa olin siellä ystäviä ja jonka oletin, että sama asia oli tapahtunut hänelle, mutta en tiennyt", Hawkins sanoi.
Kävi ilmi, että tuo ystävä oli hakkeroitu. Kun Hawkins napsautti viestissä olevaa linkkiä, hän sanoi menettäneensä nopeasti tilinsä hallinnan.
"En ajatellut siitä mitään", Hawkins sanoi. "Ja sitten sain eräänlaisen Instagramin sinä aamuna, ja sitten kun tarkistin, että oli lounasaika, kaikki oli poissa."
Hawkins sanoi, että hänen Instagram-tilinsä ja hänen linkitetty Facebook-tilinsä oli hakkeroitu, mikä avasi hänen seuraajansa samanlaisille hyökkäyksille.
Siitä hän sanoi, että syväväärennös alkoi. Hawkins sanoi, että hänen ystävilleen ja seuraajilleen lähetettiin 16 sekunnin syvä väärennösvideo, joka rohkaisi heitä investoimaan Bitcoinin louhintaan. Hän vahvisti, että video näyttää ja kuulostaa aivan häneltä.
"Se näyttää aidolta, mutta he lähettävät sen ihmisille. Luulen, että he ovat tehneet muitakin, Hawkins sanoi.
Hän sanoi, että video on julkaistu Instagram-tarinoissa joka päivä ensimmäisen hakkeroinnin jälkeen. Siinä hän sanoi, että "fake Hawkins" jakaa kuinka paljon rahaa hän on ansainnut Bitcoinin kautta. Asia on, Hawkins sanoi, että hän ei ole koskaan sijoittanut kryptovaluuttaan.
"Minulla ei ole Bitcoinia, joten en ole tehnyt sitä", Hawkins sanoi.
Hawkins kertoi ottaneensa yhteyttä molempiin sosiaalisen median alustoihin toivoen tilinsä sulkemista, mutta sekä hänen Instagram- että Facebook-tilinsä ovat edelleen aktiivisia.
Deepfake-laajennus ja -säännökset
Ben Coleman, Reality Defenderin toimitusjohtaja, tekee yhteistyötä organisaatioiden ja valtion virastojen kanssa skannatakseen ääntä, kuvia ja videoita yksilöiden yksityisyyden suojaamiseksi. sekä torjua petoksia, sopimatonta sisältöä ja etsiä ratkaisua syväväärennösten nousuun.
"Kasvojen vaihto on syvää väärennöstä", Coleman sanoi. "Jotkut niistä ovat hauskoja, ja joitain niistä käytetään petoksia."
Hän sanoi, että videot voivat olla myös mahdollisesti vaarallisia.
Maaliskuun 16. päivänä Venäjän sotatoimien aikana Ukrainassa sosiaaliseen mediaan nousi syvä väärennös Ukrainan presidentistä Volodymyr Zelenskystä. Videolla Zelensky piti puhetta. Hän oli kuitenkin pikseloitunut ja hänellä oli tavallista syvempi ääni. Kun video oli leimattu syvälle väärennökseksi, Meta, Facebookin emoyhtiö, ryhtyi nopeasti poistamaan videon kaikilta alustoiltaan ja antoi seuraavan lausunnon, jonka mukaan yritys "tarkisti ja poisti tämän videon nopeasti, koska se rikkoi harhaanjohtavaa manipuloitua mediaa koskevaa käytäntöämme, ja ilmoittivat kollegoillemme muilla alustoilla."
Tämä ei ollut ensimmäinen kerta, kun Meta oli käsitellyt syväväärennöksiä. Ennen vuoden 2020 presidentinvaaleja yritys kielsi syvät väärennökset ja muut manipuloidut videot vedoten vaarallisiin taktiikoihin, jotka voivat johtaa yleisöä harhaan.
Yhtiö kertoi vuoden 2020 Facebook-lehdistötiedotteessa työskentelevänsä asian eteen ja "vahvistavansa harhaanjohtavia manipuloituja videoita koskevaa politiikkaansa". Facebookin manipuloitu mediapolitiikka linjaa, että ei-parodiat tai satiiriset videot, jotka on editoitu johtamaan ihmisiä harhaan, tai videot, jotka käyttävät tekoälyä näyttämään aidolta, poistetaan.
Ei ole julkisia lukuja siitä, kuinka monta syväfake-videota Facebook on poistanut, mutta yhtiö sanoi lausunnossaan "työskentelevänsä muiden kanssa tällä alueella löytääkseen ratkaisuja, joilla on todellista vaikutusta".
Syyskuussa 2019 yritys loi "Deep Fake Detection Challengen", jossa alan asiantuntijoita pyydettiin auttamaan luomaan avoimen lähdekoodin työkaluja syväväärennösten havaitsemiseen.
NAPSAUTA TÄTÄ KATSOksesi HAASTEVIDEO
Meta teki yhteistyötä myös tiedotusvälineiden, kuten Reutersin, kanssa auttaakseen tunnistamaan syväväärennöksiä ja tarjoamaan ilmaista verkkokoulutusta manipuloidun visuaalisen sisällön tunnistamiseen.
Ben Coleman sanoi, että vaikka sosiaalisen median yritykset ja organisaatiot yrittävät taistella ongelmaa vastaan, jäljellä on merkittäviä esteitä.
"Näillä yrityksillä on usein suuria haasteita, koska niillä on ihmismoderaattorit, eivätkä ihmismoderaattorit enää pysty erottamaan aitoa ja väärennettyä", Coleman sanoi.
Senaattori Rob Portman (R-OH) esitteli kongressissa viime vuonna lakiesityksen, jossa vaaditaan Homeland Securityn ministeriötä ja Valkoisen talon tiede- ja teknologiapolitiikan virastoa perustamaan väliaikainen National Deepfake Provenance Task Force. Lakiesitys on lähetetty sisäisen turvallisuuden ja hallitusasioiden valiokuntaan, ja se "määrättiin raportoitavaksi ilman tarkistuksia myönteisesti".
Coleman sanoi, että Yhdysvalloissa ei ole voimassa olevia käytäntöjä, jotka velvoittaisivat yrityksiä ilmoittamaan synteettisestä ja väärennetystä mediasta samalla tavalla kuin ne tällä hetkellä ilmoittavat alastomuudesta ja alaikäisten väkivallasta.
"Useimmiten [yritykset] pyytävät käyttäjiä ilmoittamaan asioista", Coleman sanoi. "He odottavat käyttäjien olevan asiantuntijoita, ja jos he näkevät jotain, heidän pitäisi sanoa jotain ja sitten se lähetetään ihmismoderaattoritiimille."
Julkiset ja yksityiset syväväärennösratkaisut
Colemanin mukaan Reality Defender luo parhaillaan selainlaajennusta ja verkkosivustoa, joka auttaa kuluttajia havaitsemaan syväväärennöksiä henkilökohtaisista tietokoneistaan.
Mutta Reality Defender ei ole yksin taistelemassa syväväärennöksiä vastaan.
Virginian yliopistossa kolmannen vuoden opiskelijoiden ryhmä kehittää yleisölle verkkosivustoa, jolle kuluttajat voivat jonakin päivänä ladata kyseenalaisia videoita ja valokuvia tarkistaakseen, ovatko ne väärennettyjä.
Kaksi näistä opiskelijoista, Ahmed Hussain ja Sam Buxbaum, opiskelee tietojenkäsittelytiedettä ja fysiikkaa. Pari voitti pääpalkinnon Innovative Discovery Science Platform (iDISPLA) -kilpailussa. Heidän ehdotuksensa, joka kohdistui syväväärennösten torjuntaan tekoälyllä, syntyi sen jälkeen, kun kaksikko näki Deepfake-videoiden lisääntyneen Internetissä.
"On ehdottomasti mahdollista, että syväväärennökset seuraavien viiden vuoden aikana ovat joissain tapauksissa lähes mahdottomia erottaa todellisista ihmisistä", Hussain sanoi. "He ovat tulossa siihen pisteeseen, että sen tekeminen on melko vaikeaa."
Hussain sanoi uskovansa, ettei ratkaisu ole taistella tulta tulella, vaan käyttää lohkoketjua, järjestelmää, joka tallentaa tietoja ja vaikeuttaa järjestelmän hakkerointia tai huijaamista.
Buxbaum sanoi, että heidän verkkosivuillaan ihmiset voivat ladata videoita ja algoritmi ilmoittaa, onko video väärennös.
"Jotkut asiat, jotka eroavat syvän väärennöksen ja oikean videon välillä, ovat havaittavissa vain tietokoneella, mutta silti ne saavat sinut tuntemaan olonsa oudolta katsoessasi sitä", Buxbaum sanoi.
Tilisi suojaaminen ja syväväärennösten havaitseminen
Kun verkkoratkaisut ja lainsäätäjät omaksuvat teknologian, Coleman ehdotti useita toimenpiteitä, joilla estetään hakkereita käyttämästä kuviasi ja videoitasi syväväärennösten luomiseen:
Kun kyse on syväväärennösten havaitsemisesta, Massachusetts Institute of Technologyn tutkijat suosittelevat katsomaan videon kasvojen piirteitä:
Kyle Hawkins sanoi, että hänen kokemuksensa sai hänet varomaan sosiaalista mediaa ja tätä uutta verkkohuijaustyyliä.
"Ole nykyään erityisen varovainen kaikkeen, jonka laitat sinne, julkaiset siellä tai vastaat tai napsautat sitä."
Tekijänoikeudet 2022 Gray Media Group, Inc. Kaikki oikeudet pidätetään.
