InvestigateTV – Technologie používaná k vytváření realistických videí mezinárodně známého herce, bývalého prezidenta USA a dokonce světového vůdce uprostřed násilného konfliktu se používá na každodenních Američanech.
Důvod: Používání vaší přátelské tváře může snadno nachytat lidi, které znáte, do podvodu.
Tyto děsivé padělky jsou vytvořeny pomocí nejmodernější počítačové vědy navržené tak, aby napodobovaly lidský mozek.
V komunitě umělé inteligence (AI) se videa nazývají „deepfakes“. Tento termín se používá pro zvuk, obrázky nebo videa, které byly upraveny tak, aby vypadaly jako skutečné.
Deepfakes používají formu umělé inteligence zvanou „hluboké učení“, technologii, která se snaží kopírovat, jak lidé myslí a učí se. Je to také místo, kde je odvozeno „hluboké“ v deepfake.
Uživatel Tiktok Chris Ume se nedávno stal virálním se svým deepfakeem herce Toma Cruise. V roce 2018 režisér Jordan Peele a Buzzfeed rozeslali deepfake bývalého prezidenta Baracka Obamy, aby varovali lidi před pokrokem v technologii a jak by mohli šířit dezinformace prostřednictvím zneužití.
Pokud jde o sledování těchto potenciálně problematických videí, jednou z mála organizací s údaji o deepfakes je Sensity, společnost sídlící v Amsterdamu, která k detekci deepfakes využívá hluboké učení a počítačové technologie.
Podle Sensity se deepfakes objevily na konci roku 2017 a počty online rychle vzrostly. V roce 2018 společnost sledovala více než 7 000 deepfake videí online. Do prosince 2020 jejich zpráva ukazuje, že počet vyletěl na více než 85 000 online deepfake.
Údaje společnosti Sensity sledují pouze incidenty týkající se veřejných osob. Nezahrnuje incidenty zahrnující soukromé osoby. Hackeři však předstírají více než jen celebrity a politiky.
Hacked a deepfaked
Kyle Hawkins to moc dobře ví. Nevědomky vstoupil do světa deepfakes, když byly v únoru 2022 hacknuty jeho účty na sociálních sítích.
Hawkins je pojišťovací agent specializující se na Medicare a plánování odchodu do důchodu v Richmondu ve Virginii.
Jednoho dne otevřel Instagram a řekl, že viděl zprávu od starého přítele. Hawkins si myslel, že přítel oslovuje jeho služby a hledá pomoc.
„Dostal jsem zprávu přes Instagram od někoho, s kým jsem se tam přátelil, o kterém jsem předpokládal, že se mu stalo totéž, ale nevěděl jsem,“ řekl Hawkins.
Ukázalo se, že tento přítel byl napaden. Když Hawkins klikl na odkaz ve zprávě, řekl, že rychle ztratil kontrolu nad svým účtem.
"Nic jsem o tom nepřemýšlel," řekl Hawkins. "A pak se mi to ráno podařilo získat Instagram, a když jsem zkontroloval, že je oběd, všechno bylo pryč."
Hawkins uvedl, že jak jeho Instagram, tak jeho propojený účet na Facebooku byly napadeny hackery, což umožnilo jeho následovníkům podobné útoky.
Tam řekl, že deepfake začal. Hawkins řekl, že jeho přátelům a následovníkům bylo zasláno 16sekundové deepfake video, které je povzbuzovalo, aby investovali do těžby bitcoinů. Potvrdil, že video vypadá a zní stejně jako on.
„Vypadá to jako skutečné, ale posílají to lidem. Myslím, že vyrobili další,“ řekl Hawkins.
Řekl, že video bylo zveřejňováno na Instagram stories každý den od prvního hacknutí. V něm řekl, že „falešný Hawkins“ sdílí, kolik peněz vydělal prostřednictvím bitcoinu. Jde o to, že Hawkins řekl, že nikdy neinvestoval do kryptoměn.
"Nemám žádné bitcoiny, takže jsem to neudělal," řekl Hawkins.
Hawkins řekl, že oslovil obě platformy sociálních médií v naději, že svůj účet zruší, ale jeho účty na Instagramu i Facebooku jsou stále aktivní.
Deepfake expanze a předpisy
Ben Coleman, generální ředitel Reality Defender, spolupracuje s organizacemi a vládními agenturami na skenování zvuku, obrázků a videa, aby chránil soukromí jednotlivců, as také bojovat proti podvodům, nevhodnému obsahu a hledat řešení pro vzestup deepfakes.
"Výměna obličejů je hluboký podvod," řekl Coleman. "Některé z nich jsou zábavné a některé z nich jsou používány k podvodům."
Řekl, že videa mohou být také potenciálně nebezpečná.
16. března, během ruské vojenské akce na Ukrajině, se na sociálních sítích objevil deepfake ukrajinského prezidenta Volodymyra Zelenského. Video zachycovalo Zelenského při projevu. Byl však pixelovaný a měl hlubší hlas než obvykle. Jakmile bylo video označeno jako deepfake, Meta – mateřská společnost Facebooku – rychle přistoupila ke stažení videa ze všech svých platforem a vydala následující prohlášení, v němž uvedla, že společnost „rychle zkontrolovala a odstranila toto video kvůli porušení našich zásad proti zavádějícím zmanipulovaným médiím, a informovali naše kolegy na jiných platformách.“
Nebylo to poprvé, co se Meta zabývala deepfakes. Před prezidentskými volbami v roce 2020 společnost zakázala deepfakes a další zmanipulovaná videa s odkazem na nebezpečné taktiky, které by mohly uvést veřejnost v omyl.
V tiskové zprávě Facebooku z roku 2020 společnost uvedla, že na problému pracuje a „posiluje svou politiku vůči zavádějícím manipulovaným videím“. Manipulovaná mediální politika Facebooku uvádí, že neparodická nebo satirická videa upravená tak, aby uváděla lidi v omyl, nebo videa, která používají umělou inteligenci, aby vypadala autenticky, budou odstraněna.
Neexistují žádná veřejná čísla o tom, kolik deepfake videí Facebook odstranil, ale v prohlášení společnost uvedla, že „s ostatními v této oblasti spolupracuje na nalezení řešení se skutečným dopadem“.
V září 2019 společnost vytvořila „Výzvu Deep Fake Detection Challenge“, která požádala odborníky v oboru, aby pomohli vytvořit open source nástroje pro detekci deepfake.
KLIKNĚTE ZDE, ABY SI SLEDUJTE VIDEO VÝZVA
Společnost Meta také spolupracovala s médii, jako je Reuters, aby pomohla identifikovat deepfakes a poskytla bezplatné online školení o tom, jak identifikovat zmanipulované vizuální prvky.
Ben Coleman řekl, že zatímco se společnosti a organizace sociálních médií snaží s tímto problémem bojovat, stále existují významné překážky.
"Tyto společnosti mají často velké problémy, protože mají lidské moderátory a lidští moderátoři už prostě nedokážou rozeznat rozdíl mezi skutečným a falešným," řekl Coleman.
Senátor Rob Portman (R-OH) minulý rok v Kongresu předložil návrh zákona, který požaduje, aby ministerstvo pro vnitřní bezpečnost a Úřad pro vědeckou a technologickou politiku Bílého domu zřídily dočasnou Národní pracovní skupinu pro hlubinnou provenienci. Návrh zákona byl postoupen Výboru pro vnitřní bezpečnost a vládní záležitosti a „bylo nařízeno, aby byl beze změn podán kladně“.
Coleman uvedl, že v USA neexistují žádné současné zásady, které by vyžadovaly, aby společnosti označovaly syntetická a falešná média tak, jak v současnosti označují nahotu a násilí nezletilých.
„Většinou [společnosti] žádají uživatele, aby věci označili,“ řekl Coleman. "Očekávají, že uživatelé budou odborníci, a pokud něco uvidí, měli by něco říct a pak se to pošle lidskému moderátorskému týmu."
Veřejná a soukromá deepfake řešení
Podle Colemana v současné době Reality Defender pracuje na vytvoření rozšíření prohlížeče a webových stránek, které spotřebitelům pomohou odhalit deepfake z jejich osobních počítačů.
Ale Reality Defender není v boji proti deepfakes sám.
Na University of Virginia tým studentů třetího ročníku vyvíjí webovou stránku pro veřejnost, kam by jednoho dne mohli spotřebitelé nahrávat sporná videa a fotografie, aby si ověřili, zda nejsou falešné.
Dva z těchto studentů, Ahmed Hussain a Sam Buxbaum, studují informatiku a fyziku. Dvojice vyhrála hlavní cenu v soutěži Innovative Discovery Science Platform (iDISPLA). Jejich návrh, který se zaměřoval na boj proti deepfake pomocí AI, přišel poté, co dvojice zaznamenala nárůst deepfake videí, která se objevila na internetu.
"Je určitě možné, že deepfakes během příštích pěti let budou v některých případech téměř k nerozeznání od skutečných lidí," řekl Hussain. "Dostávají se do bodu, kdy je to docela obtížné."
Hussain řekl, že věří, že řešením není bojovat s ohněm ohněm, ale použít blockchain, systém, který zaznamenává informace a znesnadňuje hackování nebo podvádění systému.
Buxbaum uvedl, že jejich web umožní lidem nahrát video a algoritmus určí, zda je video falešné.
"Některé z věcí, které se liší mezi deepfake a skutečným videem, jsou rozpoznatelné pouze na počítači, ale přesto se při nich budete cítit divně, když se na to díváte," řekl Buxbaum.
Ochrana vašeho účtu a zjišťování hlubokých padělků
Jakmile online řešení a zákonodárci dohánějí technologii, Coleman navrhl několik kroků, které pomohou zabránit hackerům v používání vašich fotografií a videí k vytváření hlubokých padělků:
Pokud jde o odhalování deepfakes, výzkumníci z Massachusetts Institute of Technology doporučují podívat se na rysy obličeje videa:
Kyle Hawkins řekl, že díky jeho zkušenostem se obával sociálních médií a tohoto nového stylu kybernetického podvodu.
„Jen buďte v dnešní době velmi opatrní ohledně všeho, co tam umístíte, zveřejníte nebo na co odpovíte nebo na co kliknete.“
Copyright 2022 Gray Media Group, Inc. Všechna práva vyhrazena.
