Deep Fakes jsou falešné obrazy, zvukové a obrazové záznamy, které znějí a vypadají skutečně. Samotné slovo deepfake je pojmem hlubokého učení a falešného, který odkazuje na způsob, jakým jsou k vytváření těchto falešných transakcí využívány strojové učení a umělá inteligence. Hluboká falešná technologie byla použita pro bezstarostné zábavní účely, ale také vložila slova do úst politiků, umožnila podvody sociálního inženýrství a dokonce bez souhlasu vrhla tváře celebrit do pornografického obsahu.
Jak se vytvářejí hluboké padělky?
Může to znít jako sci-fi nebo hollywoodská magie speciálních efektů, ale falešná technologie je překvapivě přístupná. Nejběžnější metodou je hluboká falešná výměna obličeje, která nahradí obličej osoby ve videu tváří jiné osoby. Tato metoda výměny obličeje spoléhá na krmení video dat původní osoby a fotografií náhradní tváře algoritmem AI. AI analyzuje původní tvář a novou tvář, nachází podobnosti a mapuje novou tvář na existující video snímek po snímku. Celý proces vytváření hlubokých falešných zpráv lze automatizovat webovými službami, ale algoritmy AI jsou také k dispozici ke stažení, což umožňuje každému, kdo má dostatečné odborné znalosti, vytvářet hluboké falešné reklamy na svém domácím počítači. Podobné procesy lze použít k vytvoření falešných obrazů, které vypadají skutečně, animují statické fotografie pomocí údajů o pohybu od herce a dokonce realisticky vydávají hlas osoby. Všechno se spoléhá na umělou inteligenci, která rozloží vstupní data, jako jsou fotografie, videa a zvukové nahrávky, a poté syntetizuje nová média, která jsou nerozeznatelná od skutečné věci.
Několik hlubokých falešných příkladů
Mnoho hlubokých padělků je škodlivých, jako je vkládání slov do úst politiků nebo pornografické povahy, ale tato technologie byla také použita pro bezstarostné prostředky. Zde je několik hlubokých padělků, které si můžete prohlédnout sami:
- George Lucas a Harrison Ford: Toto hluboké falešné video je jen jedním ze série vtipných videí Collider, která natáčejí talentované impresionisty a nahrazují jejich tváře celebritami. V tomto příkladu George Lucas a Harrison Ford reagují na Baby Yoda z Mandalorian.
- The Rock deep finged into The Rock: V tomto hlubokém falešném filmu od Corridor Crew používají technologii hlubokých falešných k opravě záhadného vyobrazení údolí Dwayna Johnsona jako krále Scorpion tím, že napájejí videonahrávky AI Johnsona z předchozího stejného filmu.
- Ret Henry Cavill v Supermanovi: Umělci VFX byli nuceni skrýt Cavillův knír v některých scénách Justice League s kreslenými výsledky. Toto srovnání vedle sebe ukazuje, o kolik lépe může hluboký faleš udělat.
- Tvář Arnolda Schwarzeneggera na Billovi Haderovi: V tomto klipu se Bill Hader vydává za Arnoldův hlas a Arnoldova tvář je hluboce předstíraná Ctrl Alt Face na Haderově těle. Efekt se odstraní, když Hader použije svůj normální hlas, a použije se, když se vydává za Schwarzeneggera.
- Hlas Joe Rogana hluboce předstíraný AI: V tomto klipu byl zvuk z podcastu Joe Rogana přiváděn do algoritmu AI, aby vytvořil realistický hlasový model schopný říci prakticky cokoli.
Jak si všimnete hlubokých padělků?
Jak technologie postupuje, je stále obtížnější rozpoznat rozdíl mezi hlubokým falešným a skutečným. Některé jsou snáze rozpoznatelné než jiné, ale ty nejlepší vypadají a zní extrémně reálně. Budete mít snazší čas, abyste si všimli těch, které vytvořili amatéři, kteří nejsou schopni využít spoustu zkušeností a zpracovatelského výkonu, ale musíte dávat pozor na výmluvné známky interference AI. Zde je návod, jak odhalit hluboké falešné:
- Podívejte se na okraje obličeje: Pokud umělá inteligence nebyla vybavena dostatečnými vstupními daty, může být nová tvář nešikovně vložena na původní hlavu, což vytváří zřejmé hraniční linie nebo vede k tvaru obličeje, který nevypadá dobře.
- Prohlédněte si vlasy: Pokud vidíte jednotlivé chloupky přecházející přes obličej, je to pravděpodobně skutečné video. AI má potíže s generováním realistických vlasů a jednotlivé chloupky obvykle nebudou viditelné v částech videa generovaných AI.
- Věnujte pozornost ústům a zubům: AI má obvykle potíže s generováním jednotlivých zubů, které lze snadno zjistit, pokud je video dostatečně vysoké rozlišení. Hledejte také případné chyby při otevírání a zavírání úst.
- Pokud osoba odvrátí pohled, pozastavte video: Hluboké padělky jsou opravdu dobré, když je člověk obrácen čelem k fotoaparátu, ale mohou se potížit při přepnutí na profilový snímek nebo v případě, že se člověk úplně otočí od fotoaparátu.
- Dejte si pozor na neznámé informační zdroje: I když je možné, aby byl důvěryhodný zdroj podveden a spustil hluboký falešný, jako by byl skutečný, je mnohem méně pravděpodobné, že bude podveden, pokud se budete držet důvěryhodných zpravodajských zdrojů.