Deepfake (portmanteau zo slov „deep learning“ a „fake“[1]) jesyntetické médium,[2] ktoré bolodigitálne upravené tak, aby presvedčivo nahradilo osobu výzorom alebo hlasom iného človeka. Deepfake využíva metódystrojového učenia aumelej inteligencie na manipuláciu alebo generovanie vizuálneho a zvukového obsahu, ktorý má vyvolať dojem, že ide o inú osobu na danej nahrávke či zázname než v skutočnosti.[3] Hlavné metódy strojového učenia používané na tvorbu deepfake sú založené nahlbokom učení (tzv. deep learning) a zahŕňajú trénovanie generatívnychneurónových sietí, ako súautoenkódery alebogeneratívne antagonické siete. Naopak oblasť forenznej analýzy obrazu vyvíja techniky na detekciu manipulovaných obrázkov.[4]
Deepfake je možné vytvoriť vytrénovaním modelu umelej inteligencie na základe veľkého množstva existujúcich fotografií alebo nahrávok s cieľovou osobou. Tieto dáta sa použijú na trénovanie strojových učiacich sa modelov. Učiace sa modely, najčastejšiekonvolučné neurónové siete pre videá aleborekurentné neurónové siete pre zvuk, sa trénujú na analýzu a reprodukciu charakteristík tváre alebo hlasu cieľovej osoby.[5] Po trénovaní modelu možno vytvoriť deepfake obsah tým, že sa modelu poskytnú vstupné dáta (napríklad fotografia tváre alebo zvuková nahrávka) a nechá sa vytvoriť odpovedajúci obsah, ktorý simuluje tvár alebo hlas cieľovej osoby. Ak ide o deepfake tváre, je nutné resp. minimálne sa odporúča zbaviť sa čo najviac fotiek, ktoré sú rozmazané pri pohybe. Deepfake môže byť následne doladený, aby bol výsledok ešte presnejší a autentickejší. To môže zahŕňať napríklad úpravy farieb, osvetlenia, zaostrenia tváre, prípadne úpravy hlasitosti. Najlepší výsledok, ak ide o deepfake tváre, sa dosiahne vtedy, ak človek na zázname, ktorého tvár nahradzujeme, má v tvári spoločné črty s človekom, ktorého tvár má byť na výsledkom.[6]
Deepfake získal veľkú pozornosť médií a predstaviteľov mnohých štátov hlavne kvôli ich potenciálnemu využitiu pri tvorbedetskej pornografie,pornografických videí scelebritami,falošných správ,kyberšikany, či finančných alebo iných druhov podvodov. Šíreniedezinformácií a nenávisti prostredníctvom tohto média má potenciál podkopať základné funkcie a normy demokratických systémov tým, že zasahuje do schopnosti ľudí zúčastniť sa rozhodovania, určovať kolektívneagendy a vyjadrovať politickú vôľu prostredníctvom informovaného rozhodovania.[5] Toto všetko vyvolalo reakcie, či už zo strany priemyslu alebo alebo zo strany vlád, aby sa snažili detegovať a obmedzili použitie deepfakeu. Vlády mnohých štátov si zároveň určili ako prioritu zabezpečenie vzdelávania a rozširovania povedomia svojich občanov o existencii takéhoto média, čím ich zároveň učia deepfake rozpoznávať.[5]
Deepfake sa však aj používa aj ako prvok v oblasti zábavy v rôznych neziskových experimentoch, audiovizuálnych experimentoch, komerčných filmoch, edukačných videách až po politickúsatiru. Technológia deepfake musí byť vo všetkých prípadoch priznávaná a nemôže sa považovať za skutočnú udalosť, či skutočnú osobu.[7] Deepfake bol napríklad použitý vo filmeIndiana Jones a nástroj osudu (2023), kedy touto technológiou digitálne omladili hercaHarrisona Forda.[8]
Commons ponúka multimediálne súbory na témuDeepfakeTento článok je čiastočný alebo úplný preklad článkuDeepfake na anglickej Wikipédii.
