Facebook prozradil, co udělá s deepfake videi

Lidé sdílí na Faceboku miliony fotografií a videí každý den a mnohdy se jedná o velmi kreativní a působivé vizuály. Řada z nich je ovšem upravovaná. V případě videí jsou důvody jako ostřejší obraz nebo čistší zvuk jsou pochopitelné a mnohdy je očekáváme. Problém nastává, když je video upraveno se záměrem šířit nepravdivé informace.

V posledních měsících se stále častěji objevují tzv. deepfake videa. Ta pracují s tím, že obličej jednoho člověka věrohodně nahradí ve vybraném videu obličej někoho jiného. Některé nástroje pro tvorbu deepfake videí jsou natolik pokročilé, že výsledek působí velmi realisticky, včetně podchycení mimiky. Příkladem je video, ve kterém Obama, Trump nebo Putin společně zpívají Lennonovu píseň Imagine.

Facebook si uvědomuje, že tato videa reprezentují velkou výzvu samotné společnosti. Snadno se může stát, že významnému politikovi budou vložena do úst slova, která by neřekl. Lidé v takovém případě nebudou vědět, že se nejedná o skutečnost. I z tohoto důvodu Facebook uveřejnil své postupy, které využívá ve vztahu se zmíněnými deepfake videi a všemi typy upravených médií. Tyto postupy se skládají z několika kroků, mezi nimi například:

● přezkoumání obsahu, který vygenerovala umělá inteligence;

● kontrola falešných účtů;

● spolupráce s akademiky, vládou a průmyslem, aby došlo k odhalení těch, kteří za šířením nepravdivých informací stojí.

Spolupráce je základ

Dle Facebooku komunikují s více než 50 světovými odborníky z oblasti technologií, politiky, médií, akademiky atd. Společně se snaží upravit Podmínky užívání Facebooku a nástroje pro odhalování upravovaných médií.

S ohledem na tuto spolupráci Facebook zpřísňuje svá pravidla vůči deepfake videím. V případě, že videa budou odpovídat následujícím hodnocení, budou z Facebooku odstraněna:

● Video byl upraveno více než jen za účelem pro zvýšení kvality a mohlo by zmást lidi do té míry, že by si mysleli, že osoba ve videu řekla slova, která ve skutečnosti neřekla.

● Jedná se o výtvor umělé inteligence nebo strojového učení, kdy došlo ke změně, sloučení či nahrazení obsahu způsobem, který vypadá jako originální.

Tato pravidla se ovšem nevztahují na videa, která jsou parodií či satirou. Současně stále platí všechna pravidla vztahující se na fotografie a videa. Tedy například zákaz nahoty, nenávistný obsah, násilí apod. Takový obsah bude z Facebooku odstraněn bez ohledu na to, jestli se jedná o deepfake videa nebo ne.

Dosah obsahu bude omezen

Facebook dále upozornil, že i když se videa nebudou týkat výše uvedené body, stále může být překontrolováno některou z nezávislých spolupracujících třetích stran . Tato kontrola probíhá ve více než 40 jazycích, a pokud bude vyhodnoceno coby lživé nebo částečně lživé, bude výrazně omezen jeh dosah v rámci News Feedu a nebude možné na něj realizovat inzerci.

Současně lidé, kteří by chtěli takové video sdílet, uvidí výstrahu, že se jedná o podvodný obsah. Lidé tak obdrží důležitou informaci a kontext a dle Facebooku je tento přístup efektivnější než mazání veškerého lživého obsahu.

Vzdělávání veřejnosti

Facebook se snaží i nadále odhalovat upravený obsah, přičemž deepfake videa jsou pro detekci nejtěžší. Z tohoto důvodu v září loňského roku spustil tzv. Deep Fake Detection Challenges, do které se zapojili lidé z celého světa a vznikla tak řada open source nástrojů a výzkumů pro odhalování deepfake videí. Tento projekt je podporován granty v hodnotě 10 milionů dolarů a zahrnuje například MIT, Microsoft či BBC.

Současně Facebook uzavřel partnerství s Reuters a společně chtějí lidem umožnit odhalovat deepfake videa a naučit se je rozpoznávat skrze online kurz, který je zdarma.

Všechny tyto aktivity mají za cíl i nadále vylepšovat Podmínky používání Facebooku a vyvinout nástroje, které umožní s deepfake videi efektivně pracovat.

Zdroje: Facebook, Social Media Today