Váš video avatar naklonovaný AI čeká
Zdroj: Jesse Wellens / YouTube
Lidé, kteří jsou schopní vystupovat před kamerou, mají velkou výhodu. K předávaným informacím dokážou vtisknout i svou osobnost a takovýto formát má potenciál vyvolat větší důvěryhodnost než psaný nebo mluvený text. Ve videu přímo vidíte člověka, co si za předávanými informacemi stojí — nástupem generativní AI to ale přestává platit. Nový nástroj na obzoru už nepřináší pouze možnost vytvořit avatary, které jako by vypadly z počítačových her.
CEO společnosti HeyGen, Joshua Xu, představil svého video avatara, který byl údajně vycvičen z pouhých 2 minut video záběrů toho, jak mluví na kameru. Realističnost videa s avatarem je přitom ohromující.
[NEW] - Joshua Avatar 2.0. Both of these video clips were 100% AI-generated, featuring my own avatar and voice clone.
— Joshua Xu (@joshua_xu_) August 8, 2023
We've made massive enhancements to our life-style avatar's video quality and fine-tuned our voice technology to mimic my unique accent and speech… pic.twitter.com/9EgxRA69dg
Další avatar vzniklý se stejným softwarem představil youtuber a vlogger Jesse Wellens stojící za YouTube kanálem PrankvsPrank s téměř 20 miliony sledujícími.
THIS IS AI!! Ok it’s getting crazy! This was made using @HeyGen_Official pic.twitter.com/dsmyJpsUwS
— Jesse Wellens (@Jessewelle) August 11, 2023
Velkou přehlídkou více dostupných AI video nástrojů je pak video na jeho osobní YT kanále nazvané „YOUTUBE IS DEAD! AI Is coming“. V něm hodnotí i výkon HeyGen jako obdivuhodný, ač přiznává, že hlas převedený z textového zadání nezní zcela autenticky.
Tento aspekt se ale může rozhodně zlepšit. Zatím je totiž HeyGen v beta testu a vy se můžete přihlásit na čekací listinu. Už nyní ale představené výsledky nejsou příliš daleko od nerozpoznatelného klonu. Což s sebou nese pochopitelně výhled výrazně zmenšených nákladů na videoprodukci, stejně jako záplavu mluvících hlav vyskakujících na vás například z e-mailů místo či jako doplněk psaného textu.
Také v sobě cítíte tu rozpolcenost? Jestli tento svět něco nepotřebuje, tak je to záplava dalších youtuberů. Právě kvůli zvýšené důvěryhodnosti videa ale podobný software pochopitelně zvyšuje pravděpodobnost jeho zneužití pro nekalé praktiky.
Představte si krátký video hovor s vaším šéfem, jenž vám zadá poněkud zvláštní úkol. Při daném formátu ho budete zpochybňovat s mnohem menší pravděpodobností, než kdyby šlo o další e-mail scam. Přesně takového scénáře se obávají odborníci na kyberbezpečnost. Nejde totiž o nic, co by se nepodařilo i s mnohem méně vyvinutou technologií. Bloomberg například upozorňuje na případ z roku 2019, kdy převedl CEO britského poskytovatele energie 220 000 eur (cca 4,9 milionu korun) podvodníkovi poté, co mu zavolal člověk, který zněl jako šéf německé mateřské společnosti, a požádal ho, aby převedl peníze maďarskému dodavateli. Hlas byl generován pomocí umělé inteligence.
S AI technologiemi typu HeyGen je riziko úspěšnosti podobných útoků mnohem větší. A upřímně hrozí v něčem více než možné nahrazení youtuberů s propracovaným video obsahem nebo proměna filmových studií v digitální společnosti hýčkající si své AI hvězdy, co neodmlouvají a na place jsou vždy přesně, a to i bez požadavků na fér honorář nebo přijatelné pracovní podmínky. Herci pochodující momentálně před filmovými studii v Los Angeles si to ale nemyslí. Mimo volání po lepší odměně, zejména za vysílání na streamovacích službách, jsou mezi jejich požadavky i ty na opatření, která by zabránila tvorbě jejich AI klonů.
