Jan Romportl na WebTop100: AGI přichází a my na to nejsme připraveni

V polovině listopadu proběhl další ročník konference WebTop100, v rámci které byly oceňovány ty nejlepší projekty z oblasti digitálního marketingu. Jedním z přednášejících byl také Jan Romportl, freelance AI konzultant, zakladatel startupu a bývalý šéf AI centra v O2 a ve skupině PPF, jehož misí je vzdělávat širokou veřejnost o umělé inteligenci, jejích výhodách i hrozbách, které pro společnost představuje. V rámci své přednášky Marketing v novém AI světě hovořil o prognózách spojených s příchodem obecné umělé inteligence (Artificial General Intelligence, ve zkratce: AGI), o jejích nástrahách a hlavně o tom, co můžeme my lidé (nejen marketéři) pro záchranu našeho světa udělat.

Hned v úvodu své prezentace Jan Romportl vymezil základní pojmy, od kterých se celá přednáška odvíjela.

• Inteligence – schopnost dosahovat cíle.
  
  
• Úzká inteligence – schopnost dosahovat úzce vymezeného cíle.
  
  
• Obecná inteligence – schopnost dosahovat jakéhokoliv cíle. Je vůbec možná? Jedním z příkladů může být i lidská inteligence (Human Level Intelligence). Člověk je meat machine, počítací stroj založený na masovém hardwaru.
  
  
• Umělá inteligence – nebiologický systém, který je schopný dosahovat cíle.
  
  
• V případě, že je cíl pro umělou inteligenci zadán konstruktérem, hovoříme o úzké umělé inteligenci. Pokud je schopna se učit sama, jedná se o obecnou umělou inteligenci.
  
  
• Obecná umělá inteligence – AI, která je schopna dosahovat jakéhokoli cíle.
  
  

A podle Jana Romportla je schopná jej dosahovat lépe než člověk. Co by pro lidstvo její příchod znamenal?  „My jako homo sapiens, nedomrlý živý organismus, který byl podle Harariho (Yuval Noah Harari, autor knihy Sapiens, pozn. red.) v době celého vývoje až za hyenami, jsme to díky naší inteligenci dotáhli tam, kde jsme teď. A teď se tu objeví nebiologická entita, které předáme všechno, čeho jsme doposud byli pány. A nejsme na to vůbec připraveni,” vysvětlil Jan Romportl.


Jan Romportl na konferenci WebTop100

Zatímco ještě v loňském roce bychom s ohledem na predikce předpokládali, že máme minimálně 25 let čas se na příchod AGI připravit, nyní se ukazuje, že je reálná šance, že se poprvé objeví už v tomto desetiletí. A podle Jana Romportla se bude jednat o ten nejzásadnější pokrok v historii života na Zemi, možná ve vesmíru.

AGI přichází…

Na základě čeho je ale Jan Romportl přesvědčený o tom, ze se příchod AGI blíží? Nasvědčují tomu odhady na predikčních trzích. Na portálu Metaculus byla v únoru 2020 zveřejněna výzva: „Určete datum, kdy přijde první AGI.” Tou dobou se mediánová predikce komunity pohybovala kolem začátku května roku 2057. V prosinci roku 2021 se však odhadovaná doba zkrátila na rok 2043. Na konci listopadu 2022 se predikce posunula na březen roku 2028. A musíme brát v potaz i fakt, že 50 % forecasterů si dokonce myslí, že k jejímu příchodu dojde i dříve.

 Zdroj: Prezentace Jana Romportla na WebTop100

Predikce sice předpovídají příchod tzv. slabé AGI, která ještě není na úrovni lidské inteligence, je však podle Jana Romportla důkazem toho, že je AGI možná. „Věřte mi, že jakmile přijde weakly AGI, půjde ten onset už rychle,” míní Jan Romportl.

Z jakého důvodu došlo během posledního roku k tak výrazným změnám v predikcích? Podle Jana Romportla je zapříčinily tři průlomové objevy v oblasti AI:

• nové jazykové modely –LLM;
  
  
• modely vizuální konceptualizace světa;
  
  
• multimodální modely.

Jazykové modely - LLM (Large Language Models)

Jazykový model je statický AI nástroj, který predikuje slova a jejich sekvence. „Vaše neuronová síť, zhruba osmdesát miliard jednobuněčných živočichů ve vaší hlavě, kteří realizují myšlení, modeluje jazykovou funkci. Cítíte, jak to chutná, když ten jazykový model počítá v té hlavě.”

V AI jsou dnes jazykové modely realizovány specifickou třídou umělých neuronových sítí nazývanou transformery. V roce 2020 společnost Open AI zveřejnila třetí generaci gigantického transformerového modelu s názvem GPT3. Jedná se o ohromnou síť, která má 170 miliard parametrů. Ukázalo se, že tento jazykový systém dokáže generovat texty nerozlišitelné od člověka, vést dialog a vymýšlet vtipy, psát poezii a povídky, ale také fake news, dokáže psát jednoduché programy, logicky uvažovat, zobecňovat, odvozovat z faktů, počítat. Má takzvaně selský rozum. „Nikdo jí to neučil. Ona stáhla celý internet a učila se predikovat, že po Ema mele bude asi následovat maso. Hovoříme tu o tzv. brute force přístupu, který nemá zájem AI něco rafinovaně učit, stáhne celý internet, hodí tam peníze, model se naučí predikovat a my získáme skoro obecně inteligentní systém,” vysvětlil Jan Romportl.

Zásadní roli u jazykových modelů hraje právě jejich velikost. Od roku 2018 exponenciálně roste počet parametrů jazykových modelů, které se objevují na trhu. V roce 2019 se objevil model GPT2 a postupem času vznikaly stále větší modely o velikosti až zhruba pět set miliard parametrů.

V dubnu 2022 se objevil model Google PaLM, který obsahuje 540 miliard parametrů. Model funguje na základě podobné transformerové architeltury jako jeho předchůdci. „Perete do ní celý internet a necháte ji predikovat jeden a ten samý úkol a jen zvětšujete množství parametrů a trochu upravujete trénovací algoritmus. Ona se všechno učí sama,” objasnil Jan Romportl. 

Zde vyzdvihnul, jaké možnosti mohou jazykové modely představovat pro marketéry, copywritery a další tvůrce obsahu. „Existuje šance kolem 50 %, že do dvou let přestane jednoduchý juniorní copywriting existovat. Pro ty sofistikovanější tvůrce budou jazykové modely naopak žádoucím rozšířením jejich vlastních dovedností,” míní Jan Romportl. Již dnes na trhu existují produkty jako Scalenut, copy.ai nebo Grammarly, které jsou schopné sestavit koherentní text bez gramatických i stylistických chyb. Psaní některých PR článků a textů tak bude možné přenechat čistě na AI. 

U textu to ale nekončí. Je pravděpodobné, že se brzy dočkáme i toho, že za nás AI bude vytvářet obrázkové prezentace nebo produktové katalogy. I když k tomu bude podle Jana Romportla cesta o něco delší než v případě textu. 

Difuzní modely

Velký vliv na zlom v oblasti AI měly výtvory difuzních modelů, jako je například Midjourney, Stable Diffusion, DALL.E 2. Ty fungují obdobně jako jazykové modely s tím rozdílem, že vytváří obrázky na základě textových popisů. „Princip je totožný, ale difuzní modely propojují svět jazyka se světem vizuální reprezentace. Rozumí, co to znamená znamenat, a rozumí, co jsou koncepty vizuální reality, jak je vnímáme my jako lidé.”

Google Brain později zveřejnil svůj nástroj Imagen, která rozumí i kompozicionalitě obrazu. Což je velký rozdíl, oproti dříve jmenované konkurenci. Na rozdíl od ní Imagen na základě promptu posadí čivavu na krabici a vedle ní umístí tygry v podobě oblečených soch. Třeba u DALL.E2 by tyto prvky byly spíše „někde v prostoru”.

Socratic models

Posledním zásadním zlomem v predikcích byly tzv. socratic models. „Věřte mi, že to funguje tak famózně, že když vezmete textové, vizuální a audio modely natrénované na celém internetu a necháte je spolu šikovně mluvit anglicky, získáte něco, co je velice blízké obecné inteligenci u člověka. Nazývá se to zero shot learning.”

Co znamená termín zero-shot learning? To, že se systém dokáže vypořádat se situacemi, které předtím nezažil. V případě tzv. multi-shot learning dokázal systém na základě milionů obrázků auta vyhodnotit, co je auto. One-shot learning Jan Romportl přirovnal k učení dítěte, kterému stačí jednou ukázat na auto a příště jej rozpozná.  A právě zero-shot learning je něco, čeho jsme byli svědky v AI právě letos. 

… a my na příchod AGI nejsme připravení

„Co víme skoro jistě? Ve středně až dlouhodobém hledisku AI překoná člověka v jakémkoliv kognitivním úkolu. U narrow AI, která řeší specifické úkoly typu zaparkuj, přelož, rozpoznej, hraj šachy - tam to víme jistě. U AGI to víme skoro jistě, i když tam ještě nejsme,” shrnul předchozí výklad Jan Romportl. 

„Takže si říkáte, že když tu AI vyvíjejí chytří lidé, tak je všechno pod kontrolou a nemáme se čeho bát. Ale ono je to úplně naopak.” 

Na jednu stranu vzniká vědní obor zvaný AGI alignment, jehož cílem je uspořádat hodnoty AI tak,  aby byly kompatibilní s hodnotami lidstva. „Vzniká ale za situace, kdy my sami ani nevíme, jaké ty hodnoty lidstva jsou. A ještě horší je představit si, jaké jsou asi hodnoty jednotlivce. Je důležité si uvědomit to, že veškeré altruistické chování a tribální koordinace jsou evolučně vymezeny tím, že všichni lidští nositelé obecné inteligence jednou zemřou, a také tím, že mají hrozně omezenou koordinační schopnost s ostatními jednotlivci,” objasnil Jan Romportl. Poté vyzval auditorium k tomu, aby si představilo, o kolik by byla situace jiná, kdyby bylo možné, že si všichni lidé v sále rychlostí světla vzájemně nasdílejí kódování informací, které mají na úrovni neuronů ve svých mozcích. A že přesně tyto možnosti bude mít právě AGI.

Problém tedy podle Jana Romportla spočívá v tom, že obor AGI alignment za čtyři roky své existence neučinil žádný zásadní pokrok, ba naopak ukazuje, že je to úkol ještě daleko složitější, než se původně myslelo. A je to právě v době, kdy AI učinila zásadní pokroky a předpokládaný příchod AGI je v horizontu pár let. Dokonce i odborník na AGI alignment a zakladatel Machine Intelligence Institute, Eliezer Yudkowsky, je ohledně postupu AGI alignmentu natolik skeptický, že v dubnu letošního roku trochu s nadsázkou, avšak jinak dost vážně oznámil, že MIRI ohlašuje novou strategii – zemřít důstojně. Tímto prohlášením přinejmenším dost hlasitě bije na poplach.

„Takže i tenhle člověk si myslí, že to nedáme. A že když už máme zahynout, tak důstojně. Je to stejné, jako když Aragorn poté, co mu ukážou Frodovo vestičku a všem je jasný, že je Frodo mrtvej, zařve 'for Frodo' a běží do Mordoru…tak takhle nějak vypadá death with dignity,” úsměvně přiblížil Jan Romportl aktuální situaci.

Pokračoval tvrzením, že i kdyby lidstvo zvládlo jeho jednodušší verzi, tzv. prosaic alignment a dokonce i kdyby zvládlo AGI alignment, jednalo by se stále o modelovou situaci, ve které by se lidstvo v míru spojilo a snažilo se s nástupem AGI vypořádat.

„No a teď se podívejte, v jakém světě žijeme. Žijeme ve světě, kde jsme totálně pod tlakem cybernetic warfare. Aktuálně se navíc nacházíme i na válčišti tzv. congnitive warfare (tu Jan Romportl označuje za šestou operační doménu po zemi, vodě, vzduchu, vesmíru a kyberprostoru, pozn.red.), kde se bude protivník snažit distortovat realitu ve společnosti a paralyzovat člověka tak, že nebude schopen reflektovat, co se v realitě děje. A tomu přesně v tuhle chvíli čelíme my. AI už je nasazovaná na straně útočníka. Na straně obránce to nevíme. Takže to vůbec není diskuze o tom, jestli bude AI masově zneužita, protože víme, že bude. Diskuze je spíše o tom, kdy to bude, a hlavně jak se tomu bránit.”

Jak jsme se sem dostali?

Podle Jana Romportla jsou částečně na vině i samotní specialisté v rámci AI komunity, kteří v rámci své práce podceňují rizika AI a nepociťují zodpovědnost za své činy. Mnoho z nich vyvíjí inteligentní systémy čistě za účelem profitu a na jejich bezpečnost nedbá. „Když dáte tohle do protikladu s jaderným inženýrstvím, tak tam si člověk tu bezpečnost rozmyslí, protože když něco zanedbá a potom se mu do týdne rozpadnou tkáně, tak už to vyšle nějaký signál,” uvedl na příkladu. V porovnání s tím ale nebezpečí spojené s AI bohužel tolik zjevné není. 

Jak z toho ven?

Chybně vytvořená AI je jen jedním z existenčních rizik, která mohou zapříčinit konec lidstva. A že jsou šance na náš zánik v tomto století poměrně vysoké - 1:6. S tímto odhadem pracuje ve své knize The Precipice (v českém jazyce vydáno pod názvem Nad propastí, pozn. red.) oxfordský filozof Toby Ord. 

Nejpravděpodobnější konec naší civilizace představuje v poměru 1:10 právě chybně vytvořená AI, následovaná uměle vytvořenou pandemií.Všechna uvedená rizika mají něco společného -- jsou antropogenní. To znamená, že je způsobují sami lidé. A právě tady leží naděje na záchranu lidstva. Protože pokud je lidé způsobují, mají také možnost je odvrátit.

Máme na to ale poměrně málo času, podle Jana Romportla možná deset, maximálně dvacet let. „Je to jako když vytahujete sklo z pece, je vláčné a flexibilní a vy z něj můžete něco vytvořit. Jakmile vychladne, je to konečná. Takže my se teď nacházíme v momentě, kdy můžeme vytvořit  takový substrát, na kterém se civilizace dál bude vyvíjet dobře. Nebo to taky můžeme masivně podělat. “ 

Bude to složité, ale není to podle něj nemožné. Jako příklad uvedl vymýcení otroctví kvakery v polovině devatenáctého století, kdy se poměrně malé skupině lidí podařilo změnit zásadní hodnoty lidstva.

Naším cílem by tedy mělo být docílit toho samého, jen s ohledem na naše vlastní existenční rizika, mezi kterými je chybně vytvořená AI tím největším. Podle Jana Romportla nám ale právě AI, v případě, že se nám podaří tento problém vyřešit, může zásadně pomoci s řešením těch ostatních.  

Jak této změny docílit? V první řadě bychom měli jako lidstvo hledat správné modely světa. „To je dost těžké. To znamená, že to, jak si představujeme, že svět funguje, tak aby tak skutečně fungoval. Když je Země kulatá, je dost hloupé mít představu, že je placatá,” uvedl na příkladu Jan Romportl.

Svou roli při záchraně světa mohou sehrát ale i marketéři. Podle Jana Romportla je důležité si uvědomit, že mentální zdraví soudobé společnosti není ideální.  „Polovina společnosti se nachází v nějakém psychopatologickém stavu, to znamená třeba na hranici depresivity, hladina kortizolu je extrémně vysoká, anxieta (úzkost, pozn. red.) se dynamikou sociálních sítí a hybridní války neustále zvyšuje…a do toho přichází reklamní kampaně typu 'svět se zbláznil, je to hrozný, všechno se zdražuje, pojďte jenom k nám, bude to dobrý.' Přiléváte tím olej do ohně. Benzín do letlampy u obrovský nádrže benzínu, která je u atomové bomby,” doplnil Jan Romportl. „Takže nebuďte chamtiví.”

Ačkoliv je pracovní náplní marketérů přesvědčit zákazníky, aby si zakoupili produkt, který často ani nepotřebují, existuje zde jistá etická hranice, za kterou by neměli zajít. Zároveň může dobře uchopený marketing podle Jana Romportla hrát klíčovou roli v nastavování správných modelů světa, změně životních hodnot, a tím i ve snižování úzkosti ve společnosti. Nestačí k tomu ale jedinec. Hovoří o celé společnosti, která potřebuje změnu narativu.

Znamená to, že pokud se marketing promění, tak zanikne? Toho se podle Jana Romportla bát nemusíme. „Dobrý marketér bude s pomocí AI ještě lepším. Nabídne mu totiž jedinečné možnosti k rozšíření jeho schopností a skvělé nástroje,” uvedl. „Teď bychom se měli spíše obávat toho, jak zachovat svět, ve kterém budeme moci marketing dále dělat. Pracujte na tom a já budu ve svém oboru dělat to samé,” zakončil svou přednášku.