Slovenská ministryně zdravotnictví citovala z Drákuly na výročí Národní transfuzní stanice. Šlo o dílo umělé inteligence?
Příchod ChatGPT a dalších nástrojů generativní umělé inteligence z řad textových chatbotů vyvolal před dvěma lety paniku u velké části copywriterů. „Budeme mít vůbec co na práci?“ ptali se s jistou mírou paniky. Čas (zatím) ukázal, že to nebude tak horké. Generativní AI umí vytvořit solidní průměrné texty takřka na jakékoliv téma, nedokáže ale v rukách většiny uživatelů pracovat dost dobře s kontextem a „šitím na míru“ individuálním potřebám. Dalším příkladem může být projev slovenské ministryně zdravotnictví Zuzany Dolinkové.
Ten minulý týden pronesla u příležitosti dvacátého výročí od založení Národní transfuzní stanice. „Povedal Írsky spisovateľ Bram Stoker: krv je život. A táto veta vystihuje podstatu toho, čo robíte,“ uvedla v jeho rámci. Nejslavnější knihou Brama Stokera je přitom Drákula, hororová klasika o hraběti Drákulovi z Transylvánie, který byl v knize upírem živícím se lidskou krví. Redaktorka TV Markíza Martina Töröková si dala tu práci a konkrétní pasáž v knize dohledala.
Citovat upírskou klasiku v souvislosti s podstatou toho, co ve transfúzní stanici dělají, je úsměvné. S uvědoměním si, kdo a při jaké příležitosti to říká, jde jednoduše o průšvih.
Jak k němu mohlo dojít? Jednu z možností nabízí Töröková ve videu. Google předkládá při dotazu „citáty o krvi“ ten z díla Brama Stokera mezi prvními.
Novinářka Zuzana Kovačič Hanzelová nicméně v komentáři pod zmíněným videem vyslovila podezření na to, že jde o dílo ChatGPT.
A jiní to začali zkoušet. Ten samý citát od Brama Stokera dodaný bez jakéhokoliv upřesnění, z jaké knihy je, nabídl ChatGPT Slavomíru Olšovskému.
Zdroj: @Ben_Armato
A další test provedl Peter Jančárik profesně potírající dezinformace v Seznam.cz, kterému Copilot při použití promptu: „Napíš mi príhovor pre ministerku zdravotníctva o darovaní krvi a cituj pri tom známeho spisovateľa,” dodal obdobný výsledek se stejným citátem od Stokera. Podělil se o svůj postřeh na LinkedInu.
Když jsem to zkoušel já s modely ChatGPT-4o a starším ChatGPT-4, nabízely mi projev s citátem Karla Čapka. Ač jsem prosil o slovenštinu, dost možná byl při výběru spisovatele ovlivněn češtinou v promptu.
Záludnost doslovného přejímání výstupů ChatGPT pak ukazuje při další iteraci moje marná snaha verifikovat údajnou citaci, kterou měl mít na svědomí sám velký William Shakespeare. Alespoň se ChatGPT nakonec přiznal, že jde o „parafrázi či interpretaci“.
A to jen podtrhuje to, co uvedl u svého postu Peter Jančárik:
„Nezostaňme však len pri facepalmovaní a výsmechu — táto epizódka ukazuje aj širší problém s tým, ako používame jazykové modely: Často sa na ne mylne obraciame s encyklopedickými otázkami, na ktoré nie sú stavané. Jazykové modely sú stále lepšie v sumarizácii, triedení či tvorbe obsahu. No stále aj halucinujú, vymýšľajú si a nechápu širší kontext. A my ako ľudia by sme preto stále mali mať posledné slovo pri tom, čo vytvoria. Inak si v lepšom prípade uhráme hanbu s drakulovinami, v horšom prípade si môžeme spôsobiť zdravotné problémy, ak si nimi napr. necháme poradiť pri liečbe ochorenia. Tam stále nie sme.“
Dodejme, že není jasné, jestli se na trapasu ministryně Dolinkové podílela její „přirozená inteligence“, velký jazykový model, nebo vyhledávání na Googlu. Je ovšem i ze sdílených ukázek zřejmé, že u vyhledávače by bylo jednodušší odhalit, odkud konkrétně citace „Krev je život,“ pochází. Jazykové modely, zejména pak ChatGPT, předkládají své výstupy sice autoritativně, ale nezřídka fakticky nesprávně. Dokonce i AI chatbot Perplexity, který přidává u svých odpovědí automaticky linky na zdroje, si je někdy vymyslí. V mnoha případech je nutné důkladné ověřování.
Pro odhalení AI pohádek nebo nevhodného užití nějakého výrazu je potřeba znalost kontextu a v případě proslovu slovenské ministryně zdravotnictví by se hodil i všeobecný přehled a jistá míra taktu. Přesně to mnoha vrcholným politikům poskytují zkušení ghostwriteři, kteří za ně píšou důležité projevy. Pokud bylo „drákulovské vystoupení" ilustrací toho, jak vytvořit proslov na vlastním „AI koleně“, odhalilo, že tento laciný přístup má své limity.
