ChatGPT zapne Turbo. Slibuje násobně lepší výkon i ochranu před žalobami

Zdroj: YouTube / OpenAI

OpenAI má za sebou představení novinek svého velkého jazykového modelu ChatGPT, a to specificky pro vývojáře na svém OpenAI DevDay. Zásadní vylepšení ale postupně přijdou i pro běžné uživatele.

GPT-4 s turbo pohonem

Trénovací data až do dubna 2023

Zásadní novinkou bylo představení vylepšené prémiové verze ChatGPT-4, která nese přízvisko Turbo. Dosud byly veřejně publikované jazykové modely od OpenAI natrénovány na datech do září 2021, nyní by znalosti GPT-4 měly sahat až do dubna 2023. CEO společnosti, Sam Altman, navíc přislíbil, že data nebudou mít už nikdy takový skluz za realitou jako dosud a budou trénování dat postupně vylepšovat.

Větší kontextové okno znamená většího „pamatováka“

Dalším zásadním vylepšením je větší kontextové okno. To dosud činilo u GPT-4 4 tisíce, respektive 8 tisíc tokenů. 1000 tokenů je v angličtině cca 750 slov a délka kontextového okna vypovídá o tom, jak velkou část předchozí konverzace bere AI chatbot v potaz.

Především ve zpracování delších textů, úprav transkriptů rozhovorů a dalších úkonů vyžadujících dlouhé prompty měl dosud navrch Claude 2 s 40 tisíci tokeny. Nyní si ale ChatGPT bere zpět své prvenství s příslibem 128 tisíc tokenů a většího porozumění i při dlouhé konverzaci. Sam Altman vylepšení přiblížil:

„To odpovídá asi 300 stránkám knihy, je to 16krát více, než jsme doposud nabízeli.“   

Levnější a lépe trénovatelné

Sam Altman na DevsDay. Zdroj: YouTube / OpenAI

GPT-4 Turbo bude levnější, což je skvělá zpráva zejména pro vývojáře, kteří schopnosti přes API napojeného GPT platí právě dle využitých tokenů. S Turbem bude cena zhruba 3x levnější — cena za tisíc tokenů bude činit jeden cent (0,01 dolarů). Aplikace využívající ChatGPT-3.5 zaplatí za stejné množství 0.003 dolaru.

Možná ještě zásadnější pro vývojáře je, že na GPT-4 Turbo budou moct být s menším úsilím postavené „chatboty pro konkrétní účely“. Těm půjde snadněji a bez znalosti programovacích jazyků zadat hraní role osobnosti určitých vlastností i omezit data, ze kterých budou vycházet. Budou schopni nastudovat si potřebné klidně z hromady PDF souborů. Mnohem snadnější tak bude pro firmy například vytvořit asistenta pro interní komunikaci, kterým zaměstnancům bude dohledávat informace z vlastní „knowledge base“. Ještě častější ale mohou být chatboti pro customer care. Užiteční zákazníkům budou už krátce poté, co jim poskytnete seznam nejčastěji kladených dotazů.

A odpovídat zvládnou i hlasem. „Vývojáři nyní mohou z textu generovat řeč v lidské kvalitě prostřednictvím rozhraní API pro převod textu na řeč. Náš nový model TTS nabízí na výběr šest přednastavených hlasů a dvě varianty modelu, tts-1 a tts-1-hd. tts je optimalizován pro případy použití v reálném čase a tts-1-hd je optimalizován pro kvalitu,“ uvádí Open AI na svém blogu. Ukázku můžete slyšet ve videu níže (od času 9:02).

OpenAI ale počítá i s tím, že vznikne i velké množství komerčních AI asistentů pro roztodivné odvětví a témata. U nich se OpenAI chce podělit o zisk, který budou generovat.

Nebojte se žalob, je to na nás, říká OpenAI

Mnoho velkých společností má dosud poněkud skeptický přístup k AI kvůli opatrnosti jejich právních oddělení. Sam Altman připomněl, že ve verzi Enterprise netrénují ChatGPT na firemních datech a i uživatelé GPT-4 mohou trénování na vložených datech vypnout.

Zejména pro vývojáře tu je pak nově představená záruka Copyright Shield. Ta by měla umožnit vývoj nových aplikací s napojením na GPT do značné míry v bezstarostném stylu „move fast and break things. „Funkce Copyright Shield znamená, že zakročíme, kdykoli bude potřeba, a budeme chránit naše zákazníky před žalobami,“ vysvětlil Altman.

Těžko si představovat Copyright Shield jako bianco šek na porušování copyrightu vývojáři. Umíme si představit, že podobná záruka bude mít více na první pohled ne zcela zjevných podmínek než pojistná smlouva. Přesto jde o odvážný krok Open AI, který má dodat vývojářům sebevědomí a odvahu.

Odkdy to bude?

GPT-4 Turbo existuje ve dvou verzích: jedna je čistě zaměřená na text, druhá verze chápe kontext textu i vložených obrázků. První textová verze je nově dostupná (pro vývojáře) v rozhraní API. I běžní uživatelé by ale měli získat v prémiové verzi výhody Turba „v příštích týdnech“.

Dárkem, který si může užít velká část uživatelů nyní, je globální roll out vetknutí multifunkčnosti GPT-4 již v základním nastavení. Dosud museli uživatelé vybírat pro konkrétní úkony vhodný plugin. Nyní by měl jazykový model vybrat ten nejvhodnější dle zadaného promptu zcela sám. To je vyloženě praktické, navíc to může i značně rozšířit možnosti využití GPT-4 v režimu, kdy si neukládá data pro trénování. Právě v něm totiž nešlo pluginy — dělající celého AI chatbota násobně užitečnějším — využívat.   

Podívejte se na celé představení novinek ve videu níže.