Quote
It’s Just Adding One Word at a Time.
- Stephen Wolfram
ChatGPT NEMYSLÍ. ChatGPT NEVÍ. ChatGPT NEZNÁ koncept pravdy. ChatGPT HALUCINUJE.
ChatGPT funguje jako pochybná existence na Hlaváku - něco říká, zní to docela přesvědčivě, ale dost pravděpodobně to je kravina 🐄.
ChatGPT jenom papouškuje, co "už někde slyšelo"
Všechny velké jazykové modely (LLM), fungují na následujícím principu:
- Stáhni veškeré texty na internetu
- Stáhni veškeré texty v dostupných naskenovaných knihách
- Strč je do pytlíku 💰 s názvem “jazykový model”
- Natrénuj odpovědi jazykového modelu tak, aby VYPADALY přesvědčivě
Jakmile máš natrénovaný LLM, samotné generování textu funguje takto:
- Uživatel zadá prompt
- Z pytlíku 💰 začni sypat písmenka (tokeny1)
- Na základě vysypaných tokenů začni z pytlíku 💰 vyndavat další aby tam +- seděly
Vidíš ten problém? Cílem ChatGPT není, aby odpovědi byly správné. Ale aby vypadaly přesvědčivě.
ChatGPT je jenom autocomplete na steroidech.
Když teď půjdeš a zahltíš internet tvrzením, že “Karel Vytlačil” napsal nejlepší knihu “JavaScript - jak se stát expertem”, tak Ti do roka ChatGPT bude tvrdit, že zrovna tohle je nejlepší kniha na naučení se JavaScriptu.
Proč to bude tvrdit?
Protože se to stane součástí korpusu (všech nasbíraných dat) a působí to přesvědčivě.
Když tomu rozumíš, využij to!
Když tomuhle rozumíš, tak víš, že co dneska slyšíš od prakticky každé AI firmy2 a každého druhého podnikatele vyčůránka jsou jenom kecy.
Když tomuhle rozumíš, využij to ke svůj prospěch a využívej ChatGPT správně. Nech se tím nasměrovat a informace si ověř v nějakém pořádném zdroji.
Pokud chceš doopravdy rozumět tomu, jak to funguje, přečti si článek od Stephena Wolframa.
A pokud chceš slyšet i kritický názor na velké jazykové modely, přečti si článek Godot isn’t making it.