Rozbíjející tokeny v ChatGPT
Datum publikování: 19. 2. 2023
Výzkumníci objevili, že populární software ChatGPT se začne chovat velmi podivně, pokud se mu na vstup napíšou konkrétní zdánlivě nesmyslná sousloví: SolidGoldMagikarp (s mezerou na začátku), TheNitromeFan, attRot a další. Buď si je poplete s úplně nesouvisejícím slovem, nečekaně skončí, nebo začne generovat nesmysly. Stejná chyba postihuje i starší verze GPT-3 a GPT-2. Ve veřejných instancích provozovaných společností OpenAI byla ale již záplatována,...
