
Een taalmodel schrijft in kleine stukjes tekst. Zo’n stukje, een token, kan een woord zijn, maar ook een deel ervan of een leesteken. Na je vraag berekent het model welke stukjes waarschijnlijk volgen. De software kan steeds de waarschijnlijkste kandidaat kiezen, of loten uit een reeks kandidaten. Bij die tweede aanpak hebben meerdere vervolgen kans om op het scherm te verschijnen.
Zodra het eerste stukje er staat, telt het zelf mee bij de volgende keuze. Begint je brief met ‘Gisteren’, dan liggen andere vervolgen voor de hand dan na ‘Met veel plezier’. Zo kan één vroege keuze twee brieven een andere kant op sturen. Probeer het ook eens andersom. Geef de chatbot precies de eerste zin en kijk waar de versies dán uit elkaar lopen.
Bron