Pular para o conteúdo
Moonshot AI
← Todos os módulos
MÓDULO 02 / 16 · 4 MIN

Como uma LLM funciona?

Experimente tokens, probabilidades e janela de contexto.

Uma resposta é construída em sequência

Durante o treinamento, o modelo ajusta seus parâmetros a padrões de muitos exemplos. Na conversa, usa esses padrões e o contexto para prever os próximos tokens.

Sequência de peças azuis e claras que se ramifica em três possibilidades, com uma peça violeta escolhida.
Escolher o próximo token a partir do contexto é uma ideia central dos modelos de linguagem.Ilustração criada com IA

Tokens

São pedaços de texto: uma palavra pode ocupar um ou vários tokens.

Probabilidades

O modelo atribui chances a continuações possíveis. Provável não significa verdadeiro.

Janela de contexto

É o limite do que o modelo considera em uma interação. Conversas e arquivos ocupam parte desse espaço.

1 de 3 etapas

← → etapas · Esc sai da tela cheia · seu público participa pelo QR code