AprendAI. Módulo 2. Como uma LLM funciona?

Uma experiência gratuita da Moonshot AI, com curadoria de Augusto Salomon. Esta é uma narração sintetizada em português.

Uma resposta é construída em sequência. Durante o treinamento, o modelo ajusta seus parâmetros a padrões de muitos exemplos. Na conversa, usa esses padrões e o contexto para prever os próximos tokens.

Tokens. São pedaços de texto: uma palavra pode ocupar um ou vários tokens.

Probabilidades. O modelo atribui chances a continuações possíveis. Provável não significa verdadeiro.

Janela de contexto. É o limite do que o modelo considera em uma interação. Conversas e arquivos ocupam parte desse espaço.

Agora, imagine esta situação. O contexto muda a continuação. Complete mentalmente: “Na biblioteca, reservei um…”. Agora troque biblioteca por restaurante e observe as possibilidades.

O que muda quando o contexto muda? Palavras próximas ajudam a tornar algumas continuações mais prováveis. Um modelo de linguagem usa o contexto disponível para produzir a sequência de tokens.

Token é sempre uma palavra inteira? Não. Um token pode ser uma palavra, um pedaço de palavra ou outro elemento de texto. As divisões variam entre modelos e idiomas.

Uma sequência provável é uma informação verdadeira? Não necessariamente. Produzir uma frase coerente não comprova um fato. Dê o contexto relevante e confira as afirmações importantes em fontes apropriadas.

Sua vez de experimentar. Escolha o próximo pedaço. Você pode pausar o áudio para fazer a atividade no portal ou responder à reflexão no material para download.

Leve para a prática. Treinamento e uso na conversa são momentos diferentes. Dar contexto orienta a resposta; não garante acerto. Uma conversa não altera automaticamente os parâmetros do modelo.

Para continuar na Luna, use este pedido: Explique tokens e janela de contexto usando uma analogia simples. Depois me faça uma pergunta para verificar se eu entendi.

Antes de seguir, escolha uma ideia que você pode testar e explicar a outra pessoa. Aprender, experimentar e compartilhar são formas de ampliar oportunidades.