Como uma LLM funciona?

AprendAI. Módulo 2. Como uma LLM funciona? Uma experiência gratuita da Moonshot AI, com curadoria de Augusto Salomon. Esta é uma narração sintetizada em português. Uma resposta é construída em sequência. Durante o treinamento, o modelo ajusta seus parâmetros a padrões de muitos exemplos. Na conversa, usa esses padrões e o contexto para prever os próximos tokens. Tokens. São pedaços de texto: uma palavra pode ocupar um ou vários tokens. Probabilidades. O modelo atribui chances a continuações possíveis. Provável não significa verdadeiro. Janela de contexto. É o limite do que o modelo considera em uma interação. Conversas e arquivos ocupam parte desse espaço. Agora, imagine esta situação. O contexto muda a continuação. Complete mentalmente: “Na biblioteca, reservei um…”. Agora troque biblioteca por restaurante e observe as possibilidades. O que muda quando o contexto muda? Palavras próximas ajudam a tornar algumas continuações mais prováveis. Um modelo de linguagem usa o contexto disponível para produzir a sequência de tokens. Token é sempre uma palavra inteira? Não. Um token pode ser uma palavra, um pedaço de palavra ou outro elemento de texto. As divisões variam entre modelos e idiomas. Uma sequência provável é uma informação verdadeira? Não necessariamente. Produzir uma frase coerente não comprova um fato. Dê o contexto relevante e confira as afirmações importantes em fontes apropriadas. Sua vez de experimentar. Escolha o próximo pedaço. Você pode pausar o áudio para fazer a atividade no portal ou responder à reflexão no material para download. Leve para a prática. Treinamento e uso na conversa são momentos diferentes. Dar contexto orienta a resposta; não garante acerto. Uma conversa não altera automaticamente os parâmetros do modelo. Para continuar na Luna, use este pedido: Explique tokens e janela de contexto usando uma analogia simples. Depois me faça uma pergunta para verificar se eu entendi. Antes de seguir, escolha uma ideia que você pode testar e explicar a outra pessoa. Aprender, experimentar e compartilhar são formas de ampliar oportunidades.