Termos - Parameters
Em um LLM, parameters são os valores numéricos que o modelo aprende durante o treinamento. Eles determinam como o modelo transforma os dados de entrada em previsões. Microsoft Learn
Artigos: página 3
Termos - Pretrained Model
Pretrained Model, ou modelo pré-treinado, é um modelo de IA que já passou por uma etapa inicial de treinamento com uma grande quantidade de dados antes de ser disponibilizado para…
Termos - RAG
RAG significa Retrieval-Augmented Generation, ou Geração Aumentada por Recuperação.
Termos - Reasoning Models
Reasoning Models, ou modelos de raciocínio, são modelos de IA projetados ou treinados para lidar melhor com problemas que exigem várias etapas de raciocínio antes de chegar a uma resposta.
Termos - RLHF
RLHF significa Reinforcement Learning from Human Feedback, ou Aprendizado por Reforço a partir de Feedback Humano.
Termos - Self-attention
Self-Attention é um mecanismo pelo qual cada token de uma sequência pode analisar a relação com os outros tokens da própria sequência.
Termos - Temperature
Temperature é um parâmetro usado durante a geração de texto para controlar o grau de aleatoriedade na escolha dos próximos tokens.
Termos - Token
Token é uma unidade de texto que o LLM consegue processar.
Termos - Tokenization
Tokenization (tokenização) é o processo de dividir um texto em tokens para que o LLM consiga processá-lo.
Termos - Top-p
Top-p, também chamado de nucleus sampling, é um parâmetro usado durante a geração para controlar quais tokens podem ser considerados na escolha do próximo token.