← Voltar para o Plano de estudos: 10 dias de imersão em GenAI
Dia 1: LLMs de verdade
Objetivo
Sair do conhecimento:
“LLM é uma IA que entende texto.”
para:
“LLM é um modelo probabilístico treinado para prever tokens, que opera sobre uma janela de contexto e cuja capacidade de geração depende de arquitetura, parâmetros, treinamento, contexto e estratégias de inferência.”
Você não precisa virar pesquisador de Transformers. Mas precisa entender o mecanismo.
Estude
Pesquise estes termos:
- LLM
- RAG
- Transformer
- Token
- Tokenization
- Embedding
- Attention
- Self-attention
- Context Window
- Parameters
- Inference
- Hyperparameters Temperature
- Hyperparameters Top-p
- Hallucination
- Pretrained Model
- Instruction Tuning
- RLHF
- Reasoning Models
Perguntas que você precisa conseguir responder
- O que é um token?
- Por que LLMs não trabalham diretamente com palavras?
- O que é uma janela de contexto?
- O que são embeddings?
- Qual a diferença entre treinamento e inferência?
- O que significa temperature?
- Por que um LLM pode responder algo incorreto com enorme confiança?
- O que diferencia um LLM de um mecanismo de busca?
Conteúdo recomendado
Para aprofundamento técnico, procure materiais de:
- Hugging Face
- Stanford
- DeepLearning.AI
- OpenAI
- Anthropic
Evite começar por vídeos do tipo:
“MASTER LLMs IN 30 MINUTES!!!”
Eles são bons para descoberta, não para formação.