Modelos de Linguagem (LLMs)

Como um LLM funciona (visão simplificada)

• Entrada e saída são sequências de tokens (pedaços de palavras/caracteres).
• A rede transforma contexto em probabilidades para o próximo token; repete até parar.
• Pré-treino: aprende linguagem e conhecimento geral em corpus enorme.
• Ajuste fino / RLHF: alinha respostas a instruções úteis e seguras.

Famílias de modelos (2024–2026)

Parâmetros que você controla na API

• model — qual versão usar (capacidade vs. custo).
• max_tokens — limite da resposta gerada.
• temperature — criatividade (0 = determinístico, 1+ = mais variado).
• system / user / assistant — papéis na conversa (ver tópico de prompts).

Exemplo conceitual (OpenAI Chat Completions):

{
  "model": "gpt-4o-mini",
  "messages": [
    { "role": "system", "content": "Você explica conceitos de TI em português claro." },
    { "role": "user", "content": "O que é um LLM em 3 frases?" }
  ],
  "temperature": 0.3,
  "max_tokens": 150
}

Quando escolher modelo maior vs. menor

• Modelo menor: classificação, formatação, rascunhos, alto volume, baixo custo.
• Modelo maior: raciocínio multi-etapas, código complexo, análise longa de documentos.
• Teste sempre com o menor que atende; suba de tier só se a qualidade falhar.