Alucinações e verificação

Ética e Boas Práticas

Alucinação é quando o modelo afirma algo falso com confiança. Estratégias de verificação, citação e human-in-the-loop são obrigatórias em contextos críticos.

O que são alucinações

Citações bibliográficas inventadas, APIs que não existem, estatísticas plausíveis porém erradas.
Causas: lacuna no treinamento, prompt ambíguo, pressão por resposta completa.
Modelos mais capazes alucinam menos, mas nunca chegam a zero sem verificação.

Sinais de alerta

Detalhes ultra-específicos sem fonte (datas, números de lei, URLs).
Resposta muito longa quando você pediu algo que deveria ser “não sei”.
Nomes de pacotes, funções ou papers que você não encontra no Google.

Técnicas de mitigação

Técnica	Como aplicar
Peça fontes	“Cite trecho literal ou diga que não sabe”
RAG	Resposta só sobre documentos recuperados
Temperatura baixa	Menos criatividade em fatos
Verificação cruzada	Segundo prompt: “Liste incertezas da resposta anterior”
Human review	Obrigatório em saúde, jurídico, financeiro

Prompt de verificação

Você é revisor crítico. Analise a resposta abaixo e produza:

1. Três afirmações factuais verificáveis
2. Para cada uma: CONFIÁVEL | INCERTO | PROVÁVEL ALUCINAÇÃO
3. O que o usuário deveria checar externamente

Resposta a revisar:
"""
[colar resposta da IA aqui]
"""

Alucinações e verificação

O que são alucinações

Sinais de alerta

Técnicas de mitigação

Prompt de verificação

Vídeo — O perigo da IA convincente e errada