Como detectar “alucinação” em IA: checklist simples para equipes não técnicas
IA generativa é ótima para acelerar rascunhos, organizar ideias e resumir textos. O risco é quando ela responde com confiança sobre algo que não é verdade, mistura fatos, inventa números ou cria referências que não existem. Isso tem nome: alucinação. E o problema não é “a IA mentir”, é você tomar uma decisão real com base em uma resposta que parece convincente, mas não se sustenta.
A boa notícia é que você não precisa ser técnico para reduzir esse risco. Você precisa de um método curto e repetível. Este post segue princípios de uso responsável e gestão de risco recomendados por guias institucionais como o da UNESCO, o framework do NIST (AI RMF) e princípios de IA confiável da OCDE.
O que é “alucinação” em IA (na prática)
Alucinação é quando a IA afirma um fato inexistente como se fosse verdade, inventa números ou citações, cria “fontes” falsas, mistura conceitos parecidos e entrega uma conclusão errada, ou acerta no geral e erra no detalhe que importa. No trabalho, isso aparece como: “parece profissional”, mas quando você tenta confirmar, não fecha.
Checklist simples (use em 60 segundos)
1) Peça fontes e evidência, não só opinião
Em vez de “me diga se isso é verdade”, peça “cite a fonte oficial ou documento que sustenta isso”, “diga o que você não sabe e onde há incerteza” e “liste premissas necessárias para isso ser verdadeiro”. Se a IA não consegue ancorar em algo verificável, trate como hipótese, não como fato.
2) Triangule: confirme com 2 fontes confiáveis
Triangulação é regra básica: confirme com pelo menos 2 fontes boas, principalmente em temas sensíveis (jurídico, saúde, financeiro e políticas internas). A UNESCO reforça a necessidade de governança e validação no uso de IA, e a lógica se aplica ao trabalho: o humano continua responsável pela decisão.
3) Identifique suposições escondidas
Pergunte “quais suposições você está fazendo?”, “isso depende de qual país, lei, data, setor ou contexto?” e “qual parte da resposta mudaria se a premissa X fosse falsa?”. A maioria dos erros nasce de suposições não ditas.
4) Valide números e comparações
Quando aparecer número, faça o básico: ele tem unidade (%, R$, tempo)? tem período (mês, ano, janela)? tem base comparativa (contra o quê)? faz sentido de ordem de grandeza? Se “cresceu 200%” mas a base era minúscula, a conclusão pode ser enganosa.
5) Teste consistência com uma pergunta de verificação
Peça “resuma em 3 bullets e depois em 1 frase”, “dê um contraexemplo onde isso falha” e “explique para leigo e depois para especialista”. Se a resposta entra em contradição, acende alerta.
6) Saiba quando NÃO usar IA
Existem cenários em que o risco é alto demais para tentativa e erro: jurídico sensível, dados pessoais ou sensíveis, diagnóstico e decisões de alto risco sem validação. O NIST AI RMF trata gestão de risco em IA como processo contínuo: avaliar impacto, probabilidade de falha e controles antes de usar em decisões relevantes.
Três exemplos de erro comum (e como o checklist pega)
Exemplo 1: “A IA citou uma lei e um artigo”. Erro típico: inventa número de artigo ou mistura leis. Como pegar: peça fonte oficial, valide no site do governo e pergunte país e data aplicáveis.
Exemplo 2: “A IA trouxe estatísticas perfeitas”. Erro típico: números sem base, período e fonte. Como pegar: valide unidade, período e base, e triangule com 2 fontes.
Exemplo 3: “A IA resumiu um documento e mudou o sentido”. Erro típico: omite exceções e condicionais. Como pegar: peça limitações e compare com o original.
Bloco pronto para colar no Notion (regras de equipe)
1) Toda afirmação factual precisa de fonte verificável.
2) Para decisões, triangule com 2 fontes confiáveis.
3) Sempre pedir suposições e limitações.
4) Números precisam de unidade, período e base comparativa.
5) Em temas sensíveis, não usar IA pública sem canal aprovado.
6) A pessoa que publica/decide é responsável por validar.
Prompt padrão do time:
“Responda com: (a) suposições, (b) fontes, (c) limitações, (d) checklist de verificação, (e) risco de erro e como mitigar.”
Para políticas internas e governança
Para formalizar boas práticas, estas referências ajudam a transformar o checklist em política: princípios de IA confiável (OCDE), orientação de gestão de risco em IA (ISO/IEC 23894), o AI Act (UE) – visão oficial, e o parecer do EDPB sobre IA e dados pessoais (Opinião 28/2024).
Conclusão
Alucinação não é um “bug raro”. É um risco normal de modelos generativos — e a diferença entre usar IA com maturidade e cair em armadilhas está no processo: pedir evidência, checar suposições, validar números, testar consistência e saber quando não usar. Quando esse checklist vira hábito, a equipe ganha velocidade sem trocar confiança por pressa.
Para aprofundar com prática e responsabilidade, explore no blog da Tekne: Privacidade e IA: guia simples e a categoria Ética & Governança. Para nivelar conceitos e aplicar IA no trabalho com critério, conheça o Curso de Introdução à IA.
