Como detectar “alucinação” em IA: checklist simples para equipes não técnicas
A IA generativa é ótima para acelerar rascunhos, organizar ideias, resumir textos e apoiar tarefas do dia a dia. No entanto, ela também pode responder com muita confiança sobre algo que não é verdade.
Isso acontece quando a ferramenta mistura fatos, inventa números, cria referências inexistentes ou apresenta uma conclusão errada com aparência de resposta confiável. Esse comportamento é conhecido como alucinação em IA.
O problema não é apenas “a IA errar”. O risco real aparece quando uma pessoa ou equipe toma uma decisão concreta com base em uma resposta que parece convincente, mas não se sustenta.
Por isso, detectar alucinação em IA não deve ser uma preocupação apenas de times técnicos. Na prática, áreas como marketing, RH, jurídico, atendimento, educação, produto e gestão também precisam saber quando confiar, quando checar e quando não usar uma resposta gerada por IA.
A boa notícia é que você não precisa ser especialista para reduzir esse risco. Em vez disso, precisa de um método curto, repetível e fácil de aplicar.
Este guia segue princípios de uso responsável e gestão de risco presentes em referências como o guia da UNESCO sobre IA generativa, o NIST AI Risk Management Framework e os princípios de IA confiável da OCDE.
O que é “alucinação” em IA (na prática)
Alucinação em IA acontece quando um modelo generativo apresenta como fato algo que não foi confirmado ou que simplesmente não existe.
Na prática, isso pode aparecer de várias formas:
- a IA afirma um fato inexistente como se fosse verdade;
- inventa números, estatísticas ou percentuais;
- cria citações, leis, artigos ou fontes falsas;
- mistura conceitos parecidos;
- omite exceções importantes;
- acerta a ideia geral, mas erra justamente o detalhe que importa.
Em outras palavras, a resposta pode parecer profissional, bem escrita e segura. No entanto, quando você tenta confirmar a informação, ela não fecha. Esse é o ponto mais perigoso: uma resposta ruim, mas bem escrita, pode passar despercebida em contextos de pressa.
Checklist simples (use em 60 segundos)
1) Peça fontes e evidência, não só opinião
Em vez de “me diga se isso é verdade”, peça “cite a fonte oficial ou documento que sustenta isso”, “diga o que você não sabe e onde há incerteza” e “liste premissas necessárias para isso ser verdadeiro”. Se a IA não consegue ancorar em algo verificável, trate como hipótese, não como fato.
2) Triangule: confirme com 2 fontes confiáveis
Triangulação é regra básica: confirme com pelo menos 2 fontes boas, principalmente em temas sensíveis (jurídico, saúde, financeiro e políticas internas). A UNESCO reforça a necessidade de governança e validação no uso de IA, e a lógica se aplica ao trabalho: o humano continua responsável pela decisão.
3) Identifique suposições escondidas
Pergunte “quais suposições você está fazendo?”, “isso depende de qual país, lei, data, setor ou contexto?” e “qual parte da resposta mudaria se a premissa X fosse falsa?”. A maioria dos erros nasce de suposições não ditas.
4) Valide números e comparações
Quando aparecer número, faça o básico: ele tem unidade (%, R$, tempo)? tem período (mês, ano, janela)? tem base comparativa (contra o quê)? faz sentido de ordem de grandeza? Se “cresceu 200%” mas a base era minúscula, a conclusão pode ser enganosa.
5) Teste consistência com uma pergunta de verificação
Peça “resuma em 3 bullets e depois em 1 frase”, “dê um contraexemplo onde isso falha” e “explique para leigo e depois para especialista”. Se a resposta entra em contradição, acende alerta.
6) Saiba quando NÃO usar IA
Existem cenários em que o risco é alto demais para tentativa e erro: jurídico sensível, dados pessoais ou sensíveis, diagnóstico e decisões de alto risco sem validação. O NIST AI RMF trata gestão de risco em IA como processo contínuo: avaliar impacto, probabilidade de falha e controles antes de usar em decisões relevantes.
Três exemplos de erro comum (e como o checklist pega)
Exemplo 1: a IA citou uma lei e um artigo
Erro típico: a IA inventa o número do artigo, mistura leis de países diferentes ou cita uma regra que não está mais vigente.
Como detectar: peça a fonte oficial, valide no site do governo e confirme país, data e contexto aplicável.
Além disso, não use a resposta como orientação jurídica sem validação especializada.
Exemplo 2: a IA trouxe estatísticas muito precisas
Erro típico: os números parecem profissionais, mas não têm fonte, período, base ou metodologia.
Como detectar: confira unidade, janela temporal, base comparativa e fonte original. Depois, triangule com duas fontes confiáveis.
Na prática, se o número não pode ser verificado, ele não deve ser usado como evidência.
Exemplo 3: a IA resumiu um documento e mudou o sentido
Erro típico: a IA omite exceções, condições ou ressalvas importantes.
Como detectar: peça as limitações da resposta e compare com o documento original.
Por isso, em documentos técnicos, jurídicos, acadêmicos ou regulatórios, use a IA para apoio de leitura, mas nunca como substituta da validação.
Bloco pronto para colar no Notion (regras de equipe)
Use este bloco como base para uma política simples de uso de IA no time.
- Toda afirmação factual precisa de fonte verificável.
- Para decisões, triangule com duas fontes confiáveis.
- Sempre peça suposições e limitações.
- Números precisam ter unidade, período e base comparativa.
- Em temas sensíveis, não use IA pública sem canal aprovado.
- A pessoa que publica ou decide é responsável por validar.
Prompt padrão do time
Responda com:
(a) suposições;
(b) fontes;
(c) limitações;
(d) checklist de verificação;
(e) risco de erro e como mitigar.
Esse prompt não elimina o risco de alucinação. No entanto, ajuda a tornar a resposta mais auditável e mais fácil de verificar.
Para políticas internas e governança
Se a sua equipe quer transformar o checklist em política interna, vale conectar essas práticas a referências de governança.
Os princípios de IA confiável da OCDE ajudam a estruturar critérios de responsabilidade, transparência e segurança. Além disso, a orientação de gestão de risco em IA da ISO/IEC 23894 pode apoiar processos internos de avaliação.
Para organizações que acompanham regulação europeia, a visão oficial sobre o AI Act da União Europeia também ajuda a entender obrigações e categorias de risco. Já o parecer do EDPB sobre IA e dados pessoais é útil para discussões ligadas à proteção de dados.
Na prática, essas referências não precisam virar burocracia. Pelo contrário, elas ajudam a criar critérios claros para decidir quando usar IA, como validar respostas e quais usos exigem mais cuidado.
Conclusão
Alucinação em IA não é um bug raro. É um risco normal de modelos generativos.
A diferença entre usar IA com maturidade e cair em armadilhas está no processo. Por isso, equipes não técnicas precisam criar hábitos simples: pedir evidência, checar suposições, validar números, testar consistência e saber quando não usar a ferramenta.
Quando esse checklist vira rotina, a equipe ganha velocidade sem trocar confiança por pressa.
Para continuar aprofundando o tema, veja também o guia Privacidade e IA e a categoria Ética & Governança no blog da Tekne. Além disso, para nivelar conceitos e aplicar IA no trabalho com mais critério, conheça o Curso de Introdução à IA.
