O que é alucinação de IA, por que ela acontece e o que reduz
Alucinação de IA é quando o modelo responde com total segurança uma coisa que não é verdade. Não é defeito de uma marca nem falta de inteligência: acontece porque esses sistemas são treinados para produzir a continuação mais provável de um texto, e uma frase falsa pode ser tão provável quanto uma verdadeira.
Monte o seu agente e veja ele respondendo com as informações do seu negócio.
Criar meu agente de graça Montar é livre, sem cadastro e sem cartão.O que você vai encontrar neste artigo
Em resumo
- A IA não sabe que não sabe. Ela produz a resposta mais provável, e falso pode ser provável.
- Alucina mais quando falta informação, quando a pergunta é específica demais e quando o texto pede certeza.
- Não existe IA imune. O que muda o risco é o cerco em volta dela, não a marca do modelo.
O que é alucinação de IA
É uma resposta errada dita com a mesma confiança de uma certa. O nome pegou porque descreve bem o efeito: o sistema não está mentindo, ele está enxergando uma coisa que não existe e relatando com naturalidade. Não vem aviso, não vem hesitação, não vem um "acho que".
É por isso que incomoda mais do que um erro comum. Software que quebra você percebe na hora. Alucinação sai bem escrita, com o tom certo, e passa. Quem lê só descobre depois, quando o cliente cobra o preço que a máquina inventou.
Em texto de mercado você vai ver "alucinação", "confabulação" e "resposta não fundamentada" para a mesma coisa. É tudo o mesmo fenômeno com nome diferente.
Por que a IA alucina, em português claro
Um modelo de linguagem não guarda fatos numa tabela para consultar depois. Ele aprendeu, lendo muito texto, quais palavras costumam vir depois de quais. Quando você pergunta, ele monta a continuação mais provável. Só isso.
Aí está a raiz do problema. Provável não é sinônimo de verdadeiro. "A consulta custa duzentos reais" é uma frase perfeitamente provável em português, quer o seu preço seja esse, quer não. Se ninguém contou o seu preço para o modelo, ele completa com o que soa certo.
Falta também a peça que um funcionário tem de graça: saber que não sabe. Uma pessoa que não lembra o preço vai perguntar para alguém. O modelo, se ninguém mandou o contrário, prefere entregar uma resposta a admitir buraco. É prestativo demais, e essa é a causa mais comum de erro em atendimento.
Resumo de bolso: a IA não erra por burrice, erra por educação. Ela foi feita para responder, e responder é o que ela faz mesmo quando não deveria.
Quando ela alucina mais e quando quase nunca
| Situação | Risco de alucinar |
|---|---|
| Pergunta sobre informação que você cadastrou | Baixo |
| Pergunta cuja resposta não está em lugar nenhum | Alto |
| Número, data, prazo e preço específicos | Alto |
| Nome próprio pouco conhecido | Alto |
| Assunto geral e bem documentado | Baixo |
| Pedido para citar fonte, lei ou artigo | Muito alto |
| Conversa longa em que o começo já saiu da memória | Médio |
Repare no padrão: o risco sobe conforme a resposta certa fica mais específica e menos disponível. Por isso pedir para a IA citar o número de uma lei é o pior caso possível, e por isso perguntar o horário de funcionamento de uma empresa que cadastrou o horário é o melhor.
Qual a IA mais segura contra alucinação
Essa é a pergunta que quase todo mundo faz, e ela tem uma resposta chata: nenhuma é imune, e a diferença entre as boas é menor do que parece. Modelos melhores alucinam menos, não zero, e o que separa dois atendimentos com o mesmo modelo por trás não é o modelo.
O que muda o risco de verdade é o cerco em volta. Um modelo mediano com o preço cadastrado, uma instrução clara de admitir quando não sabe e uma regra proibindo prometer prazo erra menos que o melhor modelo do mundo solto, sem informação nenhuma do seu negócio.
Quando o vendedor responder "nosso modelo não alucina", peça para ele mostrar o que acontece quando você pergunta um preço que não foi cadastrado. A resposta a essa pergunta vale mais que o nome do modelo.
O que reduz alucinação no atendimento do seu negócio
- Cadastre o que ele precisa dizer, começando por preço, prazo e o que está incluso. Buraco cadastrado é buraco preenchido por invenção.
- Escreva a permissão de não saber: "quando a informação não estiver aqui, diga que vai confirmar e chame uma pessoa".
- Escreva as proibições em forma negativa: o que ele nunca pode prometer, garantir ou afirmar.
- Tire da base o que está velho ou repetido, porque informação conflitante produz resposta inventada com cara de certa.
- Leia as vinte primeiras conversas inteiras antes de confiar. É o único jeito de descobrir o que ele completa sozinho.
Nenhuma dessas cinco é técnica. Todas dependem de você escrever o que o seu negócio cobra e o que ele não faz, e é justamente por isso que dois clientes da mesma ferramenta têm resultados tão diferentes.
Leia também
Perguntas frequentes
- O que é alucinação da IA?
- É quando a inteligência artificial responde com total segurança uma coisa que não é verdade, sem nenhum sinal de dúvida. O sistema não está mentindo: ele produz a continuação mais provável do texto, e uma frase falsa pode ser tão provável quanto uma verdadeira. Por isso o erro sai bem escrito e passa despercebido.
- Por que a IA alucina?
- Porque um modelo de linguagem não consulta uma tabela de fatos, ele monta a resposta mais provável a partir de muito texto lido. Provável não é sinônimo de verdadeiro. E falta a ele a noção de que não sabe: se ninguém mandar admitir o buraco, ele prefere entregar uma resposta a dizer que não tem a informação.
- O que são alucinações em IA generativa?
- São respostas geradas que parecem corretas e não têm base em nenhuma informação real, incluindo preços inventados, datas erradas, nomes trocados e citações de leis ou artigos que não existem. O risco sobe quanto mais específica for a resposta esperada e menos disponível estiver a informação certa.
- Qual a IA mais segura contra alucinação?
- Nenhuma é imune, e entre os modelos bons a diferença é menor do que a propaganda sugere. O que muda o risco é o cerco em volta: informação do negócio cadastrada, permissão explícita de admitir que não sabe e regras do que nunca pode ser prometido. Um modelo mediano bem cercado erra menos que o melhor modelo solto.
- Dá para acabar de vez com a alucinação?
- Não com a tecnologia atual, e desconfie de quem promete isso. Dá para reduzir muito e para tornar o erro visível quando acontece, que na prática é o que resolve: informação cadastrada, instrução para chamar uma pessoa no caso duvidoso e leitura das primeiras conversas antes de confiar.
