Alucinação de IA

Porque eles geram texto prevendo a palavra mais provável, não a mais verdadeira. Não têm nenhuma noção de verdade, apenas de plausibilidade estatística.

O RAG (conectar a IA a fontes verificadas), a verificação humana e o uso de ferramentas como o Perplexity (que cita suas fontes) reduzem significativamente o risco.

Uma alucinação de IA é uma resposta de um modelo de linguagem que soa plausível, mas que é factualmente falsa ou totalmente inventada. Os LLMs são treinados para prever texto estatisticamente provável, não para verificar fatos, então podem inventar citações, estatísticas ou fontes que não existem com total confiança. As alucinações são mais comuns em temas de nicho, eventos recentes ou perguntas que exigem números precisos. Ferramentas como Perplexity e Consensus mitigam isso ao embasar as respostas em fontes citadas e verificáveis.

Nenhum método sozinho detecta todas, mas várias abordagens ajudam. Confira as respostas manualmente com fontes primárias. Use ferramentas com RAG como Perplexity ou Consensus, que citam suas fontes para que as afirmações possam ser verificadas. Faça a mesma pergunta de maneiras diferentes: respostas contraditórias indicam baixa confiabilidade. Para usos críticos, passe as saídas por um segundo modelo (como Claude ou ChatGPT) como camada de verificação. A especificidade é um sinal de alerta: números precisos ou citações sem fonte merecem atenção extra.

O ChatGPT alucina porque é treinado para gerar texto estatisticamente provável, não texto factualmente verificado. Ele prevê a sequência de palavras mais provável sem checar se o resultado é verdadeiro. As alucinações são mais comuns em temas de nicho, eventos recentes fora dos seus dados de treinamento e perguntas que exigem números, nomes ou datas precisas. Ferramentas como o Perplexity mitigam esse risco ao embasar as respostas em fontes citadas em vez de depender da memória interna do modelo.

Você não pode eliminar totalmente as alucinações, mas pode reduzi-las. Peça ao ChatGPT que cite suas fontes e admita incertezas. Quando a precisão factual importa, prefira ferramentas com RAG como o Perplexity, que embasam as respostas em fontes da web ao vivo. Para domínios críticos como direito ou medicina, confira as saídas com fontes primárias. O Claude também tende a expressar menor confiança diante de fatos incertos, o que o torna uma alternativa útil para tarefas sensíveis à precisão.

Peça ao ChatGPT o faturamento de uma empresa em 2025 e ele pode devolver com total confiança um número específico, por exemplo «US$ 12,3 milhões», que nunca foi publicado em lugar nenhum. O modelo não mente: ele prevê o texto estatisticamente mais plausível. Outros casos comuns são citações acadêmicas inventadas, precedentes jurídicos fictícios ou estatísticas inexistentes. Ferramentas como Perplexity e Consensus reduzem esse risco ao embasar as respostas em fontes citadas e verificáveis.

Não existe um ranking definitivo, já que as taxas de alucinação variam conforme a tarefa, o tema e a metodologia dos benchmarks. Em geral, modelos mais antigos ou menores alucinam mais do que os modelos de ponta mais recentes. ChatGPT (GPT-4o), Claude e Perplexity pontuam consistentemente melhor em precisão factual do que modelos anteriores. O Perplexity reduz ainda mais o risco ao citar fontes em tempo real. Temas de nicho, dados recentes e números precisos continuam sendo zonas de risco para todos os modelos.

Não: as alucinações não podem ser totalmente eliminadas, mas podem ser reduzidas consideravelmente. A técnica RAG (Retrieval-Augmented Generation) é a mitigação mais eficaz: em vez de depender da memória de treinamento do modelo, ele recorre a fontes verificadas. Perplexity e Consensus se baseiam nesse princípio. O prompt engineering, a verificação das saídas e o embasamento das respostas em dados estruturados também ajudam. Ferramentas como ChatGPT e Claude melhoraram com o tempo, mas ainda alucinam, sobretudo em temas de nicho ou recentes.