Por que a IA inventa coisas

Alucinação é quando o modelo responde com confiança uma coisa que não é verdade. Não é um defeito que alguém esqueceu de corrigir: é consequência direta de como ele é treinado e de como é avaliado.

Por que não é um bug comum

Um bug é um comportamento que destoa do que o programa deveria fazer. Aqui o sistema está fazendo exatamente o que foi construído para fazer: gerar a continuação mais provável do texto. Provável e verdadeiro são coisas diferentes, e nada no mecanismo separa as duas.

O treino inicial agrava isso. O modelo lê uma montanha de texto correntio, sem etiqueta dizendo o que ali é fato e o que é ficção, erro ou opinião. Como o artigo da OpenAI sobre o tema coloca, quando afirmações incorretas não podem ser distinguidas de fatos, a alucinação aparece por pressão estatística — ela é o resultado esperado, não o acidente.

A parte que surpreende: a nota incentiva o chute

O artigo de 2025 de pesquisadores da OpenAI argumenta que boa parte do problema continua de pé porque as avaliações premiam o palpite. Pensa num vestibular sem desconto por erro: quem deixa em branco tira zero naquela questão, quem chuta às vezes acerta. Na média, chutar dá nota melhor.

É assim que os modelos são medidos. “Não sei” vale zero; um palpite confiante às vezes vale ponto. Treinado e comparado desse jeito, o sistema aprende a soar seguro mesmo quando não tem base — porque é isso que a régua recompensa.

A correção proposta é mudar a régua: dar crédito por admitir incerteza e punir o erro confiante mais do que a abstenção. É uma mudança de avaliação, não de arquitetura, e é por isso que esse argumento chama atenção.

O que dá para fazer hoje

• Peça a fonte junto com a resposta, e abra o link. Referência inventada tem a mesma cara de referência real.
• Dê o material em vez de confiar na memória dele: com o documento na frente, o problema deixa de ser lembrar e passa a ser ler. É a ideia por trás do RAG.
• Desconfie do tom. Segurança na escrita não é sinal de que ele sabe — o texto confiante é exatamente o que foi recompensado.
• Em cima de nome próprio, número e data, confira sempre. É onde o palpite plausível mais aparece.