Como impedir a IA de inventar seus números

Por que isso acontece

Não é um bug que uma versão futura vai remover em silêncio. É inerente ao funcionamento dos modelos de linguagem. Eles são treinados para gerar texto estatisticamente provável diante de tudo o que veio antes, sem nenhum conceito embutido de se uma afirmação é verdadeira ou se um número foi de fato calculado. Quando o seu prompt deixa uma lacuna, o modelo a preenche com o que for mais plausível, e "plausível" e "correto" não são a mesma coisa.

Pesquisas independentes relataram taxas de alucinação na faixa aproximada de 15 a 25 por cento em tarefas financeiras e numéricas quando não há salvaguardas. Esse número é aproximado, varia muito conforme o modelo e a tarefa, e deve ser verificado, não citado como preciso. A direção do achado é o que importa: sem proteção, essas ferramentas inventam a uma taxa que pesa em finanças. Testamos nós mesmos antes de escrever isto. Diante de uma instrução vaga, "construa um modelo TDABC", sem nenhum dado anexado, o modelo produziu um modelo completo e confiante: inventou um custo de departamento, um quadro de pessoal e uma taxa de capacidade por minuto, nenhum dos quais existia, e os apresentou com a mesma autoridade calma que usaria para um resultado real. Nada na saída sinalizou que a base era ficção.

O bloco de salvaguardas combinado

Cole isto uma vez no topo de qualquer prompt de custeio. Ele reúne as sete em uma única instrução que o modelo deve seguir antes de tocar nos seus dados.

Antes de responder, siga estas regras durante toda a resposta:
1. Trabalhe apenas com os dados que eu fornecer. Não invente nenhum número, taxa ou volume.
2. Liste cada premissa que você assumir. Se faltar um valor, marque-o como DADO AUSENTE e me diga o que precisa.
3. Mostre a fórmula em cada etapa antes de calcular qualquer valor.
4. Se você não conseguir derivar um valor dos meus dados, diga isso. Não estime.
5. Para cada número, cite a linha exata de origem nos meus dados.
6. Separe claramente o que você calculou a partir dos meus dados, o que assumiu e o que é sua sugestão.
7. Após o cálculo, verifique se as partes somam o total e sinalize qualquer divergência.

Perguntas frequentes

Por que a IA inventa números financeiros?

Porque um modelo de linguagem gera o texto estatisticamente mais provável diante do que veio antes, sem qualquer noção de verdade ou de cálculo efetivo. Quando o prompt deixa uma lacuna, ele a preenche com o valor mais plausível. Isso é inerente à tecnologia e não some com uma versão futura; muda apenas com instruções de proteção que restringem a resposta aos seus dados.

As salvaguardas de prompt eliminam totalmente a alucinação?

Não. Elas reduzem bastante a chance de um valor fabricado passar despercebido, mas não reconciliam o razão nem validam os dados de origem. Um guardrail baixa o risco; só um modelo construído sobre dados reais e reconciliados o remove.

Qual é a instrução mais importante?

Restringir a IA aos dados que você fornece: "Trabalhe apenas com os dados que eu fornecer. Não invente nenhum número, taxa ou volume." Ela remove as lacunas que o modelo preencheria com invenção e é a base de todas as outras.

Posso usar essas salvaguardas com qualquer assistente?

Sim. ChatGPT, Claude, Gemini e Copilot respondem todos ao mesmo tipo de instrução. Cole o bloco combinado no topo do prompt, independentemente do modelo, e amarre cada número a uma linha dos seus dados.

Como sei que o modelo obedeceu as regras?

Você audita a saída: cada número deve exibir a fórmula, citar a linha de origem e separar fato de premissa. Se algo aparecer sem origem, foi inventado. A conferência final de totais expõe tanto invenção quanto erro aritmético.