Cómo evitar que la IA invente tus números
Un modelo de lenguaje no consulta nada. Predice las palabras siguientes más plausibles, y un número de aspecto creíble es justamente el tipo de texto que sabe producir bien. En la mayoría de los escritos eso es inofensivo. En finanzas es peligroso, porque una cifra fabricada que se lee como real pasa directo a un modelo, a un pronóstico o a un informe del consejo antes de que alguien la cuestione. Esta página es la disciplina que evita que eso ocurra.
La solución no es un mejor modelo ni un truco más ingenioso; es un conjunto breve de instrucciones de protección que agregas a cada prompt de costeo. Obligan a la IA a trabajar solo con los datos que le das, a mostrar sus fórmulas, a señalar lo que falta y a admitir cuando no sabe. Usa las siete de abajo por separado, o pega el bloque combinado antes de cualquier prompt. Convierten a un adivinador confiado en un asistente cuidadoso. En un modelo TDABC (Time-Driven Activity-Based Costing) real, esta misma disciplina es lo que sostiene un resultado defendible en CostCtrl.
Por qué la IA inventa cifras
Esto no es un error que una versión futura eliminará en silencio. Es inherente al funcionamiento de los modelos de lenguaje. Están entrenados para generar texto estadísticamente probable dado todo lo anterior, sin un concepto propio de si una afirmación es verdadera o si un número fue realmente calculado. Cuando tu prompt deja un vacío, el modelo lo rellena con lo más plausible, y "plausible" y "correcto" no son lo mismo.
Investigación independiente ha reportado tasas de alucinación aproximadamente en el rango de 15 a 25 por ciento en tareas financieras y numéricas cuando no hay salvaguardas. Esa cifra es aproximada, varía mucho según el modelo y la tarea, y conviene verificarla en lugar de citarla como exacta. El sentido del hallazgo es lo importante: sin protección, estas herramientas inventan a un ritmo que importa en finanzas. Lo probamos antes de escribir esto: ante la instrucción vaga "constrúyeme un modelo TDABC", sin datos adjuntos, el modelo produjo un modelo completo y confiado, con un costo de departamento, una dotación y una tasa de capacidad por minuto que no existían, presentados con la misma calma que usaría para un resultado real. Nada en la salida señalaba que la base era ficción.
1. Restringela a los datos que le entregas
La instrucción más importante de todas. Elimina los vacíos que el modelo, de otro modo, llenaría con invención. Pégala tal cual al inicio del prompt.
Trabaja únicamente con los datos que te doy. No inventes ningún número, tasa ni volumen.
2 a 4. Que declare supuestos, muestre fórmulas y admita no saber
Cuando el modelo deba suponer algo, quieres que lo diga en voz alta, no que lo entierre en la aritmética. Usa este prompt para forzar cada supuesto a la superficie.
Enumera cada supuesto que hagas. Si falta una cifra, etiquétala como DATO FALTANTE e indícame qué necesitas.
Una fórmula visible es verificable; un número pelado no lo es. Este prompt también atrapa deslices aritméticos.
Muestra la fórmula en cada paso antes de calcular cualquier valor.
Los modelos inventan en parte porque se los empuja a ser serviciales. Dale permiso explícito para no responder.
Si no puedes derivar una cifra a partir de mis datos, dilo. No estimes.
5 a 7. Que cite el origen, separe hecho de inferencia y verifique los totales
Amarrar cada número a una fila de tus datos vuelve obvia la fabricación, porque los números inventados no tienen origen.
Para cada número, cita la fila exacta de origen en mis datos.
Necesitas saber qué partes son tus datos, cuáles son supuestos y cuáles son la opinión del modelo.
Separa claramente lo que calculaste a partir de mis datos, lo que supusiste y lo que es tu sugerencia.
Una verificación de reconciliación al final atrapa tanto la invención como el error aritmético en una sola pasada.
Después del cálculo, verifica que las partes sumen el total y señala cualquier discrepancia.
El bloque completo de protección
Pégalo una sola vez al inicio de cualquier prompt de costeo. Combina las siete reglas en una única instrucción que el modelo debe seguir antes de tocar tus datos.
Antes de responder, sigue estas reglas durante toda la respuesta: 1. Trabaja únicamente con los datos que te doy. No inventes ningún número, tasa ni volumen. 2. Enumera cada supuesto que hagas. Si falta una cifra, etiquétala como DATO FALTANTE e indícame qué necesitas. 3. Muestra la fórmula en cada paso antes de calcular cualquier valor. 4. Si no puedes derivar una cifra a partir de mis datos, dilo. No estimes. 5. Para cada número, cita la fila exacta de origen en mis datos. 6. Separa claramente lo que calculaste a partir de mis datos, lo que supusiste y lo que es tu sugerencia. 7. Después del cálculo, verifica que las partes sumen el total y señala cualquier discrepancia.
Una protección baja el riesgo; un modelo real lo elimina
Esta es exactamente la disciplina que aplicamos cuando construimos un modelo de costos: trabajar solo con datos reconciliados, mostrar cada fórmula, señalar cada supuesto, amarrar cada número a un origen. Una protección de prompt reduce la probabilidad de una cifra fabricada, pero no puede reconciliar tu libro mayor, validar tus inductores ni responder por el resultado. Solo un modelo construido sobre tus datos reales y reconciliados hace eso.
Si los números importan lo suficiente para protegerlos, constrúyelos sobre algo sólido. Ve también el modelo TDABC con IA y la plataforma CostCtrl.
Preguntas frecuentes
- ¿Por qué la IA inventa cifras financieras?
- Porque un modelo de lenguaje predice texto probable, no verdad. No consulta tus datos ni sabe si un número fue calculado; cuando el prompt deja un vacío, lo rellena con lo más plausible. En finanzas eso es peligroso, porque una cifra fabricada que se lee como real pasa a un modelo o a un informe antes de que alguien la cuestione.
- ¿Cuál es la instrucción más importante para evitar alucinaciones?
- Restringir el modelo a los datos que le entregas: "Trabaja únicamente con los datos que te doy. No inventes ningún número, tasa ni volumen." Elimina los vacíos que el modelo llenaría con invención y es la base sobre la que operan las demás protecciones.
- ¿Una futura versión del modelo resolverá esto sola?
- No de forma confiable. La invención es inherente a cómo funcionan los modelos de lenguaje: generan texto estadísticamente probable sin un concepto propio de verdad. Por eso la defensa no es esperar un modelo mejor, sino aplicar instrucciones de protección en cada prompt de costeo.
- ¿Las protecciones de prompt reemplazan un modelo de costos real?
- No. Una protección reduce la probabilidad de una cifra fabricada, pero no reconcilia tu libro mayor, no valida tus inductores ni responde por el resultado. Para cifras que deban defenderse ante un consejo o un auditor, necesitas un modelo TDABC construido sobre datos reales y reconciliados, como los que construimos en CostCtrl.
- ¿Sirven estas protecciones en ChatGPT, Claude, Gemini y Copilot?
- Sí. Son instrucciones de texto plano que funcionan en cualquier asistente actual, porque atacan un comportamiento común a todos los modelos de lenguaje. Pega el bloque combinado antes de tu prompt sin importar la herramienta que uses.
Lee también
¿Tus números importan lo suficiente para protegerlos con un modelo real? El Profit Check gratuito toma 12 a 15 minutos y muestra dónde se crea y dónde se pierde el margen en tu operación. O escríbenos por la página de contacto.
América Latina
Hacer el Profit CheckPrueba
Un distribuidor en Nueva Zelanda. €1,335M de costo de servir hecho visible, luego reducido a la mitad, y 830 clientes deficitarios reducidos a 295.
Leer el caso →Con quién vas a hablar
Miguel Guimarães, Socio fundador
Trabajando en costos y rentabilidad desde hace más de 25 años. Presentó el caso de cost-to-serve de Damco en Managing for Profit (Ámsterdam RAI, diciembre de 2009), en el mismo programa que Robert S. Kaplan.
Llame al +351 910 313 731
