Prompts de costes con IA · Lee esto primero
Cómo impedir que la IA invente tus números
Un gran modelo de lenguaje no consulta nada. Predice las palabras siguientes más plausibles, y un número que parece plausible es exactamente el tipo de texto que sabe producir bien. En la mayoría de la escritura eso es inofensivo. En finanzas es peligroso, porque una cifra fabricada que se lee como una real pasará directamente a un modelo, una previsión o un dossier para el consejo antes de que nadie la cuestione. Esta página es la disciplina que impide que eso ocurra.
En resumen
La solución no es un modelo mejor ni un truco más ingenioso; es un conjunto breve de instrucciones de salvaguarda que añades a cada prompt de costes. Obligan a la IA a trabajar solo con los datos que le das, a mostrar sus fórmulas, a señalar lo que falta y a admitir cuando no sabe. Usa las siete de abajo de forma individual, o pega el bloque combinado del pie de esta página delante de cualquier prompt. Convierten a un adivino seguro de sí mismo en un asistente cuidadoso.
Por qué ocurre
Esto no es un fallo que una versión futura vaya a eliminar discretamente. Es inherente a cómo funcionan los modelos de lenguaje. Están entrenados para generar texto que es estadísticamente probable dado todo lo anterior, sin un concepto integrado de si una afirmación es cierta o de si un número se calculó realmente. Cuando tu prompt deja un hueco, el modelo lo rellena con lo que sea más plausible, y "plausible" y "correcto" no son lo mismo. Investigaciones independientes han informado de tasas de alucinación aproximadamente en el rango del 15 al 25 por ciento en tareas financieras y numéricas cuando no hay salvaguardas; esa cifra es aproximada, varía mucho según el modelo y la tarea y debería verificarse en lugar de citarse como precisa. La dirección del hallazgo es lo que importa: sin protección, estas herramientas inventan a un ritmo que importa en finanzas.
Lo probamos nosotros mismos antes de escribir esto. Ante una instrucción vaga, "construye un modelo TDABC", sin datos adjuntos, el modelo produjo un modelo completo y seguro de sí mismo: inventó un coste de departamento, una plantilla y una tasa de capacidad por minuto, ninguno de los cuales existía, y los presentó con la misma autoridad serena que usaría para un resultado real. Nada en el resultado señalaba que el cimiento era ficción. Ese es precisamente el modo de fallo del que hay que protegerse, porque cuanto más pulida parece la respuesta, menos probable es que alguien la compruebe.
Las siete salvaguardas
1. Restríngela a los datos que facilitas
La instrucción más importante. Elimina los huecos que el modelo, de otro modo, rellenaría con invención.
Trabaja solo con los datos que te doy. No inventes ningún número, tasa ni volumen.
2. Haz que señale cada supuesto
Cuando un modelo deba asumir algo, quieres que lo diga en voz alta, no que lo entierre en la aritmética.
Enumera cada supuesto que hagas. Si falta una cifra, etiquétala como DATO AUSENTE y dime qué necesitas.
3. Haz que muestre la fórmula antes del número
Una fórmula visible es comprobable; un número a secas no lo es. Esto también detecta deslices aritméticos.
Muestra la fórmula en cada paso antes de calcular cualquier valor.
4. Dale permiso para decir "no lo sé"
Los modelos inventan en parte porque se les empuja a ser útiles. Permite explícitamente una no respuesta.
Si no puedes derivar una cifra de mis datos, dilo. No la estimes.
5. Haz que cite la línea de origen
Atar cada número a una fila de tus datos hace evidente la fabricación, porque los números inventados no tienen origen.
Para cada número, cita la fila de origen exacta en mis datos.
6. Haz que separe el hecho de la inferencia
Necesitas saber qué partes son tus datos, cuáles son supuestos y cuáles son la opinión del modelo.
Separa claramente lo que calculaste a partir de mis datos, lo que asumiste y lo que es tu sugerencia.
7. Haz que verifique los totales
Una comprobación de conciliación al final detecta tanto la invención como el error aritmético en una sola pasada.
Tras el cálculo, comprueba que las partes suman el total y señala cualquier discrepancia.
El bloque completo de salvaguardas
Pega esto una vez al principio de cualquier prompt de costes. Combina las siete en una sola instrucción que el modelo debe seguir antes de tocar tus datos.
Antes de responder, sigue estas reglas para toda la respuesta: 1. Trabaja solo con los datos que te doy. No inventes ningún número, tasa ni volumen. 2. Enumera cada supuesto que hagas. Si falta una cifra, etiquétala como DATO AUSENTE y dime qué necesitas. 3. Muestra la fórmula en cada paso antes de calcular cualquier valor. 4. Si no puedes derivar una cifra de mis datos, dilo. No la estimes. 5. Para cada número, cita la fila de origen exacta en mis datos. 6. Separa claramente lo que calculaste a partir de mis datos, lo que asumiste y lo que es tu sugerencia. 7. Tras el cálculo, comprueba que las partes suman el total y señala cualquier discrepancia.
Audita una respuesta de IA en busca de números inventados
Las salvaguardas de arriba detienen la invención antes de que ocurra. Esta actúa después: pega cualquier respuesta de costes que una IA ya te haya dado, y comprueba cada número contra los datos que realmente facilitaste, para que una cifra fabricada no pase inadvertida a un modelo o a un dossier del consejo. Ejecútala sobre cualquier cosa que no hayas generado bajo las salvaguardas.
La auditoría de alucinaciones
You are auditing an AI-generated costing answer for fabricated numbers. Work only from two things I give you: the source data I originally provided, and the AI answer to be checked. Do not add any figures of your own. I want every number in the answer traced back to my source data, so I can see which figures are real, which are assumptions, and which were invented. Step 1. List every number that appears in the AI answer. Step 2. For each one, mark it as: SOURCED (trace it to the exact row in my data), DERIVED (show the formula that produces it from my data), ASSUMED (the answer states it is an assumption), or UNSUPPORTED (it appears in the answer but cannot be traced to my data or a stated assumption). Step 3. For every DERIVED figure, recompute it from my data and flag any that does not match. Step 4. List the UNSUPPORTED figures separately and plainly; these are the ones to treat as invented until proven otherwise. Step 5. Check that any totals in the answer actually sum from their parts, and flag any that do not. Step 6. Give a one-line verdict: is this answer safe to use as is, safe after I supply the missing figures, or not safe. Do not soften the verdict to be agreeable.
La auditoría no hace correcta una respuesta; hace visibles las partes inventadas, que es lo que te permite decidir si puedes fiarte del resto.
Convierte las salvaguardas en un estándar reutilizable
Las siete salvaguardas funcionan mejor cuando no se reescriben de memoria cada vez. Este complemento las convierte en un recurso reutilizable, una tarjeta de referencia de una página, una instrucción de sistema guardada o un estándar de equipo breve, para que la disciplina acompañe a todos los que usan IA sobre tus números. Pégalo para empaquetar el bloque de arriba.
Now turn the seven guardrails into a reusable asset my team can adopt. Ask me which format I want, or default to the one-page reference card: - CARD: a clean one-page reference (PDF) with the seven guardrails as a numbered checklist, a one-line why for each, and the combined guardrail block at the foot ready to copy. Designed to sit next to someone's screen. No chat formatting. - SYSTEM PROMPT: a single reusable instruction I can save as a custom instruction or system prompt in my AI tool, so the guardrails apply to every costing conversation automatically, phrased to hold across a whole session. - STANDARD: a short internal standard (one page) stating that any AI-assisted costing work must follow these guardrails, with the checklist, a line on why it matters in finance, and a space for a review sign-off. Written in plain, professional language. Rules for the deliverable: - Use the seven guardrails and the combined block exactly as written on this page; do not reword the instructions. - Keep it to one page and plain enough to adopt without training. - Add a discreet footer credit line, small and unobtrusive, exactly as written below. Credit line to embed (use verbatim, in the footer): "Based on the AI costing guardrails from costandprofitability.com/ai-costing-prompts/avoid-ai-hallucinations" Keep it to one small line; it should read as a quiet source note, not an advertisement.
La línea de crédito es deliberadamente modesta, una nota de origen y no una marca de agua, para que la tarjeta o el estándar sea cómodo de circular internamente mientras permanece rastreable hasta su origen.
Una salvaguarda reduce el riesgo; un modelo real lo elimina
Esta es exactamente la disciplina que aplicamos cuando construimos un modelo de costes: trabajar solo con datos conciliados, mostrar cada fórmula, señalar cada supuesto, atar cada número a un origen. Una salvaguarda en el prompt reduce la probabilidad de una cifra fabricada, pero no puede conciliar tu libro mayor, validar tus drivers ni responsabilizarse del resultado. Solo un modelo construido sobre tus datos reales y conciliados lo hace. Si los números importan lo suficiente como para protegerlos, constrúyelos sobre algo sólido.
Reserva un Profitability Health Check Volver a todos los prompts
Relacionado
Prueba
Un distribuidor en Nueva Zelanda. €1,335M de coste de servir hecho visible, luego reducido a la mitad, y 830 clientes deficitarios reducidos a 295.
Leer el caso →Con quién va a hablar
Miguel Guimarães, Socio fundador
Trabajando en costes y rentabilidad desde hace más de 25 años. Presentó el caso de cost-to-serve de Damco en Managing for Profit (Ámsterdam RAI, diciembre de 2009), en el mismo programa que Robert S. Kaplan.
Llame al +351 910 313 731
