Qué verificar siempre — Cambia el chip

Esta lección es la más corta y la más importante del módulo. La IA puede darte un dato falso con la misma seguridad con la que te da uno cierto. No hay señal de alerta, no cambia el tono, no duda. Simplemente lo dice.

Palabra nuevaAlucinación

Cuando la IA se inventa un dato: una fecha, una cifra, una ley, una cita, un enlace, el nombre de un producto que no existe. No es que mienta: está completando un patrón de lenguaje, no consultando una base de datos.

Ver todas las palabras en el glosario →

Vale la pena entender por qué pasa esto, porque así deja de parecer una falla y empieza a parecer una característica que hay que manejar. El modelo no consulta una base de datos: predice qué palabra sigue según lo que aprendió. Cuando sabe la respuesta, predice bien. Cuando no la sabe, sigue prediciendo — y lo que sale es algo que suena exactamente como una respuesta correcta.

Qué se verifica siempre, sin excepción

Números: precios, porcentajes, estadísticas, medidas, cantidades.
Fechas: cuándo pasó algo, cuándo vence algo, cuándo salió algo.
Nombres propios: personas, empresas, productos, leyes, artículos.
Citas: si dice que alguien dijo algo, búscalo. Es donde más se inventa.
Enlaces: los inventa con frecuencia y se ven perfectamente reales.
Cualquier cosa legal, fiscal, médica o financiera. Sin excepciones.

!La regla práctica

Si un error en ese dato te costaría dinero, un cliente o una vergüenza pública, verifícalo en la fuente original. Siempre. No importa qué tan convencido suene.

!Si lleva tu nombre, respondes tú

Cuando publiques o mandes algo hecho con IA, el que responde por cada dato eres tú. Nadie va a aceptar «es que la IA me lo dijo» como explicación, igual que no aceptarían «es que lo copié de internet». Esa responsabilidad no se delega, y es la razón de esta lección.

Qué no necesitas verificar tanto

No vivas con paranoia. La IA es muy confiable para lo que es forma y estructura: redactar, ordenar, resumir un texto que tú le diste, cambiar el tono, traducir, generar variantes, explicarte un concepto general. El riesgo está en los datos duros, no en la escritura.

★Pídele que marque lo que no sabe

Agrega a tus encargos: «marca con [VERIFICAR] cualquier cifra, fecha o nombre del que no tengas certeza». No elimina el problema, pero convierte una revisión completa en revisar cinco puntos señalados.

Cómo se ve un dato inventado

Lo que hace peligroso un dato inventado no es que esté mal: es que está redactado igual de bien que uno correcto. No hay temblor en la voz, no hay «creo que», no hay señal de duda. Una fecha inventada, un artículo de ley que no existe y un estudio que nunca se publicó se ven exactamente igual que los verdaderos.

Por eso la defensa no puede ser tu intuición —no vas a sentir cuál está mal—, tiene que ser un hábito mecánico: cifras, fechas, nombres propios, leyes y citas se verifican siempre, aunque suenen razonables. Sobre todo si suenan razonables, que es cuando bajamos la guardia.

Tres formas de bajar el riesgo

1Dale tú los datos. Si le pegas tu lista de precios, no tiene que inventarla. La mayoría de las alucinaciones ocurren cuando le faltó información y la rellenó.
2Pídele que marque su nivel de certeza: «señala con [VERIFICAR] cualquier dato del que no estés seguro».
3Pídele las fuentes y revísalas. Si no puede darte de dónde salió un dato, trátalo como no confiable.

Para copiar· Línea para pegar cuando pidas algo con datos

Marca con [VERIFICAR] cualquier cifra, fecha, nombre propio o cita de la que no tengas certeza. Prefiero que me digas «no lo sé» a que me des un dato aproximado.

Ejercicio

Cázale una

Vas a ver una alucinación con tus propios ojos. Es la única forma de que se te quede.

1Pregúntale por algo muy específico de tu zona o de tu giro: un reglamento local, los horarios de un trámite, el precio de un insumo, una fecha de tu industria.
2Anota la respuesta.
3Verifícala en la fuente oficial.
4Ahora repite la pregunta agregando la línea de [VERIFICAR] y compara.

Qué entregas

El dato que te dio, lo que decía la fuente real y qué cambió al pedirle que marcara su incertidumbre.

Si solo te llevas tres cosas de esta lección

1Número, fecha, nombre propio y cita se verifican siempre en la fuente original.
2La mayoría de las invenciones ocurren cuando le faltó un dato y lo rellenó. Dáselo tú.
3Es muy confiable para forma y estructura. El riesgo está en los datos duros.

Marca la lección cuando hayas hecho el ejercicio, no cuando termines de leer. Ese es el trato.

Siguiente lección →

← Lección anterior Todas las lecciones