ArtículoES6 min de lectura23 oct
Por qué la IA se inventa cosas (y cómo cazarlo)
Un modelo de lenguaje genera texto plausible, no consulta una base de hechos. Dónde falla y cinco defensas que funcionan.
Un modelo de lenguaje está entrenado para continuar un texto con la palabra más plausible. Plausible no es lo mismo que verdadero. Cuando el modelo conoce bien un tema, ambas cosas coinciden. Cuando no lo conoce, siguen produciendo texto fluido y seguro de sí mismo, porque no tiene una alarma interna que diga «esto no lo sé».
Dónde suele fallar
- Datos concretos y poco frecuentes: citas textuales, cifras exactas, URLs, números de sentencia, páginas de un libro.
- Nombres que suenan bien: funciones, librerías o paquetes que no existen pero encajarían perfectamente en el código.
- Lo posterior a su fecha de corte: versiones nuevas, precios actuales, noticias.
- Preguntas con premisa falsa: si preguntas «¿por qué X hizo Y?» y X nunca hizo Y, muchas veces te explicará el motivo igualmente.
Cinco defensas que funcionan
- Dale la fuente. Pega el texto o usa búsqueda, y pide que cite literalmente el fragmento en el que se apoya. Responder sobre un texto que tiene delante es mucho más fiable que responder de memoria.
- Dale permiso para no saber. Añade «si no lo sabes o no aparece en el texto, di que no lo sabes». Bajan las invenciones porque dejar un hueco pasa a ser una respuesta válida.
- Pide evidencia comprobable. Un enlace, un número de línea, un nombre de archivo. No porque te lo creas, sino porque lo puedes verificar en un minuto.
- Haz una segunda pasada adversarial. Un segundo prompt, o mejor otro modelo, con la misión de refutar la primera respuesta. Encontrar fallos ajenos se le da mejor que no cometer los propios.
- Verifica lo ejecutable. Si es código, ejecútalo. Si es una cifra, recalcúlala. Si es una afirmación sobre una librería, abre su documentación.
Un caso real: paquetes que no existen
Los asistentes de programación a veces recomiendan instalar paquetes cuyo nombre es plausible pero que no existen. Se ha documentado que alguien puede registrar justo ese nombre en el repositorio público con código malicioso, y esperar a que otra persona instale lo que el modelo le sugirió. La defensa es aburrida y efectiva: antes de instalar nada que no conozcas, comprueba que existe, quién lo mantiene y desde cuándo.
Si quieres automatizar parte de esta revisión, en esta sección tienes el prompt Verificador anti-alucinación y la checklist para revisar código generado por IA.
¿Te ha servido?
Cada día un Short nuevo y, cuando toca, un tutorial a fondo. Suscríbete y no te pierdas el siguiente.
Sigue con
- DescargableES · MDChecklist para revisar código generado por IAUna veintena de comprobaciones ordenadas de la más barata a la más profunda, de «¿existe el paquete?» a «¿lo explicaría yo?».Ver y descargar
- PromptESRevisor de código adversarialUna revisión que busca por qué un cambio NO debería fusionarse, con severidad, línea y arreglo. Sin inventar problemas.Usar prompt
- PromptESVerificador anti-alucinaciónExtrae cada afirmación comprobable de un texto generado por IA y te dice cómo verificarla en un minuto.Usar prompt