Una alucinación es una respuesta de un modelo de lenguaje que suena segura y plausible pero es falsa o no está respaldada por ninguna fuente: un dato inventado, una cita que no existe, un producto que la marca no tiene. Ocurre porque el modelo genera el texto más probable, no el verificado.
No es un fallo raro. Las tasas de alucinación varían mucho según el modelo y la tarea, y ninguna es cero. Y la búsqueda no lo elimina: no es raro que una cita respalde solo en parte la afirmación a la que acompaña. Es decir, te pueden citar como fuente de algo que tu página no dice, y el usuario rara vez lo comprueba.
Para una marca hay dos riesgos: que la IA invente datos sobre ti (precios, servicios, incidentes) y que te atribuya afirmaciones ajenas. El primer paso es saber de dónde sale el error: de los pesos del modelo, del índice de retrieval o de ambos, porque el remedio es distinto en cada caso.
Ejemplos
- Dato inventado: el asistente afirma que tu software tiene una versión gratuita que nunca has ofrecido.
- Cita infiel: Perplexity enlaza a tu estudio para respaldar una cifra que en tu estudio no aparece.
- Sector sensible: una clínica aparece citada junto a una recomendación médica que su web no hace.
Consejos prácticos
- Escribe afirmaciones atómicas, atribuidas y fechadas: «Según nuestro estudio de [año] con [n] pymes, el [x]%…» deja menos margen de error que una frase vaga.
- Revisa periódicamente qué dicen de ti las respuestas, no solo si te citan.
- Si un error se repite, busca la fuente que lo origina (una ficha, un artículo, una reseña) y corrígela allí.
- En salud, finanzas o legal, extrema la precisión y la atribución de cada dato.
Cuidado con
- Reportar el error a la plataforma con el botón de feedback es un canal complementario, no un mecanismo de corrección garantizado.
- Que una respuesta lleve enlaces no prueba que sea correcta.
Evidencia moderada. Que los LLM alucinan y citan fuentes que no respaldan del todo la afirmación es un fallo conocido y observable en cualquier auditoría de respuestas, pero las tasas varían tanto según modelo y tarea que no se da una cifra; que escribir afirmaciones atómicas lo reduzca es una recomendación razonable sin experimento que la aísle.
Términos relacionados
- Fidelidad de la cita: La versión de la alucinación que afecta a las fuentes citadas.
- LLM (Large Language Model): Genera texto probable, no verificado.
- Knowledge cutoff: Más allá del corte, el modelo tiende a rellenar huecos.
- Consistencia de entidad: Reduce la confusión que alimenta errores sobre la marca.