La IA inventa referencias científicas que no existen — y nadie lo detecta

La magnitud del problema

El análisis examinó más de 4.000 publicaciones de cinco grandes editoriales — Elsevier, Sage, Springer Nature, Taylor & Francis y Wiley. La revisión manual de los 100 casos más sospechosos confirmó que 65 contenían al menos una referencia inválida. Extrapolado al conjunto de los aproximadamente 7 millones de artículos científicos publicados en 2025, esto implicaría **más de 110.000 publicaciones con referencias fabricadas por IA**.

El caso más revelador, por lo que tiene de irónico, lo protagoniza precisamente el campo donde más se usa la IA. GPTZero —una empresa especializada en detectar contenido generado por IA— analizó 300 trabajos enviados a ICLR (International Conference on Learning Representations), considerada una de las conferencias científicas más prestigiosas del mundo en inteligencia artificial. El resultado fue contundente: más de 50 de esos papers contenían al menos una cita que sencillamente no existe, y ninguno de los 3 a 5 revisores expertos que ya habían evaluado cada trabajo lo había detectado. Algunos tenían puntuaciones medias de 8 sobre 10 y habrían sido publicados con referencias falsas dentro sin que nadie lo hubiera descubierto nunca. En otras palabras: los mejores expertos mundiales en IA no fueron capaces de detectar que un paper de IA tenía citas inventadas por IA.

Un bucle que se retroalimenta

El riesgo no es solo cuantitativo. Los artículos contaminados se incorporan como datos de entrenamiento para los próximos modelos de IA, que reproducirán fielmente esas fabricaciones. El error se acumula: un modelo que resume con precisión un artículo que contiene referencias falsas propagará esas falsedades aguas arriba.

El número real de referencias alucinadas es casi con certeza mayor que el detectado, ya que el análisis se centró en grandes editoriales con más recursos para la verificación sistemática. Los campos como la informática, que ha registrado un aumento pronunciado en el uso de LLMs para producir manuscritos, podrían estar más afectados que otras disciplinas.

Respuestas técnicas y límites estructurales

Algunas editoriales ya están reaccionando. Frontiers ha desarrollado herramientas internas de detección en el momento de la entrega. Elsevier ofrece un programa que incluye verificación automática del soporte real de cada cita. Sin embargo, los portavoces de las editoriales consultadas reconocen que se necesita un esfuerzo coordinado entre todos los actores del ecosistema científico para abordar el problema de forma efectiva.

Pero la solución técnica choca con un obstáculo de fondo que las herramientas no pueden resolver por sí solas: mientras el número de publicaciones siga siendo el indicador central de la carrera académica — mientras un artículo en una conferencia de primer nivel pueda decidir la graduación de un doctorando o la titularidad de un profesor —, el coste casi nulo de fabricar referencias seguirá generando incentivos perversos que ningún filtro técnico podrá neutralizar completamente.

La velocidad de adopción de la IA en la escritura científica ha superado con creces la capacidad de los sistemas de revisión para detectar sus errores. La respuesta requerirá tanto herramientas técnicas de verificación automática como una revisión honesta de los incentivos que hoy premian la cantidad sobre el rigor.

Fuente principal:

Naddaf, M. & Quill, E. "Hallucinated citations are polluting the scientific literature. What can be done?" *Nature*, 1 de abril de 2026. https://doi.org/10.1038/d41586-026-00969-z

Referencias adicionales:

GPTZero. "GPTZero uncovers 50+ hallucinations in ICLR 2026." https://gptzero.me/news/iclr-2026

- Hosseini, M. et al. "Hallucinated citations produced by generative AI may constitute research misconduct." *Accountability in Research*, marzo de 2026. https://doi.org/10.1080/08989621.2026.2645390