El uso de detectores de inteligencia artificial (IA) puede no ser suficiente para determinar la fiabilidad de un trabajo científico. Además, puede desviar recursos de problemas directamente comprobables. Entre ellos se encuentran los errores de contenido, los datos falsos o las citas inventadas. Por ello, se plantea sustituir el énfasis en detectar textos generados por IA por un modelo centrado en erratas verificables.
Esta es la propuesta que Zhang y colaboradores presentan en el artículo «Los riesgos de la detección de IA para la integridad académica», publicado en Nature Human Behaviour. El texto analiza las consecuencias de incorporar detectores de IA a la evaluación académica y propone tres cambios en su utilización.
Detectar IA no permite comprobar la fiabilidad científica.
Según el artículo, los detectores actuales producen numerosos falsos positivos. Este problema afecta, en mayor medida, a quienes escriben en inglés sin ser hablantes nativos. Su escritura puede asemejarse al inglés utilizado para entrenar modelos generativos de IA.
Sin embargo, el problema no se limita a la precisión de estas herramientas. En las universidades interesa conocer si el alumnado ha delegado su pensamiento, razonamiento y escritura. Estas actividades deberían contribuir al desarrollo de sus capacidades de aprendizaje. En las revistas científicas, resulta fundamental comprobar errores de contenido, datos falsos o citas inventadas. También debe garantizarse que quienes firman el trabajo asuman plena responsabilidad sobre su contenido.
Por este motivo, el resultado proporcionado por un detector constituye, según el artículo, un indicador indirecto basado en características limitadas del texto. En el ámbito universitario, no permite determinar adecuadamente los resultados del aprendizaje. En las publicaciones científicas, tampoco permite determinar la responsabilidad sobre el contenido, su autenticidad o la credibilidad de los resultados.
Cuando las personas adaptan su escritura al detector.
La introducción de estos sistemas también puede modificar el comportamiento de quienes escriben. Las personas pueden preguntarse si determinados rasgos de su escritura serán interpretados como indicios del uso de IA. Como consecuencia, pueden evitar deliberadamente ciertos hábitos para reducir el riesgo de ser señaladas.
El artículo relaciona este fenómeno con la ley de Goodhart: cuando una medida se convierte en un objetivo, deja de funcionar adecuadamente como medida. Así, el resultado del detector puede dejar de reflejar de forma genuina el posible uso de IA.
Esta dinámica no afecta únicamente a quienes escriben. Quienes desarrollan estas tecnologías actualizan los modelos, mientras las instituciones y revistas modifican sus procedimientos de revisión. A su vez, quienes escriben pueden adaptar nuevamente sus prácticas para evitar ser detectados por estas herramientas.
Un círculo de adaptación entre autores, instituciones y tecnología.
Zhang y colaboradores describen así una dinámica de adaptación entre autoría, instituciones y personal técnico. En la práctica, algunas instituciones solicitan a quienes firman los trabajos que declaren personalmente que la IA no se ha utilizado de forma indebida. También pueden requerir borradores, historiales de versiones o explicaciones escritas que permitan justificar cómo se elaboró el trabajo.
El riesgo, según el artículo, es dedicar cada vez más recursos a un sistema de control que logra pocos resultados. Esos recursos podrían destinarse a garantizar la transparencia de los datos, la rigurosidad de los informes y la exactitud de las citas. Por tanto, el problema persistiría incluso si los detectores alcanzaran una precisión perfecta.
Tres propuestas para cambiar el modelo de control.
Ante esta situación, el artículo plantea tres cambios. Primero, las revistas no deberían considerar los resultados de los detectores como prueba directa de un uso indebido de IA. Tampoco deberían emplearlos como criterio para decidir si un manuscrito se toma en consideración. Esto reduciría los incentivos para intentar evitar ser detectados por estas herramientas.
En segundo lugar, quienes desarrollan estas herramientas deberían abandonar las estimaciones no verificadas sobre la probabilidad de que un texto haya sido generado por IA. En su lugar, deberían centrarse en problemas académicos comprobables, como citas inventadas y errores de contenido. Ante estas infracciones, el artículo propone impedir temporalmente la presentación de nuevos manuscritos, reforzando así la responsabilidad y la revisión previa.
Finalmente, las empresas distribuidoras deberían restringir el acceso comercial individual a los detectores. Estas herramientas podrían desempeñar un papel complementario para instituciones y revistas. Sin embargo, facilitar el mismo acceso a quienes presentan manuscritos permitiría comprobar repetidamente sus textos y adaptarlos para evitar la detección. En definitiva, Zhang y colaboradores proponen orientar el control de la IA hacia problemas que puedan comprobarse directamente, como las citas inventadas o los errores de contenido.
Fuente.
Zhang, S., & Lv, X. (2026). AI detection risks undermining academic integrity. Nature Human Behaviour, 10, 1395–1396. https://doi.org/10.1038/s41562-026-02528-y