CRITERIO VISIBLE IA · REINICIO · ARTÍCULO 4

¿Qué encontraron quienes ya se hicieron preguntas parecidas?

Una búsqueda de investigaciones cercanas sobre incertidumbre, trazabilidad, transparencia y verificación en el uso de IA para investigar.

Investigación en desarrollo23 de septiembre de 2026

La pregunta que ya podíamos hacernos

Ya sabía que no éramos los primeros. Había investigadores estudiando qué ocurre cuando la inteligencia artificial participa en la búsqueda de literatura, la síntesis de información y otras etapas de una investigación. La siguiente pregunta era inevitable: ¿qué encontraron quienes ya se hicieron preguntas parecidas? Antes de convertir la respuesta en esta entrega necesitaba comprender qué decían realmente sus trabajos. Y tuve que corregir una expectativa: no encontré un único problema ni una única solución, sino varias preocupaciones conectadas que tocan partes diferentes de mi intuición inicial.

Cuando entra la IA, algunos juicios dejan de verse con claridad

El trabajo que hasta ahora encuentro más cercano a mi pregunta es el de Sanjana Gautam, Houjiang Liu, Yujin Choi y Matthew Lease. En 2026 observaron a 15 investigadores mientras utilizaban herramientas basadas en modelos de lenguaje en etapas tempranas: exploración de literatura, síntesis de información e ideación. Estudiaron cómo navegaban rendición de cuentas, transparencia y confianza en ese trabajo. (Gautam et al., 2026)

Uno de sus hallazgos me interesa especialmente. El tono seguro de las respuestas de la IA puede representar mal la incertidumbre: una afirmación muy bien sustentada y otra que necesita mucha más comprobación pueden sonar igualmente convincentes. (Gautam et al., 2026) Yo no había pensado suficientemente en esa dificultad. Si todo parece igual de seguro, ¿cómo sé dónde debo detenerme a comprobar? Esa pregunta sobre mi propio criterio es una interpretación del hallazgo; el estudio no demuestra que una respuesta confiada cause siempre una mala decisión.

Los autores también encontraron que la recuperación de información y la construcción de las respuestas, cuando quedan poco visibles, dificultan establecer la provenance. (Gautam et al., 2026) Era muy parecido a lo que yo venía preguntándome: ¿qué ocurrió entre mi pregunta y las fuentes que recibí? La palabra provenance, que yo no había utilizado al comenzar, se refiere aquí a poder reconstruir de dónde procede algo y qué recorrido tuvo hasta llegar a nosotros. No basta con añadir una bibliografía al final: si una IA intervino en una búsqueda, pueden importar la herramienta, la consulta, las fuentes aparecidas y las transformaciones que llevaron de ellas a una afirmación. Es una explicación apoyada en antecedentes sobre provenance y en el marco que encontré después; no implica acceso al razonamiento interno de la IA. (World Wide Web Consortium, 2013) (Kale et al., 2023) (Gopal et al., 2025)

El tercer problema fue la confianza. No se trataba simplemente de investigadores que «confían» o «no confían» en la IA: la confianza era frágil, dependía del contexto y los participantes desarrollaban estrategias para compensar la incertidumbre y recuperar su juicio académico. (Gautam et al., 2026) Yo reconocí allí una coincidencia con mi inquietud: cuando parte del recorrido desaparece, ejercer el propio criterio puede volverse más difícil. Lo digo como interpretación mía, no como una relación causal universal probada por Gautam y sus colegas.

Encontrar referencias correctas tampoco significa haber buscado bien

Otro estudio de 2026 hizo una pregunta más concreta. Leon y Kudelka auditaron la recuperación bibliográfica con cuatro herramientas de IA generativa. No se limitaron a decidir si las respuestas «parecían buenas»: verificaron DOI, integridad de metadatos, resultados recuperados y variación al repetir las búsquedas. Compararon además lo obtenido con un conjunto de referencia construido mediante Scopus, Web of Science y Google Scholar. (Leon & Kudelka, 2026)

Las búsquedas en lenguaje natural recuperaban con frecuencia menos resultados de los esperados, presentaban problemas de integridad y coincidían poco con el conjunto de referencia. Traducirlas a consultas booleanas —combinaciones explícitas de términos con operadores como AND, OR y NOT— mejoró algunos resultados. Pero la mejora no resolvió la inestabilidad: seguía habiendo variación entre ejecuciones y problemas de reproducibilidad. (Leon & Kudelka, 2026)

Aquí encontré una distinción que quiero conservar: que una referencia encontrada sea correcta no significa que la búsqueda que produjo el conjunto de referencias sea reproducible. Es mi síntesis del problema, no una frase de los autores. Una IA podría entregarme cinco artículos reales, pertinentes y perfectamente citados; eso todavía no demuestra que encontré los cinco artículos que debía encontrar ni me dice qué quedó fuera. El alcance de la auditoría también tiene un límite: trata la recuperación y la integridad de citas, no la selección, la lectura crítica ni toda la síntesis posterior de una revisión. (Leon & Kudelka, 2026)

La ciencia ya está intentando dejar huella

Aquí apareció una palabra que vale la pena explicar: auditabilidad. No significa solamente declarar «utilicé ChatGPT». Significa conservar evidencia suficiente del proceso para que alguien pueda examinar después qué ocurrió. Esa posibilidad de examen se acercaba a mi idea de no perder el recorrido.

Un editorial de Information Systems Research propone distinguir tres principios. Transparencia: declarar dónde y cómo intervino la IA. Provenance: conservar registros de fuentes, prompts, versiones y configuraciones de modelos, flujos de trabajo y artefactos. Verificación: comprobar activamente afirmaciones, citas, código y análisis producidos con ayuda de IA. En el marco de Gopal y colegas, provenance conecta transparencia con verificación. (Gopal et al., 2025) Atribuyo esa relación a su marco editorial; no la presento como definición universal ni como resultado experimental.

Entonces apareció una relación que me interesa mucho: para verificar algo necesito poder regresar hasta aquello que lo produjo. Es mi manera de explicar por qué la trazabilidad empieza a dejar de parecerme solamente una cuestión de transparencia. Puede ayudarme a investigar mejor si los rastros permiten preguntar por el origen de una afirmación y decidir qué comprobar.

También encontré PRISMA-trAIce. Surgió ante problemas de transparencia y reproducibilidad en revisiones sistemáticas asistidas por IA y propone 14 elementos de reporte. Entre ellos están identificar las herramientas utilizadas, describir la interacción y supervisión entre humanos e IA, explicar cómo se evaluó el desempeño y declarar limitaciones. (Holst et al., 2025) Conviene conservar la palabra «propone»: es una propuesta fundacional que busca construir consenso, no un estándar universal consolidado ni una garantía de verificación.

Esto me obligó a corregir otra expectativa. Yo no estaba descubriendo la necesidad de documentar la participación de la IA; la comunidad científica ya está intentando hacerlo. Es una buena noticia. Nuestra investigación no necesita inventar un problema para justificar su existencia. Necesita averiguar qué parte de la inquietud original sigue abierta.

Entonces encontré una diferencia

Buena parte de lo que leía respondía una pregunta: ¿cómo documentamos y hacemos verificable el uso de IA dentro de una investigación? Mi inquietud había comenzado ligeramente antes. Yo quería detenerme mientras investigaba y preguntar: «¿Cómo interpretaste mi pregunta? ¿Qué buscaste? ¿Por qué buscaste eso? ¿Qué otras posibilidades encontraste? ¿Por qué priorizaste esta fuente?». Y después quería poder decir: «No. Busca nuevamente desde aquí». Eso sería usar parte del recorrido para cuestionar y modificar la investigación mientras ocurre. No afirmo que la diferencia sea original ni que exista un vacío demostrado; aún tenemos que buscar si alguien ya construyó algo equivalente.

Una propuesta metodológica cercana, todavía provisional

Un trabajo metodológico de Galko y colegas me mostró una posibilidad cercana: explorar, construir afirmaciones y someterlas a una revisión adversarial. En la versión 1 de su preprint utilizaron incluso otra IA para buscar errores en lo producido antes. Reportaron tres referencias inventadas, un error terminológico e inconsistencias entre texto, figuras y resultados. (Galko et al., 2026) Esos resultados concretos explican por qué el ejemplo me interesó; llamarlo simplemente «revisión adversarial» escondería lo que encontraron.

Los autores mantienen explícitamente bajo responsabilidad humana la dirección de la investigación, la interpretación y la decisión final sobre qué puede afirmarse. La IA puede proponer; quien investiga necesita conservar la posibilidad de interrogar, rechazar y redirigir. (Galko et al., 2026) Le doy a este trabajo el peso que corresponde: es un preprint, versión 1 del 29 de mayo de 2026, no evidencia consolidada. El mismo DOI tiene una versión 2 posterior con título y foco diferentes; por eso nombro la versión metodológica que realmente estoy usando.

Lo que sí encontramos, y lo que todavía no

Si reúno las piezas sin convertirlas en una teoría única, veo este patrón: la IA puede ampliar mucho la capacidad de búsqueda, exploración y producción; al mismo tiempo, algunas decisiones y grados de incertidumbre pueden quedar menos visibles; entonces resulta más difícil reconstruir de dónde procede una afirmación y saber qué necesita mayor verificación. Por eso aparecen propuestas para documentar, conservar trazas y comprobar, mientras el investigador mantiene la responsabilidad final. Esta es una síntesis mía de trabajos diferentes, no una secuencia causal universal demostrada por uno de ellos.

Mi intuición inicial no parece haber sido ingenua. Pero sería falso decir «descubrimos un problema que nadie había visto». La literatura ya habla de transparencia, provenance, auditabilidad, reproducibilidad, confianza, verificación y responsabilidad humana. Empecé queriendo crear unas «rutinas de pensamiento visible de la IA» y descubrí que hasta ese nombre tenía problemas. Cada hallazgo quitó algo de ingenuidad a la intuición sin hacerla desaparecer. Ahora necesito ubicar con precisión mi pregunta dentro de ese mapa.

Sospecho que mi propuesta podría estar en algo más específico que «hacer transparente el uso de IA»: convertir parte de la trazabilidad en una conversación activa durante la investigación. Quiero observar suficiente del recorrido para cuestionar una interpretación, una prioridad o una búsqueda antes de aceptar el resultado; poder corregir y volver a hacer. Provisionalmente, pasaría de «hacer → registrar → informar» a «hacer → mostrar → cuestionar → corregir → volver a hacer». Esto es una hipótesis mía, no un hallazgo de las fuentes ni una solución terminada.

Por eso la siguiente pregunta parece inevitable: de todo lo que ya existe, ¿qué resuelve realmente nuestra inquietud original y qué sigue faltando? La respuesta nos dirá si estamos reinventando algo o si hay espacio para construir nuestras rutinas. Esa iba a ser nuestra siguiente búsqueda. Iba a ser. Justo en ese punto apareció algo que volvió a desviar la investigación. Y esta vez decidí seguirlo.

Fuentes utilizadas

Las fuentes cumplen funciones diferentes; sus límites se conservan dentro del artículo.

01

Antecedente conceptualWorld Wide Web Consortium. (2013). PROV-Overview: An overview of the PROV family of documents. W3C Working Group Note.

Consultar fuente
02

Revisión de literaturaKale, A., Nguyen, T., Harris, F. C., Li, C., Zhang, J., & Ma, X. (2023). Provenance documentation to enable explainable and trustworthy AI: A literature review. Data Intelligence, 5(1), 139–162.

Consultar fuente
03

Estudio empírico cercanoGautam, S., Liu, H., Choi, Y., & Lease, M. (2026). How researchers navigate accountability, transparency, and trust when using AI tools in early-stage research: A think-aloud study. En Proceedings of the 2026 ACM Conference on Fairness, Accountability, and Transparency (pp. 1494–1512). Association for Computing Machinery.

Consultar fuente
04

Auditoría de recuperaciónLeon, C., & Kudelka, M. (2026). Auditing GenAI literature search workflows: A replicable protocol for traceable, accountable retrieval in student-facing inquiry. AI in Education, 2(2), 8.

Consultar fuente
05

Marco de responsabilidadesGopal, R., Li, J., Riemer, K., Sarker, S., Singh, P. V., Susarla, A., Bichler, M., & Thatcher, J. B. (2025). Inventing with machines: Generative AI and the evolving landscape of IS research. Information Systems Research, 36(4), 1949–1967.

Consultar fuente
06

Propuesta de reporteHolst, D., Moenck, K., Koch, J., Schmedemann, O., & Schüppstuhl, T. (2025). Transparent reporting of AI in systematic literature reviews: Development of the PRISMA-trAIce checklist. JMIR AI, 4, e80247.

Consultar fuente
07

Propuesta metodológica provisionalGalko, P., Yisamaw, A., Haugen, T., & Seiler, S. (2026). Keeping human in the loop: A three-phase generative AI workflow for research integrity in data-intensive science. A methodological case study using elite Ethiopian distance-running data [Preprint, versión 1]. medRxiv.

Consultar fuente