Una respuesta no aparece de la nada.
Una investigación puede comenzar con una respuesta. La mía comenzó con un vacío.
Mientras trabajaba en un tema para Musipensantes, encontré una falta en las fuentes que sostenían parte de lo que estaba construyendo. No fue solo un problema de bibliografía. Me hizo retroceder una pregunta: ¿cómo habíamos llegado la inteligencia artificial y yo hasta esas fuentes?
Cuando investigo por mi cuenta, el camino deja rastros. Decido qué palabras buscar, dónde buscarlas, qué resultado abrir, qué fuente leer con más cuidado, qué contraste necesito y qué afirmación puedo sostener finalmente. Una respuesta no aparece de la nada: antes hubo elecciones.
Con una inteligencia artificial, en cambio, puedo recibir una respuesta y una lista de fuentes en muy poco tiempo. Pero empecé a querer ver algo que no cabía del todo en esa lista: qué entendió de mi pregunta, qué posibilidades consideró pertinentes, cuáles caminos quedaron fuera y dónde podía yo intervenir antes de aceptar la respuesta como suficiente.
No quería convertir la investigación en una explicación técnica de algoritmos. Quería poder discutir mejor el recorrido que existe entre una pregunta, una respuesta y las fuentes que terminan sosteniéndola.
La asociación con Pensamiento Visible
En ese momento recordé el trabajo de Project Zero, de la Harvard Graduate School of Education. Allí, Visible Thinking se presenta como un marco de trabajo que busca hacer observables pensamientos, preguntas, razones y reflexiones para poder documentarlos y apoyar su desarrollo (Project Zero, s. f.-b).
Una de sus herramientas son las thinking routines: conjuntos breves de preguntas o pasos que ayudan a orientar el pensamiento y, al mismo tiempo, permiten hacerlo visible para quien aprende y para quien acompaña el aprendizaje (Project Zero, s. f.-a).
La asociación fue inmediata: ¿y si pudiéramos hacer algo parecido cuando investigamos junto a una IA?
La primera expresión que apareció fue: rutinas de pensamiento visible de la IA aplicadas a la investigación.
Con ese nombre imaginaba preguntas sencillas: ¿qué entendiste de mi pregunta?, ¿qué buscaste?, ¿qué fuentes encontraste?, ¿por qué usaste estas y no otras?, ¿qué posibilidad quedó sin explorar?
Todavía no era una propuesta terminada. Era una intuición: hacer más discutible una parte del camino antes de convertir una respuesta en conocimiento propio.
La primera objeción
Pero la intuición tuvo un problema antes de encontrar su primera fuente.
Al explicarla, apareció una objeción razonable: hablar de pensamiento visible de la IA podía sugerir que estamos viendo el pensamiento o el funcionamiento interno de un sistema. Y eso no es lo que puedo afirmar.
Project Zero habla de hacer visible el pensamiento de estudiantes y de apoyar su desarrollo. Sus definiciones no autorizan a trasladar esa idea, sin más, al interior de una inteligencia artificial (Project Zero, s. f.-a, s. f.-b).
La conversación propuso entonces otro nombre: criterio visible.
La corrección parecía útil. Sin embargo, aceptar un nombre solo porque suena más preciso habría repetido exactamente el problema que me había llevado a investigar: recibir una respuesta convincente sin examinar suficientemente el recorrido que la produjo.
Así que tampoco acepté «criterio visible» como conclusión. Lo dejé como una reformulación provisional.
La corrección conserva la pregunta
- 01Pregunta de origen¿Cómo llegamos hasta las fuentes?
- 02Evidencia o contraste«Pensamiento visible de la IA»
- 03Límite descubiertoNo equivale a ver el interior del sistema.
- 04Corrección de la hipótesis«Criterio visible» sigue siendo provisional.
- 05Pregunta que continúa¿Qué puede hacerse visible realmente?
El recorrido muestra una revisión conceptual; no describe una cadena de razonamiento interno ni una transparencia total de la IA.
Lo que sí quiero hacer visible
No estoy buscando una ventana al razonamiento interno de una IA. Tampoco quiero fingir que una explicación dada por el sistema basta, por sí sola, para convertir su proceso en transparente.
La investigación sobre explicaciones de modelos de lenguaje advierte un límite concreto: una explicación plausible puede no reflejar fielmente los mecanismos internos que produjeron una respuesta, y algunas pruebas de “fidelidad” examinan en realidad la consistencia entre salidas, no el acceso a esos mecanismos (Parcalabescu & Frank, 2024).
Esto no demuestra que toda explicación de una IA sea infiel ni que la interpretabilidad sea imposible. Sí impide tratar una explicación verbal, por sí sola, como prueba de que su proceso interno se ha vuelto visible (Parcalabescu & Frank, 2024).
Lo que quisiera investigar es otra cosa: qué elementos documentables del trabajo compartido pueden volverse visibles, discutibles y corregibles por quien investiga.
Por ejemplo: la pregunta inicial, sus cambios, los términos utilizados, las fuentes localizadas, los criterios explícitos para seleccionar una fuente, las objeciones que aparecieron, los límites de una respuesta y las decisiones que sigo tomando yo.
Eso sigue siendo una hipótesis de trabajo. Habrá que averiguar qué parte de ese recorrido puede registrarse de manera fiable, qué parte debe permanecer como límite y qué conceptos ya existen para nombrarlo sin exagerar lo que sabemos.
Conservar la transformación
La primera intuición no desaparece porque haya sido cuestionada. Conserva algo valioso: señaló un problema real. Pero el nombre inicial tampoco debe quedar protegido solo porque fue el primero.
Quiero conservar ambos momentos:
- la intuición de hacer visible el camino de una investigación asistida por IA;
- y la objeción que impide llamar a ese camino «pensamiento de la IA» sin más evidencia.
Entre ambos aparece una pregunta mejor:
¿Qué es realmente posible hacer visible cuando investigamos junto a una inteligencia artificial?Pregunta abierta
No tengo todavía una respuesta definitiva. Y esa es una parte esencial del comienzo.
No quiero mostrar solamente dónde llegamos, sino conservar cómo llegamos.
Fuentes utilizadas
Estas fuentes distinguen Pensamiento Visible de los límites de explicabilidad en IA; no autorizan tratar una explicación verbal como acceso al interior de un sistema.
Límite de explicabilidadParcalabescu, L., & Frank, A. (2024). On measuring faithfulness or self-consistency of natural language explanations. In L.-W. Ku, A. Martins, & V. Srikumar (Eds.), Proceedings of the 62nd Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers) (pp. 6048–6089). Association for Computational Linguistics. https://doi.org/10.18653/v1/2024.acl-long.329
Consultar fuenteMarco de Pensamiento VisibleProject Zero. (s. f.-b). Visible Thinking. Harvard Graduate School of Education.
Consultar fuenteRutinas de pensamientoProject Zero. (s. f.-a). PZ Thinking Routines. Harvard Graduate School of Education.
Consultar fuente