La IA conoce la respuesta. ¿Pero puede demostrarlo? IA defendible y el nuevo papel de la procedencia de los documentos.

La introducción de la inteligencia artificial en la gestión documental suscitó de inmediato dudas sobre la precisión del sistema y la verosimilitud de sus respuestas. Hoy en día, gracias a la rápida evolución de la tecnología hacia el procesamiento inteligente de documentos y a los agentes de IA capaces de automatizar procesos y orientar las decisiones estratégicas de la empresa, es fundamental poder responder a otras preguntas, tales como:

¿De qué información se derivó esa respuesta? ¿Qué versión de los documentos se utilizó? ¿Quién aprobó esos documentos? ¿Qué fuentes consultó el sistema?

En resumen, la verdadera evolución no consiste en pasar de los documentos a las respuestas, sino de las respuestas a respuestas verificables.

En torno a estas preguntas está surgiendo el concepto de IA defendible: no se trata de una categoría normativa definida formalmente ni de una norma internacional, sino de una forma cada vez más útil de describir los sistemas de IA cuyos resultados pueden reconstruirse, verificarse y defenderse con pruebas.

IA explicable e IA defendible: no son lo mismo

Un sistema puede ser capaz de explicar, al menos en parte, cómo llegó a una conclusión determinada. Pero es posible que una organización siga sin poder demostrar qué pruebas estaban disponibles cuando se llegó a esa conclusión.

Esta es una distinción importante. La explicabilidad se refiere principalmente a la comprensión del comportamiento de un modelo, mientras que la IA defendible se refiere a todo el contexto en el que se utilizó ese modelo: datos, documentos, versiones, usuarios, permisos, transformaciones, recuperaciones, resultados, controles y decisiones posteriores. 

En otras palabras, no basta con poder decir: «La IA generó esta respuesta».

Debería ser posible demostrar: «La IA generó esta respuesta el 14 de marzo utilizando estas versiones específicas de estos documentos, recuperando estos pasos, con esta versión del modelo y estas instrucciones; el resultado fue posteriormente verificado por esta persona y utilizado en este proceso».

Esta es una diferencia fundamental.

El Marco de Gestión de Riesgos de la IA del NIST vincula explícitamente una IA fiable con la rendición de cuentas y la transparencia, abarcando todo, desde las decisiones de diseño y los datos hasta cómo se tomaron las decisiones durante y después de la implementación. Anima a las organizaciones a documentar la procedencia de los datos, incluyendo fuentes, orígenes, transformaciones, dependencias y metadatos.

El reto no consiste solo en hacer que la IA sea más inteligente, sino en que su relación con la información sea trazable.

Procedencia de las pruebas: ¿de dónde procede la afirmación de la IA?

El concepto de procedencia no surgió con la inteligencia artificial, pero, cuando se aplica a la IA basada en documentos, este principio cobra especial interés.

Lo ideal es que una respuesta generada por un sistema empresarial conserve una cadena de pruebas fidedigna. Si la fuente de la respuesta es un documento, es necesario identificar su versión exacta, su procedencia, su propietario, la fecha de adquisición, las aprobaciones pertinentes y los cambios realizados a lo largo del tiempo.

A continuación, el documento puede convertirse, someterse a OCR, clasificarse, segmentarse, enriquecerse con metadatos o transformarse en representaciones. El sistema RAG puede entonces recuperar algunos de estos segmentos e insertarlos en el contexto proporcionado al modelo lingüístico. Finalmente, el modelo procesa una respuesta, que puede ser aceptada, modificada o rechazada por una persona y, posiblemente, convertirse en la entrada para un flujo de trabajo posterior.

Lo ideal es que la procedencia abarque toda esta cadena.

Esta es probablemente una de las diferencias más importantes entre una simple aplicación de IA generativa y una auténtica IA de documentos trazables.

RAG mejora la conexión con la realidad. Pero no garantiza la trazabilidad.

La «generación aumentada por recuperación» (RAG) se promociona a menudo como una de las principales soluciones al problema de las «alucinaciones» en los grandes modelos de lenguaje.

La idea es relativamente sencilla: en lugar de pedir al modelo que responda basándose únicamente en el conocimiento contenido en sus parámetros, el sistema recupera información de una base de conocimientos y la proporciona como contexto para la generación. Pero conectar un LLM a un repositorio de documentos no hace que el sistema sea automáticamente fiable.

El problema simplemente se desplaza. Es necesario saber qué contiene el repositorio.

Un sistema RAG puede perfectamente recuperar el documento equivocado. Podría utilizar por error un procedimiento obsoleto o recuperar un borrador en lugar de la versión aprobada. Incluso los documentos manipulados deliberadamente podrían influir en él. (Para más información)

En otras palabras: un sistema RAG sin gobernanza documental corre el riesgo de convertirse simplemente en una forma muy eficiente de recuperar información no controlada.

Control de versiones: una función tradicional del DMS se convierte en una función de gobernanza de la IA

Aquí surge una paradoja interesante. Algunas de las herramientas necesarias para gobernar los sistemas avanzados de IA no son nada nuevas.

El control de versiones, por ejemplo, ha sido una función fundamental de los sistemas de gestión documental durante décadas.

Sin embargo, con la IA, adquiere un significado diferente. Para un usuario humano, a menudo basta con conocer la versión actual de un documento, mientras que reconstruir una decisión tomada por la IA puede requerir conocer la versión vigente en un momento concreto del pasado. Sin el control de versiones, esa respuesta resulta difícil de verificar. Y sin la capacidad de asociar la recuperación y la salida con la versión real utilizada, incluso un sistema RAG aparentemente transparente puede perder una pieza crucial de su evidencia.

Es significativo que el Marco de Datos de Investigación del NIST considere que el control de versiones es esencial para la trazabilidad de los datos, la reconstrucción de datos, el seguimiento de cambios y la corrección de errores.

Registro de auditoría: no solo quién modificó un documento

El mismo razonamiento se aplica al registro de auditoría. Tradicionalmente, un sistema de gestión documental (DMS) registra operaciones como la creación, modificación, descarga, aprobación, traslado y eliminación de documentos.

En un entorno de IA, el registro de auditoría puede ampliarse considerablemente, a medida que pasamos gradualmente de un registro de auditoría de documentos a un registro de pruebas de IA.

El primero describe el historial del documento. El segundo debería vincular ese historial con el historial de la decisión.

Este principio queda reflejado muy claramente en la Ley de IA de la UE.

En el caso de los sistemas clasificados como de alto riesgo, el artículo 12 establece el registro automático de eventos a lo largo de todo el ciclo de vida del sistema para garantizar un nivel adecuado de trazabilidad. El artículo 11 también exige documentación técnica actualizada, mientras que los artículos 13 y 14 introducen requisitos relativos a la transparencia, la interpretación de los resultados y la supervisión humana.

A partir del 2 de agosto de 2026, el Reglamento entró en vigor de forma generalizada, y la Comisión Europea y las autoridades nacionales asumieron nuevas competencias de ejecución. A partir de esa fecha, también se aplican importantes obligaciones de transparencia en virtud del artículo 50.

Naturalmente, no todos los sistemas de gestión de documentos basados en la IA entrarán en la categoría de alto riesgo, y el marco sigue siendo progresivo, con exenciones y regulaciones de las obligaciones entre 2027 y 2028.

Pero esto no resta importancia a la trazabilidad; al contrario, ofrece a las organizaciones la oportunidad de diseñar la infraestructura necesaria antes de que la auditabilidad se convierta en un problema que haya que resolver de forma retroactiva.

La gobernanza documental y la gobernanza de la IA están convergiendo

La gestión documental se ha considerado a menudo una disciplina separada de la inteligencia artificial.

Por un lado están los repositorios, los metadatos, las versiones, los permisos, los flujos de trabajo y la conservación; por otro, los modelos, las indicaciones, las bases de datos vectoriales, las incrustaciones y los agentes de IA. Esta separación resulta cada vez más insostenible. Un sistema de IA empresarial utiliza los documentos como prueba operativa. En consecuencia, la calidad de la gobernanza de la IA también depende de la calidad de la gobernanza de esa información.

Los documentos ya no son utilizados únicamente por personas. Son leídos, clasificados, correlacionados y recuperados continuamente por sistemas automatizados. Por este motivo, los metadatos, el control de versiones, el control de acceso y los registros de auditoría ya no son solo herramientas administrativas; se han convertido en parte del plano de control de la IA de la organización.

En este escenario, un sistema de gestión documental puede asumir un papel mucho más amplio que el de un simple repositorio. Plataformas como LogicalDOC combinan el control de versiones, los metadatos, el control de acceso, las pistas de auditoría, los flujos de trabajo y las capacidades de búsqueda y análisis impulsadas por IA. Estos elementos pueden constituir la base de información necesaria para crear sistemas de IA documental en los que el acceso a las fuentes siga estando regulado y, sobre todo, sea trazable a lo largo del tiempo.

De la «única fuente de verdad» a la «única fuente de pruebas»

Uno de los principales objetivos de la gestión documental siempre ha sido crear una única fuente de verdad: un lugar fiable donde encontrar información corporativa precisa.

La llegada de la inteligencia artificial sugiere una evolución adicional de este concepto.

Podríamos hablar de una única fuente de pruebas: no solo el lugar del que la IA extrae la información, sino el sistema capaz de demostrar qué información existía, qué versión era válida, quién era responsable de ella y cómo se utilizó.

La diferencia puede parecer semántica, pero es sustancial.

Una posible arquitectura para la IA de documentos trazables

En este escenario, el repositorio de documentos no debería considerarse simplemente una fuente de la que extraer texto para transformarlo en representaciones vectoriales.

Debe seguir siendo la referencia autorizada del documento.

La base de datos vectorial puede optimizar la recuperación. El modelo lingüístico puede interpretar y generar. Los agentes pueden coordinar actividades. Pero, junto a este flujo de trabajo, debe existir una cadena persistente que conecte el resultado con la evidencia original.

Cuanto más aumenta la autonomía de la IA, más importante se vuelve esta cadena.

Con un chatbot, un error puede dar lugar a una respuesta incorrecta. Con un agente de IA, esa misma respuesta puede convertirse en la entrada para otra operación: modificar un documento, aprobar un caso, iniciar un flujo de trabajo, enviar una comunicación o actualizar un sistema de la empresa.

Por lo tanto, el rastro de evidencia debe poder seguir no solo lo que dice la IA, sino también lo que hace.

La procedencia no implica necesariamente la veracidad.

Por último, hay una aclaración importante. La procedencia no demuestra automáticamente que la información sea correcta.

Más bien, demuestra de dónde procede y qué ha ocurrido con ella; significa poder identificar el origen del error, determinar qué otros resultados se han visto afectados y corregir el proceso.

Sin procedencia, sin embargo, el error corre el riesgo de convertirse simplemente en una respuesta incorrecta cuya causa nadie puede reconstruir.

El próximo reto de la IA empresarial podría ser la auditabilidad.

En los últimos años, hemos pedido cada vez más a los sistemas de IA que clasifiquen, extraigan, comprendan y generen.

Ahora estamos empezando a pedirles que participen en procesos de toma de decisiones y, con los agentes de IA, incluso que realicen acciones. Esta mayor autonomía debe ir acompañada de una mayor auditabilidad.

Por eso, es posible que el próximo salto cualitativo en la IA empresarial no sea simplemente un modelo más potente, sino más bien la capacidad de crear sistemas en los que cada decisión importante mantenga un vínculo verificable con la información en la que se basó.

Una organización que mantiene documentos fiables, versionados, regulados y auditables no se limita a gestionar mejor su archivo; está construyendo la infraestructura de información necesaria para que la IA no solo sea útil, sino también trazable, responsable y, cuando sea necesario, defendible.