RAG privado para empresas: IA sobre tu documentación

El punto de partida no es el modelo, sino la documentación que autorizas a consultar. Si un manual está desactualizado o dos versiones se contradicen, hay que resolverlo antes de esperar respuestas útiles. El recorrido habitual distingue la preparación de las fuentes de lo que ocurre cuando alguien pregunta:

• Se reúnen los documentos pertinentes y se decide cuáles puede ver cada tipo de usuario.
• El texto se divide en fragmentos manejables y se indexa para poder localizarlo por su contenido.
• Ante una pregunta, el sistema recupera los fragmentos que parecen más relevantes.
• El asistente redacta una respuesta apoyada en ellos y muestra el pasaje de origen para que puedas comprobarlo.

Recuperar un pasaje no demuestra que sea correcto ni vigente. Conviene contrastar la respuesta con la fuente, especialmente si afecta a una decisión importante. Cuando los fragmentos no respaldan una conclusión, el sistema debe poder indicarlo en lugar de completar los huecos con una suposición.

Los documentos que indexa el sistema se tratan bajo contrato de encargo: cómo tratamos los datos de tu empresa.

El alcance depende de los datos disponibles y de las integraciones que se acuerden. La propuesta no presupone que toda la documentación esté preparada ni que cualquier respuesta sea correcta sin revisión. La modalidad privada se basa en modelos locales y bases de datos privadas; el alojamiento se concreta contigo durante la auditoría.

Para delimitar el prototipo necesitamos acceso autorizado a una muestra representativa de los documentos, con sus versiones y permisos de lectura. No hace falta entregar todo el archivo de golpe: importa conocer qué fuentes son válidas, cuáles no deben indexarse y quién puede ver cada respuesta. La forma de acceso y el alojamiento se concretan durante la auditoría.

También necesitamos una persona que conozca el contenido y valide si los pasajes recuperados responden bien, además de preguntas reales formuladas como las haría el equipo. Los ejemplos difíciles son especialmente útiles: documentos duplicados, términos ambiguos, información retirada y preguntas cuya respuesta no figura en ninguna fuente. Esas excepciones permiten acordar cuándo el asistente debe admitir que no encuentra respaldo. Por último, conviene definir juntos cómo juzgar el resultado: si el pasaje citado corresponde a la versión vigente, si la respuesta refleja su sentido y si el usuario puede reconocer cuándo debe consultar a un responsable.

Para sistemas sobre datos propios trabajamos con modelos locales como Llama 3 y bases de datos privadas como Qdrant o Milvus. No se presupone una herramienta concreta para cada proyecto: la elección se define al revisar documentación, infraestructura y alcance.

Un error habitual es cargar todos los archivos disponibles sin distinguir versiones aprobadas de borradores. El índice puede encontrar un texto antiguo con tanta facilidad como uno vigente. Para evitarlo, conviene asignar responsables a las fuentes, retirar duplicados y dejar claro qué documentos se pueden consultar.

Otro fallo es evaluar el asistente solo con preguntas fáciles cuya respuesta aparece literalmente en un título. Las dudas ambiguas y las preguntas sin respuesta revelan mejor si sabe mostrar el pasaje correcto o reconocer que no tiene base suficiente. También se confunde a veces una cita con una validación: enlazar un fragmento no sustituye la comprobación de su fecha, su alcance y sus permisos.

Por último, un sistema que no se actualiza acaba respondiendo sobre una fotografía antigua del conocimiento. Antes del despliegue conviene acordar quién publica cambios, cómo se reindexan y cómo se revisan las respuestas cuestionadas. RAG ayuda a consultar documentos; no corrige por sí mismo su contenido.