RAG explicado sin humo: cómo conectar un modelo de IA a tus propios documentos

Los modelos de lenguaje saben mucho de casi todo, pero no saben nada de tu empresa: tus procedimientos, tus manuales o las decisiones que tomaste el mes pasado. Además, cuando no saben algo, a veces lo inventan. RAG (Retrieval-Augmented Generation, generación aumentada por recuperación) es la técnica más práctica para resolver ambos problemas, y es la base de nuestra plataforma AI Advisor.

La idea en una frase

En lugar de pedirle al modelo que recuerde, le damos a leer los fragmentos relevantes de tus documentos justo antes de que responda, y le pedimos que conteste solo con esa información.

Es la diferencia entre un examen de memoria y un examen a libro abierto.

Cómo funciona, paso a paso

Un sistema RAG tiene dos fases: preparar los documentos (una vez, o cada vez que cambian) y responder preguntas (cada vez que alguien consulta).

Fase 1: indexar

1. Recolectar. Se reúnen los documentos: PDF, páginas web, Markdown, hojas de cálculo.
2. Trocear. Cada documento se divide en fragmentos de unos cientos de palabras. El troceado importa más de lo que parece: si cortas una tabla por la mitad, ningún fragmento tendrá la respuesta completa.
3. Vectorizar. Cada fragmento se convierte en un embedding: una lista de números que representa su significado. Textos que hablan de lo mismo quedan "cerca" entre sí, aunque usen palabras distintas.
4. Guardar. Los vectores se almacenan en una base de datos vectorial junto con el texto original y metadatos (documento, sección, fecha).

Fase 2: responder

1. La pregunta del usuario también se convierte en un vector.
2. Se buscan los fragmentos más cercanos en la base vectorial (normalmente entre 3 y 10).
3. Se construye un prompt con instrucciones, los fragmentos recuperados y la pregunta.
4. El modelo genera la respuesta citando de qué fragmentos sacó cada dato.

Instrucciones: responde solo con la información de las fuentes.
Si no está en las fuentes, di que no lo sabes.

[Fuente 1 — Manual de operación, sección 4.2] ...
[Fuente 2 — Procedimiento de seguridad, punto 7] ...

Pregunta: ¿Cuál es la presión máxima de trabajo del equipo?

Por qué funciona mejor que reentrenar el modelo

Ajustar (fine-tuning) un modelo con tus documentos parece la opción natural, pero tiene problemas: es caro, hay que repetirlo cada vez que cambia un documento y el modelo sigue sin poder decir de dónde sacó un dato. Con RAG:

• Actualizar es barato: cambias un documento, lo vuelves a indexar y listo.
• Las respuestas son verificables: cada afirmación apunta a su fuente.
• Puedes controlar el acceso: si un usuario no puede ver un documento, ese documento no se recupera para él.

Errores frecuentes

Trocear sin criterio. Cortar cada 500 caracteres exactos rompe frases, tablas y listas. Es mejor respetar la estructura: títulos, párrafos y secciones.

Recuperar solo por similitud. La búsqueda vectorial falla con códigos, números de pieza o siglas exactas. Combinarla con búsqueda por palabras clave (búsqueda híbrida) mejora mucho los resultados.

No medir. Sin un conjunto de preguntas de prueba con sus respuestas correctas, no sabes si un cambio mejora o empeora el sistema. Recomendamos empezar con 30–50 preguntas reales.

Ocultar la incertidumbre. Un buen asistente dice "no encontré esa información en la documentación" en lugar de improvisar. Eso se consigue con instrucciones claras y revisando los casos en que no hay fragmentos relevantes.

¿Cuándo tiene sentido?

RAG es una buena opción cuando:

• hay mucha documentación que la gente consulta a menudo,
• las respuestas deben ser trazables (normativa, seguridad, procedimientos),
• la información cambia con frecuencia.

No es la mejor opción para tareas que no dependen de documentos, como clasificar textos o generar ideas creativas.

Conclusión

RAG no es magia: es buena ingeniería de búsqueda combinada con un modelo de lenguaje disciplinado. La calidad del resultado depende sobre todo de cómo preparas los documentos y de cómo mides las respuestas. Si quieres aplicar esta técnica a la documentación de tu equipo, cuéntanos tu caso.