Production RAG
De cero a sistemas escalables. Retrieval-augmented generation que sobrevive al contacto con un corpus real, usuarios reales, una factura real y un adversario real — etapa a etapa, con el código y las cifras.
- 16
- partes
- 379
- secciones
- 331
- listados de código
- 153k
- palabras
Léela una vez de principio a fin para construir el modelo mental y después úsala como índice de consulta. Cada parte termina con una checklist que puedes aplicar.
La forma del problema. Un sistema RAG son dos pipelines que se encuentran en un vector store. El pipeline de indexación corre offline — cargar, partir, hacer embedding, almacenar. El pipeline de retrieval corre en cada query — hacer embedding de la pregunta, buscar, ordenar, rellenar un prompt, generar. Casi todos los fallos en producción se remontan a una etapa concreta de uno de esos dos pipelines, así que la guía se organiza igual: construir los pipelines y después hacer que cada etapa sea observable, barata, rápida y segura.
Dos pipelines que se encuentran en un vector store
Cada parte de la guía se ocupa de una o varias cajas de este mapa. Léelo una vez; después úsalo como índice de todo lo demás.
Dieciséis partes, cuatro bloques
Léela una vez de principio a fin para construir el modelo mental y después úsala como índice de consulta. Cada parte termina con una checklist que puedes aplicar.
Fundamentos
Construir los dos pipelines
Por qué RAG se rompe en producción y cómo encajan las piezas
Ponerles nombre a los modos de fallo e instalar el mapa de punta a punta, la chain canónica y los seis invariantes.
Monta el taller y mete los datos
Montar el proyecto con uv, las credenciales y la capa de loaders que convierte cualquier fichero en Documents.
Chunking: la palanca de calidad más importante
Splitters, chunk size y overlap, semantic chunking y un harness A/B: la palanca que decide todo lo que viene después.
Embeddings, vector stores y cómo leer los scores de similitud
Convertir chunks en vectores, guardarlos en Chroma y aprender a leer bien los scores de similitud.
Tu primer sistema RAG real, y cómo depurarlo cuando miente
Montar la primera chain de punta a punta con LCEL y depurarla con método cuando responde mal.
Calidad y operaciones
Que sea correcto, observable y asequible
Calidad del retrieval: búsqueda híbrida, reranking y citas
Búsqueda híbrida BM25 + vectorial fusionada con RRF, reranking, compresión y citas.
Observabilidad: traces, métricas y evals
Tracing, métricas y evals: el marco alrededor del pipeline que no cambia nada y lo revela todo.
Escalado: ajuste del índice, HNSW y cuándo hacer sharding
Los parámetros M y ef de HNSW, presets de recall frente a latencia, escalar en vertical primero y cuándo hacer sharding.
El presupuesto de coste y latencia
Quantization, batching, tres capas de caching y un modelo de costes resuelto: recupera el dinero.
Llevarlo a producción
Alojarlo, servirlo, defenderlo, probarlo
Hosting en producción: Supabase y pgvector
De una carpeta local a Supabase + pgvector: managed frente a self-hosted, el paso a paso y la operación.
La API de producción: FastAPI y el camino de la request
Un servicio FastAPI + LangGraph: rate limits, cache, retries, fallbacks, circuit breaker y métricas.
La capa de seguridad: prompt injection y PII
Detección de prompt injection, enmascarado de PII y validación de la salida en un centenar de líneas.
Testear la capa de seguridad y la checklist de producción
Tests adversariales, evals LLM-as-judge, la imagen Docker y la checklist de producción.
Avanzado y frontera
Cambiar lo que significa el retrieval
Retrieval avanzado: contexto largo, contextual retrieval y late chunking
Long context frente a RAG, contextual retrieval y late chunking: arreglar lo que significa cada chunk.
Agentic RAG: retrieval autocorrectivo con LangGraph
Retrieval que se autocorrige: evaluar, reescribir y reintentar con una máquina de estados de LangGraph.
La frontera: GraphRAG, multimodal RAG y hacia dónde va todo esto
GraphRAG y retrieval multimodal con ColPali: cuando un documento no es solo texto.
Resúmenes en audio
Resúmenes hablados y breves de las partes que más ganan al explicarse en voz alta. Generados con NotebookLM a partir del texto de cada parte.
- 01Por qué RAG se rompe en producción y cómo encajan las piezas4:27
- 03Chunking: la palanca de calidad más importante4:17
- 04Embeddings, vector stores y cómo leer los scores de similitud6:39
- 05Tu primer sistema RAG real, y cómo depurarlo cuando miente6:01
- 06Calidad del retrieval: búsqueda híbrida, reranking y citas5:03
- 07Observabilidad: traces, métricas y evals5:36
- 08Escalado: ajuste del índice, HNSW y cuándo hacer sharding4:29
- 09El presupuesto de coste y latencia6:48
- 11La API de producción: FastAPI y el camino de la request6:10
- 12La capa de seguridad: prompt injection y PII5:46
- 13Testear la capa de seguridad y la checklist de producción6:26
- 14Retrieval avanzado: contexto largo, contextual retrieval y late chunking6:47
- 15Agentic RAG: retrieval autocorrectivo con LangGraph5:29
- 16La frontera: GraphRAG, multimodal RAG y hacia dónde va todo esto5:22