oriolrius.me Production RAGGuia de referència
Guia de referència · Enginyeria d'IA

Production RAG

De zero a sistemes escalables. Generació augmentada amb recuperació que resisteix el contacte amb un corpus real, usuaris reals, una factura real i un adversari real: etapa a etapa, amb el codi i les xifres.

16
parts
379
seccions
331
llistats de codi
149k
paraules

Llegeix-la sencera una vegada per construir el model mental i després fes servir la taula de continguts com a índex de consulta. Cada part acaba amb una llista de comprovació que pots aplicar.

La forma del problema. Un sistema RAG són dos pipelines que es troben en un vector store. El pipeline d'indexació s'executa fora del camí de consulta: carrega, divideix, calcula embeddings i desa. El pipeline de recuperació s'executa per a cada consulta: calcula l'embedding de la pregunta, cerca, ordena, omple un prompt i genera. Gairebé qualsevol fallada en producció es pot atribuir a una etapa concreta d'un d'aquests dos pipelines. Per això, la guia segueix la mateixa estructura: construeix els pipelines i després fes que cada etapa sigui observable, econòmica, ràpida i segura.

El model mental

Dos pipelines que es troben en un vector store

Cada part de la guia tracta una o més caixes d'aquest mapa. Llegeix-lo una vegada i després fes-lo servir com a índex de la resta.

OBSERVABILITY(traces · metrics · evals · JSON logs) — wraps everything, changes nothingPart 7PHASE A — INDEXoffline · once per document · amortizedPHASE B — QUERYonline · once per request · recurringLoadPart 2SplitPart 3[Contextualize]Part 14EmbedPart 4Store + IndexParts 4, 8, 10GateP12CacheP9 · P11Embed queryP4RetrieveP4 · P6 · P16Fuse / FilterP6Compress / RerankP6Assemble promptP1 · P5 · P9GenerateP5 · P11Validate outputP11Return + citationsP1 · P6Governed by three budgets, always in tension:QUALITY · LATENCY · MONEY
El mapa general: les dues fases del pipeline, les parts que expliquen cada pas i l'observabilitat — de la Part 1.
La guia

Setze parts, quatre blocs

Llegeix-la sencera una vegada per construir el model mental i després fes-la servir com a índex de consulta. Cada part acaba amb una llista de comprovació que pots aplicar.

Parts 1–5

Fonaments

Construeix els dos pipelines

Parts 6–9

Qualitat i operacions

Fes-lo correcte, observable i assequible

Parts 10–13

Porta'l a producció

Allotja'l, serveix-lo, defensa'l i prova'l

Parts 14–16

Avançat i frontera

Canvia què vol dir recuperar informació

Escolta

Resums en àudio

Resums breus en català, amb guions contrastats amb els àudios en anglès i castellà i amb el text de cada capítol. Veu sintètica generada localment amb VoiceStudio.

  1. 01Per què RAG falla en producció i com encaixen les peces4:34
  2. 03Chunking: el factor que més influeix en la qualitat3:16
  3. 04Embeddings, magatzems vectorials i interpretació de les puntuacions de similitud3:26
  4. 05El teu primer sistema RAG real i com depurar-lo quan menteix3:31
  5. 06Qualitat de la recuperació: cerca híbrida, reranking i citacions3:36
  6. 07Observabilitat: traces, mètriques i avaluacions3:25
  7. 08Escalat: ajust de l'índex, HNSW i quan fragmentar en shards3:12
  8. 09El pressupost de cost i latència3:21
  9. 11L'API de producció: FastAPI i el recorregut de la petició3:17
  10. 12La capa de seguretat: injecció de prompts i dades personals identificables3:30
  11. 13Provar la capa de seguretat i la llista de comprovació de producció3:29
  12. 14Recuperació avançada: context llarg, recuperació contextual i chunking tardà3:20
  13. 15RAG amb agents: recuperació amb autocorrecció amb LangGraph3:20
  14. 16La frontera: GraphRAG, RAG multimodal i cap on anem3:33