En las últimas semanas ChatGPT sumó conectores con iCloud Mail y Calendar, Slides y subida de audios — cada vez es más fácil que un asistente "vea" lo que tienes guardado en otras apps. Pero conectar una app no es lo mismo que tener un chatbot que responde de verdad con tus datos: tu manual interno, tus contratos, tu base de conocimiento de soporte. Para eso sigue existiendo una sola técnica que funciona bien: RAG, retrieval-augmented generation.
No es un concepto nuevo —lleva un par de años dando vueltas— pero sigue siendo la pregunta que más me hacen developers que recién arrancan con IA generativa: "¿cómo hago que el chatbot sepa de MI negocio y no solo lo que aprendió de internet?". La respuesta corta es que no se trata de enseñarle nada al modelo. Se trata de darle la información correcta en el momento correcto, cada vez que alguien le pregunta algo.
Por qué "conectar una app" no es lo mismo que RAG
Un conector como el de iCloud Mail deja que el modelo lea un correo puntual cuando se lo pides. Eso sirve para una consulta suelta, pero no construye una base de conocimiento: no indexa miles de documentos, no prioriza cuál información es más confiable y no te deja controlar de dónde sale cada respuesta. RAG hace algo distinto — convierte tus documentos en una fuente que el modelo consulta antes de responder, en vez de depender solo de lo que aprendió durante su entrenamiento (que para cualquier LLM siempre tiene fecha de corte).
La diferencia práctica: si le preguntas a ChatGPT sin RAG cuál es tu política de reembolsos, va a inventar algo razonable pero genérico. Con RAG bien implementado, el modelo primero busca en tus documentos reales, encuentra el párrafo exacto de tu política y recién ahí redacta la respuesta citando esa fuente.
Las tres piezas que hacen que un RAG funcione
Primero divides tus documentos en fragmentos manejables (chunking) — ni tan chicos que pierdan contexto, ni tan grandes que satures el prompt con información irrelevante. Un tamaño que funciona bien en la mayoría de casos es entre 300 y 800 tokens por fragmento, con un pequeño solape entre fragmentos consecutivos para no cortar una idea a la mitad. Después conviertes cada fragmento en un vector numérico (embedding) y lo guardas en una base de datos vectorial como Pinecone, Chroma o pgvector — esta última tiene la ventaja de correr dentro de un Postgres normal, así que si ya tienes esa base de datos no necesitas levantar infraestructura nueva solo para esto.
Cuando llega una pregunta, el sistema la convierte también en un vector y busca los fragmentos más parecidos semánticamente —no por palabra exacta, por significado— para pasárselos al modelo junto con la pregunta original. Esta parte se llama retrieval, y es donde vale la pena invertir tiempo: un buen retriever que entrega los 3 o 4 fragmentos correctos vale más que un modelo más grande recibiendo fragmentos irrelevantes.
RAG vs fine-tuning: por qué casi nadie necesita reentrenar un modelo
La otra opción que suena atractiva en papel es el fine-tuning: reentrenar el modelo con tus propios datos para que "aprenda" tu negocio. En la práctica, para el 90% de los casos es la herramienta equivocada. Reentrenar es caro, lento de actualizar —si cambia tu catálogo de productos la semana que viene, necesitas reentrenar de nuevo— y no te da forma de rastrear de dónde salió cada respuesta. RAG resuelve exactamente el problema que la mayoría de equipos tiene: actualizar la base de conocimiento es tan simple como subir un documento nuevo, y cada respuesta queda trazable al fragmento exacto que la originó. El fine-tuning tiene su lugar cuando necesitas cambiar el estilo o el formato de las respuestas, no cuando necesitas que el modelo conozca información nueva.
Los errores que veo una y otra vez
- ▸Chunks demasiado grandes: metes un documento de 10 páginas como un solo fragmento y el modelo recibe tanto ruido que ya no distingue qué parte responde la pregunta.
- ▸No reindexar cuando cambian los documentos: actualizas la política de precios en el PDF pero el chatbot sigue respondiendo con la versión vieja porque nadie corrió de nuevo el pipeline de embeddings.
- ▸Recuperar demasiados fragmentos "por si acaso": meter 20 chunks en el prompt en vez de los 3 o 4 realmente relevantes solo diluye la respuesta y sube el costo por consulta.
Lo que nadie te dice es que RAG no es magia: si tus documentos están mal escritos, desactualizados o se contradicen entre sí, el chatbot va a alucinar con la misma confianza de siempre, solo que ahora citando una fuente real. Antes de programar nada, limpia la fuente — ahí está el 80% del trabajo que de verdad importa.
Un caso real: soporte técnico con 300 artículos de ayuda
Un patrón que se repite con equipos de soporte: tienen 200 o 300 artículos de ayuda escritos a lo largo de los años, con información que se contradice entre versiones antiguas y nuevas. Antes de montar el RAG, lo primero que hay que hacer —y lo que casi nadie quiere hacer porque es trabajo manual— es una limpieza: identificar qué artículos quedaron obsoletos, fusionar los que dicen lo mismo con palabras distintas y marcar con fecha cuáles son la versión vigente. Recién después de esa limpieza el pipeline de chunking y embeddings tiene sentido. Saltarse este paso es la razón número uno por la que un RAG "no funciona": el problema casi nunca es el modelo, es la fuente.
Cómo armarlo sin pelearte con infraestructura
No necesitas levantar un clúster para esto. En el curso ChatGPT: Entrena tu Chatbot con tus datos desde Cero con IA construyes un chatbot con RAG de principio a fin, desde cargar tus propios documentos hasta desplegarlo, sin depender de un equipo de infraestructura para arrancar.
RAG es también la base de casi cualquier agente serio hoy: antes de decidir qué hacer, un buen agente primero recupera el contexto correcto. Si quieres llevar esto más allá de un chatbot puntual y construir agentes que razonan sobre tus datos en producción, ese es justamente el terreno de la ruta AI Agentic Engineer.
Si prefieres practicar esto con otros que están armando lo mismo, cada semana hacemos un taller en vivo en la Comunidad AI Builders — un buen punto intermedio antes de meterte de lleno a un bootcamp.
Construye tu primer chatbot con RAG en ChatGPT: Entrena tu Chatbot con tus datos, especialízate en agentes de producción con la ruta AI Agentic Engineer, o revisa el catálogo completo de cursos.
