RAG: preguntas y respuestas con Telegram

Qué es

Un flujo de trabajo con RAG (Retrieval-Augmented Generation) para darle un contexto específico a un modelo de lenguaje (LLM), de modo que responda con base en información propia y no solo con su conocimiento general.

Cómo funciona

• Chunking: El contenido se divide en segmentos más pequeños.
• Embeddings: Cada segmento se transforma en un vector, una representación numérica de la esencia de la frase dentro de un espacio vectorial.
• Cercanía de significado: Las frases con significados parecidos quedan más cerca en ese espacio, y las menos relacionadas, más lejos.
• Respuesta: Un agente de Telegram recibe la pregunta, recupera los fragmentos más cercanos y el modelo responde con ellos.

Un ejemplo

Para la frase "El perro ladra" se pueden generar unas 384 dimensiones. Cada número captura una faceta distinta del significado y, combinados, ubican la frase en un punto específico de un mapa de significados. "El can está ladrando" o "Un perro hace ruido" quedan cerca; "La silla es azul", mucho más lejos.

Datos y herramientas

• Datos: El contenido de Truora Inc., obtenido con web scraping (ya lo tenían listo, pero se aprendió a hacerlo con las herramientas que compartieron).
• Embeddings: Modelo de OpenAI.
• Almacenamiento: Supabase como base de datos vectorial.
• Flujos en n8n: Uno carga y vectoriza el contenido, y otro atiende las preguntas por Telegram.