Chat con papers científicos (RAG)
Aplicación RAG local para conversar con PDFs académicos, con chunking por secciones, MemoRAG y re-ranking. Todo corre con modelos abiertos vía Ollama.
El problema
Leer papers para encontrar un dato concreto es lento, y los chats genéricos con PDFs suelen cortar el texto en trozos fijos que mezclan secciones: un fragmento de Métodos pegado a uno de Resultados. Eso empeora la recuperación justo en el tipo de documento donde la estructura más importa.
Qué construí
Una aplicación en Streamlit que procesa el PDF y responde preguntas citando la página exacta. Todo corre local con Ollama, sin enviar documentos a terceros.
- Chunking adaptativo por secciones: detecta Abstract, Introducción, Métodos, Resultados, Conclusiones, etc. (en inglés y español) y usa un tamaño de fragmento distinto para cada una.
- MemoRAG: un modelo ligero resume el documento y genera “pistas” de búsqueda a partir de la pregunta; los fragmentos que coinciden con varias pistas suben en el ranking. Se puede activar o desactivar para comparar contra RAG estándar.
- Re-ranking: recupera 12 candidatos y un cross-encoder elige los 6 más relevantes.
- Expansión de consulta opcional, con variantes generadas por el LLM.
- Detección de idioma del documento para responder y citar en su idioma (
[pg. 3]/[pág. 3]). - Panel de proceso que muestra cada paso: expansión → pistas → documentos con su similitud.
- Historial de conversaciones en SQLite y feedback 👍/👎 persistente.
Stack
Python, LangGraph, Ollama (deepseek-r1, llama3.2, mxbai-embed-large), ChromaDB, sentence-transformers, PyMuPDF y Streamlit.