La fragmentación es la decisión de RAG más debatida y menos probada. El debate suele centrarse en el tamaño del fragmento; las decisiones que realmente importan son los límites, la superposición y la estructura.
Todos discuten sobre el tamaño del fragmento. Pocos equipos prueban los límites —dónde se corta— y ahí es donde realmente reside la calidad de la recuperación. Un fragmento de 512 tokens cortado a mitad de una oración es peor que un fragmento de 256 tokens cortado en un límite.
Primeros principios: Para qué sirve la fragmentación
Simplificándolo: la fragmentación existe para presentar la unidad de contexto correcta al modelo. La unidad que importa es aquella que es lo suficientemente autocontenida para ser útil y lo suficientemente pequeña para ser precisa. El tamaño es un medio; la unidad autocontenida es el fin.
- Autocontenido: un fragmento que tiene sentido sin sus vecinos.
- Preciso: un fragmento lo suficientemente pequeño como para señalar la respuesta correcta.
- Estructurado: un fragmento que respeta la estructura del documento (encabezados, secciones).
Las decisiones que importan
Desglosa las decisiones de fragmentación que realmente mejoran la calidad de la recuperación:
- **Límites.** Corta en los límites estructurales (oración, párrafo, encabezado), no por recuento de tokens.
- **Superposición.** Una pequeña superposición para que un concepto dividido entre fragmentos no se pierda.
- **Estructura.** Preserva los encabezados y el contexto de la sección con el fragmento.
El tamaño del fragmento es el último de estos, no el primero — y debe elegirse después de los límites, no antes.
Qué evaluar
Los cambios en la fragmentación deben evaluarse, no basarse en sensaciones. Ejecuta el mismo conjunto de evaluación en todas las estrategias de fragmentación y compara la recuperación (recall) y la precisión. La estrategia que gane en la evaluación es la que prevalece, independientemente de lo que "se sienta correcto".
Qué rechazar
- Fragmentos de tokens fijos cortados a mitad de una oración.
- Sin superposición, por lo que los conceptos divididos se pierden.
- Sin estructura preservada, por lo que un fragmento pierde el contexto de su sección.
- Optimizar el tamaño del fragmento sin antes fijar los límites.
Conclusión
La calidad de la fragmentación reside en los límites, la superposición y la estructura — no en el tamaño. Elige primero la unidad autocontenida, evalúa cada estrategia y trata el tamaño del fragmento como la última decisión, no la primera.
Acerca de FACTA
FACTA ayuda a startups y equipos en fase de crecimiento a convertir la IA en sistemas de producción que sigan funcionando — no en demos que impresionan una sola vez.
Diseñamos la arquitectura en torno a las partes que realmente fallan bajo uso real: herramientas propias, credenciales que controlas, conmutación por error (failover), controles de costos, observabilidad. La infraestructura aburrida que mantiene un sistema vivo después del lanzamiento.
Dirigido por Matías Baglieri y Carolina Fogliato, nos centramos en una cosa:
Liderazgo en IA que construye. No solo asesora.
Envíanos tu estrategia de fragmentación y tu conjunto de evaluación.
Te diremos si los límites o el tamaño son tu verdadero problema. Consulta RAG basado en evaluación para conocer la disciplina.
Explorar la automatización de IA