Cuantización de modelos locales: cuánta VRAM ahorras y qué pierdes
Cálculo de memoria de pesos y caché KV, formatos GGUF, GPTQ y AWQ, y cómo medir la pérdida de calidad antes de quedarte con un modelo cuantizado.
// Territorio 01
IA práctica
Para quien construye con IA: RAG, agentes, evaluación, costes y todo lo que se rompe en producción.
Agentes · 2
Casos prácticos · 1
Evaluación y calidad · 1
Producción y costes · 2
RAG y búsqueda · 3
Seguridad y privacidad · 1
10 guías
Reescritura de consultas en RAG: preguntas de seguimiento, multiconsulta y HyDE
Cómo convertir preguntas conversacionales en consultas autónomas, generar variantes y documentos hipotéticos, y cuándo estas técnicas empeoran la búsqueda.
Herramientas para agentes con MCP: diseño de un servidor que el modelo use bien
Qué es el Model Context Protocol, cómo escribir un servidor MCP en Python, cómo diseñar nombres, descripciones y resultados de herramientas, y los riesgos de instalar servidores de terceros.
Tu RAG falla en la búsqueda, no en el modelo: chunking, búsqueda híbrida y reranking
Cómo medir la recuperación de un RAG y corregirla con fragmentos con contexto, búsqueda híbrida BM25 + embeddings, fusión RRF y reranking.
Evaluar agentes de principio a fin: estado final, trayectoria y fiabilidad en varios intentos
Cómo evaluar agentes con tareas verificables en entornos aislados, por qué medir pass^k además de la tasa de éxito y qué revisar en la trayectoria.
Transcribir audio en español con Whisper: alucinaciones, vocabulario y quién habla
Configuración de Whisper para español, por qué inventa frases en los silencios, cómo añadir vocabulario, separar hablantes con pyannote y medir con WER.
Inyección de prompts indirecta: por qué no se arregla con el prompt y qué sí funciona
Cómo un documento, correo o página web puede dar órdenes a tu modelo, por qué los delimitadores no bastan y qué controles de arquitectura limitan el daño.
Fine-tuning o RAG: qué problema resuelve cada uno
El fine-tuning cambia cómo responde un modelo; RAG cambia qué sabe en el momento de responder. Criterios, costos y errores al elegir entre ambos.
Evaluar un sistema con LLM sin depender solo de otro LLM como juez
Comprobaciones deterministas, métricas con referencia, jueces LLM calibrados con etiquetas humanas e intervalos de confianza para no confundir ruido con mejora.
Latencia al servir LLM: primer token, tokens por segundo y dónde se va el tiempo
Cómo descomponer la latencia de un LLM en primer token y generación, y qué técnicas reducen cada parte: streaming, caché de prefijos, batching y menos tokens de salida.