Modelos locales

Cuantización de modelos locales: cuánta VRAM ahorras y qué pierdes

Cálculo de memoria de pesos y caché KV, formatos GGUF, GPTQ y AWQ, y cómo medir la pérdida de calidad antes de quedarte con un modelo cuantizado.