PrismML comprimió Qwen3.8-27B a pesos ternarios y conservó el 98.2% de su promedio de benchmarks según su propia medición. Los pesos se encogieron nueve veces. La caché KV no se movió, y la capacidad que más se degradó es aquella sobre la que construimos.
Alibaba publicó en agosto un modelo de 27B que obtiene 52 en el índice de Artificial Analysis frente a los 38 de su antecesor, con una red idéntica. Qué significa eso para correr un modelo capaz en una sola tarjeta gráfica, y cuánto cuesta en memoria y en tokens.
Los cuatro mejores modelos del índice de Artificial Analysis están a cuatro puntos entre sí y su costo por tarea varía el triple. El más barato es el que puedes descargar. Lo que cambió en julio fue el poder de fijar precios, no la capacidad.
El hardware para sostener un modelo capaz se volvió barato, y los modelos se hicieron lo bastante pequeños para caber. Qué corre en las máquinas de tu cuarto, y los dos números que lo deciden.