Por qué la tarifa por hora de la GPU rara vez es el número que en realidad determina el costo por token, y lo que cuesta en silencio el objetivo de SLO del capítulo 4 en margen reservado.
Parte de: Servir modelos abiertos en producción