Perché la tariffa oraria della GPU è raramente il numero che determina davvero il costo per token, e cosa costa in silenzio, in margine riservato, il target SLO del capitolo 4.
Parte di: Serving di modelli open in produzione