Observabilidad y SLOs para la inferencia

Convertir la sensación vaga de que las solicitudes van lentas en un objetivo de percentil sobre el que de verdad se puede alertar, y rastrear qué salto es responsable cuando se incumple.

Parte de: Servir modelos abiertos en producción