Observabilidade e SLOs para Inferência

Transformando a sensação vaga de que as requisições parecem lentas numa meta de percentil sobre a qual você realmente consegue configurar alertas, e rastreando qual hop é responsável quando ela é violada.

Parte de: Serving de Modelos Abertos em Produção