Model Serving: colocando modelos de IA para rodar em produção
APIs de inferência, latência, custo, escalabilidade, versionamento e como servir modelos de machine learning de forma confiável em produção.
#machine learning
2 artigos com esta tag
GPU Clusters: infraestrutura para aplicações pesadas de IA
Como clusters com GPU são usados para treinamento de modelos, inferência em larga escala e serving de modelos de linguagem e visão.