Docker
Contenedores que empaquetan código, dependencias y modelo para que funcione igual en cualquier sitio.
Llevar modelos a producción de forma reproducible, observable y segura.
Contenedores que empaquetan código, dependencias y modelo para que funcione igual en cualquier sitio.
Exponer el modelo como servicio HTTP con contratos claros de entrada y salida.
Framework Python para APIs con validación por tipos (Pydantic) y documentación automática.
Guardar datos de entrenamiento, predicciones y metadatos de forma consultable.
Base de datos relacional robusta; con pgvector también sirve como base vectorial.
Índices de búsqueda por similitud sobre embeddings: pgvector, Qdrant, FAISS.
Control de versiones del código; con DVC o LFS también de datos y modelos.
Tests y despliegues automáticos en cada cambio: GitHub Actions, GitLab CI.
Batch, tiempo real o en el borde; versionado de modelos y despliegues graduales.
Vigilar latencia, errores y deriva de datos para saber cuándo reentrenar.
Hardware paralelo para multiplicaciones de matrices; la memoria VRAM limita el tamaño del modelo.
Infraestructura bajo demanda para entrenar y servir: AWS, GCP, Azure.