在 Kubernetes 上扩展 TensorFlow 模型
/workloads/controllers/deployment/#scaling-a-deployment)。 - 使用[Pod 水平自动伸缩](https://kubernetes.io/docs/tasks/run-application/horizontal-pod-autoscale/)(Horizontal Pod Autoscaler)进行自动扩展,它基于一组计算指标(CPU、GPU、内存)或用户定义的指标(如每秒请求)。 - 通过 TFJob 和 MPI Operator 对 TensorFlow 模型进行分布式训练。 - 使用 KFServing、Seldon Core 和 BentoML 扩展已部署的 TensorFlow 模型。 接下来,我将提供一些例子,说明如何使用这些解决方案中的一...阅读全文