创建一个可靠、高效的机器学习推理服务需要做很多的投入。拿一个基于 XGBoost 模型的服务来说，开发人员需要创建一个完善的应用程序，例如通过 Flask 来加载模型，然后运行终端节点。创建这个应用程序，开发人员需要考虑队列管理、无故障部署以及重新加载新训练的模型等等事宜。应用开发好后被打包成容器镜像，然后推送到镜像仓库。Kubernetes 从镜像仓库拉取该镜像在集群上进行部署，部署好后才可以对外提供服务。这些步骤需要您的数据科学家从事与提高模型准确性无关的任务，或引进 devops 工程师来做这些工作。这些过程加到开发计划中，必然会需要更多的时间进行服务迭代。
