我如何为多个模型使用Tensorflow服务 [英] How can I use tensorflow serving for multiple models

问题描述

如何使用多个tensorflow模型? 我使用docker容器.

How can I use multiple tensorflow models? I use docker container.

model_config_list: {

  config: {
    name: "model1",
    base_path: "/tmp/model",
    model_platform: "tensorflow"
  },
  config: {
     name: "model2",
     base_path: "/tmp/model2",
     model_platform: "tensorflow"
  }
}

推荐答案

从官方tensorflow serving 然后在docker映像中.

Then inside docker image.

/usr/local/bin/tensorflow_model_server --port=9000 --model_config_file=/serving/models.conf

此处/serving/models.conf与您的文件类似.

这篇关于我如何为多个模型使用Tensorflow服务的文章就介绍到这了，希望我们推荐的答案对大家有所帮助，也希望大家多多支持IT屋！