Skip to content

Instantly share code, notes, and snippets.

@MachineLearningIsEasy
Created March 24, 2020 07:52
Show Gist options
  • Star 0 You must be signed in to star a gist
  • Fork 0 You must be signed in to fork a gist
  • Save MachineLearningIsEasy/6807b572c0ba5ef6c59f31529716f0f0 to your computer and use it in GitHub Desktop.
Save MachineLearningIsEasy/6807b572c0ba5ef6c59f31529716f0f0 to your computer and use it in GitHub Desktop.
Tensorflow serving example
• mkdir /tmp/resnet
– создаем дирректорию.
• curl -s https://storage.googleapis.com/download.tensorflow.org/models/official/20181001_resnet/savedmodels/resnet_v2_fp32_savedmodel_NHWC_jpg.tar.gz | tar --strip-components=2 -C /tmp/resnet -xvz
- копируем архив с моделью по ссылке в созданную директорию и разархивируем его.
• docker pull tensorflow/serving
- загружаем docker образ с tensorflow serving.
• docker run -p 8501:8501 --name tfserving_resnet \
--mount type=bind,source=/tmp/resnet,target=/models/resnet \
-e MODEL_NAME=resnet -t tensorflow/serving &
- монтируем контейнер из загруженного образа с доступом через порт 8501
• curl -o /tmp/resnet/resnet_client.py https://raw.githubusercontent.com/tensorflow/serving/master/tensorflow_serving/example/resnet_client.py
- загружаем скрипт для обращения к запущенному серверу.
• python /tmp/resnet/resnet_client.py
- выполняем загруженный скрипт, получаем ответ от модели.
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment