TensorFlow Serving

TensorFlow Serving

https://tf.wiki/zh/deployment/serving.html

client 怎么构造要 request 的数据呢?只用 list 会出现下面的错误:

dataInput = prepareData (stringList).to_list ()

data = json.dumps ({

    "instances": dataInput

    })

“error”: “instances is a plain list, but expecting list of objects as multiple input tensors required as per tensorinfo_map”

请提供一个最小可运行的程序,否则完全不知道 prepareData (stringList) 是在做什么。

@snowkylin 你好,请问下当模型运行需要多个输入时, data 要怎么构建呢

树莓派上安装serving,再用tensorflow_model_serving一直报错,有谁知道吗,谢谢

不妨把报错信息贴出来康康?

tensorflow_model_server --rest_api_port=8501 --model_name=test1 --model_base_path=/home/pi/Public/saved_model_files
bash: /usr/bin/tensorflow_model_server: cannot execute binary file: Exec format error

报错信息
树莓派版本4B,64位系统,2GB内存
使用:APT-GET方式安装

你好,你可以先试试能不能在一般的linux环境中运行(比如WSL或者随便找个linux服务器),以确定是你模型的问题还是树莓派的问题(我没在树莓派底下用过tf serving