Я пытаюсь оптимизировать сохраненную модель большого тензорного потока с 10 МБ saved_model.pb и 16 ГБ переменных. Я попытался «заморозить» свой график и сделать еще несколько преобразований. Я выполнил шаги https://medium.com/google-cloud/optimizing-tensorflow-models-for-serving-959080e9ddbf и застрял в замороженной_модели. Поскольку моя сохраненная модель велика, я получил замороженный график размером 4,5 ГБ, что превышает ограничение protobuf на 2 ГБ.
ValueError: Message tensorflow.GraphDef exceeds maximum protobuf size of 2GB: 4581102620
Из-за этого ограничения я не мог выполнять дальнейшую оптимизацию, например квантование, или сохранять ее обратно в сохраненную модель. Какие-нибудь решения?
