Использовать предварительно обученную модель pytorch на C?

Итак, у меня есть предварительно обученная модель pytorch, я на всякий случай сохранил и модель, и параметры, но мне нужно использовать эту модель в коде C или C ++, кто-нибудь знает, как я могу это сделать?

Большое спасибо.


person Rael    schedule 02.08.2018    source источник
comment
посмотрите на torch.onnx, чтобы преобразовать его в Caffe2, у которого есть C ++ API.   -  person iacolippo    schedule 03.08.2018
comment
@ Раэль, пожалуйста, скажи мне, что ты сделал после того, как я хочу сделать то же самое, что и ты.   -  person DINA TAKLIT    schedule 27.02.2019


Ответы (2)


Попробуйте pytorch 1.0, который включает библиотеку C ++. Модель можно экспортировать в формат сценария torch и загрузить в C ++, проверьте здесь https://pytorch.org/tutorials/advanced/cpp_export.html

person Yanlin Qiu    schedule 05.12.2018
comment
но в соответствии с тем, что я вижу, эта опция на самом деле не покрыта, я имею в виду, что их нет туто, которые показывают, как это сделать для многих моделей, кроме той, которой вы поделились здесь:!. - person DINA TAKLIT; 27.02.2019

Если вы используете Ubuntu, попробуйте пакет pytorch в PPA ppa: nnstreamer / ppa. В этом пакете pytorch Ubuntu есть файлы заголовков и файл pkgconfig (.pc), который помогает создавать программы на C / C ++ с использованием pytorch. Если вам нужны более простые способы вызова моделей pytorch / caffe2 из программы C / C ++, вы можете использовать C / API nnstreamer или также обратиться к nnstreamer с API GStreamer.

Чтобы установить nnstreamer или C-friendly pytorch (или tensorflow), используйте PPA:

$ sudo add-apt-repository ppa:nnstreamer/ppa
$ sudo apt-get update
$ suto apt-get install ${whateveryouwant}

Кандидаты на участие в $ {whateveryouwant}: nnstreamer, nnstreamer-dev, nnstreamer-pytorch

Если вы хотите получить доступ к pytorch непосредственно из кода C без использования nnstreamer, вы можете обратиться к pytorch-wrapper для nnstreamer по адресу: https://github.com/nnsuite/nnstreamer/blob/master/ext/nnstreamer/tensor_filter/tensor_filter_pytorch_core.cc

person MZX    schedule 15.08.2019