TensorRT 5.1の最近のブログ記事

TensorRT 5.1 の　Windows10での試し、第２回として、
今回は、 Pytorch 1.0 Object Detection faster-rcnn の試し で使った学習済みモデルを、
TensorRT 5.1 に持って行って実行できるか試してみます。

TensorRT で Pytorch の学習済モデルを使うには、ONNX format にしてから、TensorRT で取り込んんでやれば良いとの事です。

https://docs.nvidia.com/deeplearning/sdk/tensorrt-sample-support-guide/index.html#onnx_mnist_sample 

その前に、 おんちゃんは、TensorRT5.1 で C++ 開発をするにあたり、下記ページを参考にしています。
tensorrt-developer-guide > 2. Working With TensorRT Using The C++ API

TensorRT 5.1 を　Windows10 で試して見ました。

おんちゃんの環境は、
1) Windows10
2) Visual Studio 2017 Community
3) GeForce GTX 1050 Ti
4) CudaToolkit は、 10.1
5) cuDNN は、 7.5.1 じゃ。

ここに書いてあることは、TensorRT5.1 のダウンロード時に、NVIDIA Developer のアンケートに
記入すると、送られてくる Get Started with TensorRT™ のメールに書かれている内容に従って
行っちょります。大変参考になりました。

対応マトリックスが、下記ページにあります。
https://docs.nvidia.com/deeplearning/sdk/tensorrt-support-matrix/index.html

GPUカードに関しては、
4. Hardware And Precision の箇所に、
TensorRT supports all NVIDIA hardware with capability SM 3.0 or higher.  と記載があるので、
おんちゃんの、GeForce GTX 1050 Ti でも大丈夫でしょうか?

但し、Windows10 だと、C++ だけみたいぞね。Python は、将来のサポートみたいです。

インストール方法は、下記ページぞね。
https://docs.nvidia.com/deeplearning/sdk/tensorrt-install-guide/index.html

Zip インストールを選ぶので、下記箇所を参考に
4.4. Zip File Installation