TensorRT 설치하기 - Windows (+ nvinfer.dll 오류 해결 방법 포함)

 

 

TensorRT를 설치해보도록 하겠습니다.

설치 단계는 아래와 같습니다.

 

0. 호환버전 확인하기
1. Nvidia 홈페이지 들어가서 TensorRT 파일 다운로드
2. 압축풀기
3. pip 명령으로 TensorRT 설치하기
4. 설치 오류 해결 방법
5. python에서 설치 확인하기

 

 

0. 호환버전 확인하기

 

내가 사용하는 cudnn, tensorflow, pytorch, onnx의 버전과 호환되는 TensorRT 버전을 선택합니다. 

 

https://docs.nvidia.com/deeplearning/tensorrt/release-notes/index.html

Release Notes :: NVIDIA Deep Learning TensorRT Documentation

 

 

 

1. Nvidia 홈페이지 들어가서 TensorRT 파일 다운로드

 

 

아래 링크로 들어가셔서 설치할 TensorRT 버전을 선택하고, 자신의 CUDA 버전에 맞는 파일을 다운로드해주세요.
CUDA 버전은 cmd 창 들어가셔서 nvcc --version 검색하시면 확인 가능합니다. 

 

 

https://developer.nvidia.com/nvidia-tensorrt-download

 

 

 

 

2. 압축풀기

파일을 다운로드 하였으면, 적당한 곳에 파일 압축을 풀어줍니다.
나중에 cmd창에서 압축을 푼 폴더의 설치파일들을 사용하니, 압축한 곳은 꼭 기억해두세요.
압축을 풀면 다음과 같습니다. 

 

 

3. pip 명령으로 TensorRT 설치하기

 

pip 설치 명령을 입력할 수 있는 cmd 창을 열고 아래의 명령어들을 자신의 폴더 위치에 맞게 입력해줍니다.

pip install C:/TensorRT-8.5.2.2/python/tensorrt-8.5.2.2-cp37-none-win_amd64.whl
pip install C:/TensorRT-8.5.2.2/uff/uff-0.6.9-py2.py3-none-any.whl
pip install C:/TensorRT-8.5.2.2/graphsurgeon/graphsurgeon-0.4.6-py2.py3-none-any.whl
pip install C:/TensorRT-8.5.2.2/onnx_graphsurgeon/onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl

 

4. 설치 오류 해결 방법

 

설치를 하다가 아래와 같은 에러를 만났다. 
    
"Could not find: {:}. Is it on your PATH?\nNote: Paths searched were:\n{:}".format(name, paths)FileNotFoundError: Could not find: nvinfer.dll. Is it on your PATH?

이 에러는 nvinfer.dll 을 path에서 찾지 못한다는 에러이다.
nvinfer.dll 은 lib 폴더 안에 있다.
 
간단히 환경변수에 path를 찾을 수 있도록 lib 폴더를 추가해주면 해결된다.

시스템환경변수 편집 -> 환경변수 -> path 선택 -> 편집 선택 -> lib 위치 추가

C:\TensorRT-8.5.2.2\lib

 

 

 

5. python에서 설치 확인하기

import tensorrt
print(tensorrt.__version__)