- 博客(2)
- 收藏
- 关注
RSS订阅原创 TensorRT python多进程推理踩坑
1、TensorRT多线程推理此时需要在每个线程内创建上下文，且在初始化ctx之后进行ctx.pop(),推理操作前，ctx.push(),运行结束前运行ctx.pop()class detector(): def __init__(device): self.ctx = cuda.Device(device).make_context() self.engine = self.get_engine self.context = self.get.
2021-11-23 16:54:11
4889
3
原创 tensorRT6.0.1.5安装
TensorRT-6.0.1.5.Ubuntu-16.04.x86_64-gnu.cuda-10.1.cudnn7.6.tar.gz安装TensorRT的tar文件安装教程：https://docs.nvidia.com/deeplearning/tensorrt/install-guide/index.html#installing-tar创建虚拟环境conda create -n trt python =3.7解压tar文件tar xzvf TensorRT-6.0.1.5.Ubuntu-16
2021-03-25 09:14:45
629
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人