- 博客(22)
- 资源 (2)
- 收藏
- 关注
RSS订阅原创 YoloV5l--＞slim--＞caffe--＞AI1
这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入欢迎使用Markdown编辑器你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Mar
2021-05-18 16:38:37
347
原创 ONNX-TensorRT IPluginV2虚函数之supportsFormat
函数讲解：ONNX-TensorRT IPluginV2虚函数之supportsFormat前言这半年一直在做华为云相关的东西，对tensorrt的了解一直停留在5.1.5的阶段。正好现在有机会，跟进一波tensorrt7。在tensorrt7更新到了7之后，实现了动态batch推理，并且支持的op也大幅度增加了，可以说基本上满足部署的需求了。本来心中一阵窃喜可以舒舒服服的完成工作，但事实是：需求和技术总是你追我赶的，两者永远不能和谐共存。扯远了，下面讲正题，现在需要注册一个可变卷积核的conv到ten
2021-01-25 17:30:22
294
3
翻译 jetson-xavier-nx安装pytorch
安装PyTorch 1.6.0wget https://nvidia.box.com/shared/static/yr6sjswn25z7oankw8zy1roow9cy5ur1.whl -O torch-1.6.0rc2-cp36-cp36m-linux_aarch64.whlsudo apt-get install python3-pip libopenblas-base libopenmpi-devsudo pip3 install Cythonsudo pip3 install torch-
2020-09-07 11:29:46
1242
3
原创 Tensorflow：UnknownError: Failed to get convolution algorithm. This is probably because cuDNN failed
Tensorflow报错解决：shUnknownError: Failed to get convolution algorithm. This is probably because cuDNN failed to initialize, so try looking to see if a warning log message was printed above.我在同一个进程中使用tensorflow和torch时，发生上述报错，同时显存也被占满。有人说删除~/.nv/文件夹，这个文件夹是一
2020-07-22 10:59:52
417
3
转载 Ubuntu CURL下载报错：curl: (77) error setting certificate verify locations:
curl: (77) error setting certificate verify locations:CAfile: /etc/pki/tls/certs/ca-bundle.crtCApath: noneneed to create folders for the target destination if they do not exist by runningsudo mkdir -p /etc/pki/tls/certsCopying your certificate to the
2020-07-01 10:17:56
3552
原创 ONNX-Simpler报错：Graph must be in single static assignment (SSA) form
Graph must be in single static assignment (SSA) form, however ‘848’ has been used as output names multiple times.用torch1.5导出onnx模型后，进行图优化出现如题问题。经多方查证这个是onnx的bug，torch1.5导出的onnx版本为v6，更换torch1.3导出v4版本的onnx模型问题解决。或者在图优化命令中添加参数--skip-fuse-bn，不融合bn层，也可以优化v6版本
2020-06-29 11:35:19
1620
原创 k3s部署Tx2集群
参考： http://dockone.io/article/9384准备工作假定下载到的文件已经上传到服务器节点的~/packages目录下面。将k3s-amd64二进制文件放置到/usr/local/bin目录下，并赋予可执行权限：# cp ~/packages/k3s-amd64 /usr/local/bin/ # chmod +x /usr/local/bin/k3s-amd64将离线镜像包放置到指定的位置：# mkdir -p /var/lib/rancher/k3s/agent/i
2020-05-14 16:01:29
1513
原创 解决Pytorch AvgPool2d层不能转TensorRT的问题
问题起因今天在导出onnx的时候，有一个AvgPool2d层是如下定义的self.resnetv1d_down3_pool0_fwd = nn.AvgPool2d(kernel_size=(2, 2), stride=(2, 2), padding=(0, 0), count_include_pad=False, ceil_mode=True)而它导出的onnx图中参数为：Float(1, 80, 20, 36) = onnx::AveragePool[kernel_shape=[2, 2], p
2020-05-09 17:52:18
2234
4
原创 Git 出错error: Pulling is not possible because you have unmerged files
参考:https://blog.csdn.net/zxsted/article/details/17022665在git pull的过程中，如果有冲突，那么除了冲突的文件之外，其它的文件都会做为staged区的文件保存起来。重现：$ git pull origin mastererror: Pulling is not possible because you have unmerged ...
2020-04-08 18:03:18
2665
5
原创 TVM踩坑记录
TVM踩坑记录安装新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入安装参照官网。安装完成后安装官网quic...
2020-03-30 16:25:32
4125
2
原创 TensorRT custom_op注册 fp16及fp32相关问题
/home/face/onnx-tensorrt-5.1/PRelu_Plugin.cu(112): error: more than one operator “" matches these operands:built-in operator “arithmetic * arithmetic”function "operator(const __half &, const __h...
2020-03-26 10:59:58
315
原创 NFS unmatched host
在挂载nfs时报错$ sudo sh mount_tx2.sh mount.nfs: access denied by server while mounting 192.168.111.177:/home/face这时就需要知道是什么问题导致了挂载被拒绝，于是去服务端查看错误信息：$ cat /var/log/syslog | grep mountMar 10 19:44:42 fa...
2020-03-10 20:56:30
2628
1
原创 Pytorch、ONNX以及ONNX-TensorRT5.1 customOP注册
在自己注册TensorRT Op时发现出现错误如下：Unsupported ONNX data type: UINT8 (2)ERROR: /home/bokyliu/Work/TensorRT-5.1.5.0/onnx-tensorrt-5.1/ModelImporter.cpp:615 In function importModel:[8] Assertion failed: conve...
2020-01-19 17:44:46
2558
2
原创 caffe2与pytorch计算速度比较
测试结果模型：mobilenet-v2devicecaffe2pytorchcuda90ms8mscpu24ms10ms附import onnximport datetime# Load the ONNX modelmodel = onnx.load("model/mobilenet-v2_100.onnx")# Check that th...
2020-01-16 17:48:33
1053
原创 onnx-tensorrt5.1 ResizeNearest.cu代码解读
ResizeNearest.hpp:/* * Copyright (c) 2018, NVIDIA CORPORATION. All rights reserved. * * Permission is hereby granted, free of charge, to any person obtaining a * copy of this software and associa...
2020-01-02 09:43:03
813
原创 TensorRT对ONNX [Batchnorm1d]的替代方案
TensorRT对ONNX [Batchnorm1d]的替代方案将Batchnorm1d换为conv+Batchnorm2d
2019-12-19 10:59:57
855
1
原创 [笔记]TVM部署AirFace
使用TVM在Tx2 Arm上部署AirFace c++目录前言自动优化终端测试目录前言不要问为什么Tx2要用Arm核，它只是开发方便，习惯把它作工业母机罢了。自动优化TVM一个设计亮点在于他可以在PC端通过RPC优化网络，这个大大加快了优化速度。虽说PC端加速优化过程，但是在实际使用中发现优化速度还是很慢的，也是一个炼丹过程。而且极端依赖CPU性能，在TVM给出的例子都是用32线程服务...
2019-12-17 15:52:55
1016
2
原创 TensorRT5.1.6加速PReLU
nvidia迟迟不更行 终端上的TensorRT，没办法，只能自己注册了。拜读了几位大佬的blogTensorRT5.1.5.0 实践 onnx-TensorRT的自定义op，看到builtin_op_importers.cpp的理解那里有点不理解，为什么input[0], input[1], input[2]分别代表conv输入的tensor、weight和bias。后来想到看看onnx图：...
2019-12-17 15:51:27
839
原创 TVM relay opt_level
TVM relay opt_level说明tvm.relay.transformParamtersReturnsReturn type最近在研究TVM，一直对opt_level应该怎么填有疑惑 with relay.build_config(opt_level=1): graph, lib, params = relay.build_module.buil...
2019-12-02 18:06:06
934
原创 Conan 笔记
Conan 笔记起因起因根据conan官方的教程,在执行时conan create . demo/testing产生了疑问,好像并没有说明’conan create’是干什么的.于是上网查阅得知:conan Export命令是构建之后通过export 命令导出模块到本地仓库，可以在本地为其他项目提供依赖.也就是官方教程中的这两句:Copies (“export” in Conan...
2019-10-28 16:02:35
2054
k3s-airgap-images-arm64.tar
2020-05-14
k3s-arm64版本
2020-05-14
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人