weixin_42184557的博客

原创 调教神经网络时，python 和 pytorch的骚操作

用python脚本查看显卡资源。

原创 知识蒸馏方向的经典论文

该论文提出了一种针对自然语言理解任务（NLU）的知识蒸馏方法，可以从已经预训练好的大型语言模型中提取有用的语言表示信息，并将其转移到更小、更高效的模型上。这是知识蒸馏领域最早的一篇论文，提出了使用更小、更高效的模型来学习大型复杂模型中的知识的方法，从而加速训练和减少内存消耗。该论文发展了经典的知识蒸馏方法，通过引入“hint-based”信息，即从较大的教师网络生成的中间表示中提取有用的信息，以帮助较小的学生网络进行训练。该方法能够显著提高模型的性能，并且具有很好的可扩展性和适应性。

原创 把训练任务扔到后台常用命令

把训练任务扔到后台常用命令

原创 反向传播精讲

反向传播精华

原创 ImageNet2012 分类数据集准备工作

ImageNet2012 classification数据集准备工作

原创 2021-11-03 算法耗时

原创 2021-09-08

Ubuntu16.04使用apt-get install安装screen时候报错“E: Unmet dependencies. Try ‘apt-get -f install’ with no packages”尝试了一些方法之后，发现是/boot/路径空间满了，太多不同版本内核存着没有删，因此无法安装新版本的内核。dpkg --get-selections | grep linux-image可以看到已经安装了的linux内核user@GPU244:/boot$ dpkg --get-selec

原创 NotImplementedError: Please use HDF reader for matlab v7.3 files

7.3 版本的 MAT 文件如何用python读取7.3 版本的 MAT 文件使用基于 HDF5 的格式，该格式要求使用一些存储空间开销来描述文件内容。对于元胞数组、结构体数组或可以存储异构数据类型的其他容器，7.3 版本的 MAT 文件有时比版本 7 的 MAT 文件要大。读取的时候需要用h5py包import h5pyf = h5py.File('file_path','r')data = f['key']#获取到特定键值的信息print(data.shape)...

原创 2021-07-17

昔年有狂客，号称谪仙人。笔若惊风雨，事成泣鬼神。

原创 2021-02-22 python3.8 numba

场景：python3.8环境下用以下的python代码释放gpu内存from numba import cudadevice = cuda.get_current_device()device.reset()问题：python3.8安装numba==0.52.0失败报关于LLVM_CONFIG不存在的错误解决方法：安装numba==0.50.0...

原创 2021/02/21制作python包遇到的问题

项目场景：制作一个python package问题描述：import pkg的时候出现报错：找不到目录下某个的module原因分析：该module的名字开头是py，导致pkg.pyxxx，在生成包的过程中“.py”被自动去掉了，导致这个module变成pkgxxx，因此依赖文件中import pkg.pyxxx 就无法找到正确路径了。解决方案：在给包中模块或子包命名的时候不要用py作为开头...

转载 使用cmake构建工程的详细过程

CMakeLists使用：使用cmake构建工程的详细过程原文连接CMake是一个跨平台的程序构建工具，通过编写cmakelist.txt文件然后通过cmake和make命令就可以编译工程。下面主要介绍一下cmakelist.txt的编写规则以及过程。先从简单的工程说起。第一：首先构建比较简单的工程1.构建一个工程的时候，需要做的几件事情（如果下面几件事你知道怎么做了，多大的工程就都不是问题了）：源代码在什么位置？头文件在哪里？怎么生成静态或者动态库？程序链接的静态库在哪里？如果工程的代码

原创 如何在编译C++工程的过程中防止文件重复

如何在编译C++工程的过程中防止文件重复使用#ifndef 头文件名称#define 头文件名称有人将#pragma once 同时使用，其实并不能提高可靠性。而应该在编程过程中要防止将不同的类使用的头文件名冲突，再配合#ifndef来实现编译过程仅加载一次相同内容。...

原创 Ubuntu上使用opencl

sudo apt-get install beignet clinfoapt-get install beignet-devapt-cache search opencl

原创 统计目录下文件及文件夹的个数

统计目录下文件及文件夹的个数Linux下有三个命令：ls、grep、wc。通过这三个命令的组合可以统计目录下文件及文件夹的个数。统计当前目录下文件的个数$ ls -l | grep "^-" | wc -l统计当前目录下文件的个数$ ls -lR| grep "^-" | wc -l查看某目录下文件夹(目录)的个数$ ls -lR | grep "^d" | wc -l命令解析：长列表输出该目录下文件信息(注意这里的文件是指目录、链接、设备文件等)，每一行对应一个文件或目录，ls

原创 NN优化入门

TVMhttps://zhuanlan.zhihu.com/p/88188955https://tvm.apache.org/docs/install/index.htmlhttps://github.com/apache/incubator-tvm/https://tvm.apache.org/blogautoML-NNIhttps://www.zhihu.com/question/297982959https://github.com/Microsoft/nnihttps://www.y

原创 undefined lrint

#include “math.h”long int lrint ( double x ){return (long int)rint( x );}long int lrintf (float x){return (long int)rintf ( x );}

原创 Jupyter notebook的目录插件的安装

Jupyter notebook的目录插件的安装pip install jupyter_contrib_nbextensionsjupyter contrib nbextension install --user --skip-running-check执行第二条的时候会报错:原因是~目录下.jupyter/文件夹的权限不够先查看权限等级为: drwxr-xr-xsudo chmod ...

原创 tensorflow2.0从入门到放弃

Tensorflow2.0从入门到放弃模型的部署方法pip3 install tensorflow-serving-api# 把Serving的发行URI添加为package源echo "deb [arch=amd64] http://storage.googleapis.com/tensorflow-serving-apt stable tensorflow-model-server ...

原创 pytorch从入门到放弃

pytorch从入门到放弃制作数据集很多数据集合,我选voc2007,没啥理由.训练网络只是要用到数据,只要这个数据集合的实例能给我正确地返回数据和标签就好.VOC2007:http://host.robots.ox.ac.uk/pascal/VOC/voc2007/pytorch VOC数据集的使用方法:https://pytorch.org/docs/stable/torchvisio...

原创 ubuntu18.04更改apt-get源

ubuntu18.04更改apt-get源编辑/etc/apt/sources.list文件, 在文件最前面添加以下条目(操作前请做好相应备份)：改为阿里源:deb http://mirrors.aliyun.com/ubuntu/ bionic main restricted universe multiversedeb http://mirrors.aliyun.com/ubuntu/...

原创 Makefile到底该咋写

Makefile到底该咋写总结一下近期写Makefile的时候的感悟Makefile的目的是啥:为了编译方便嘛,一键make就OK每个有源文件的子目录下都应该有Makefile最好的情况是,在每个子目录下单独make都能成功,如何设计这样的Makefile(我自己现在都还不知道,在摸索中)最基本的情况是,在主目录下make,会逐级自动跳转make,完成整个文件的make,把文件目录各级关...

原创 C++代码的实现的class和function如何在另一份C代码中调用

C++代码的实现的class和function如何在另一份C代码中被调用设想一个场景: 项目的主体代码是用C写的,并且最终编译是使用的是以gcc结尾的编译链(关于编译链和编译过程和编译产物还请各位读者自己找资料学习,我在这里就不展开了,但是这些知识确实很重要).有一天你想为这项目添加一个功能,为了方便开发,你使用C++开发出了这个功能,这个时候你就会遇到一个问题,如何才能编译通过整体项目呢?要...

原创 C++中时间记录的常用操作

C++中时间的记录C++中做时间记录我就用到两种情况算法处理时长的记录(cpp)#include<time.h>#include<iostream>int main(void){ clock_t start,finish; clog << "开始检测..." << endl; start = clock()...

原创 在ubuntu18.04环境下安装opencv-3.2.0

在ubuntu18.04环境下安装opencv-3.2.0查找和修正编译错误就整整花了我两天的时间，因此做个记录下载&编译&安装ffmpeg下载ffmpeg:下载地址编译和安装步骤如下(　--enable-shared非常重要！)：$ ./configure --enable-nonfree --enable-pic --enable-shared$ make -j4...