cmat2的博客

原创 MPI初学

1，https://blog.csdn.net/zouxy09/article/details/49105265此链接是一个基于graph的标签传播（Label Propagation）算法的说明和代码，其中考虑到未知标签一旦很多，单核处理时间过长，因此采用多核的MPI并行处理进行了代码处理。2，为使用MPI进行并行处理，首先按照https://blog.csdn.net/zouxy09/article/details/49031845安装mpi4py，openmpi和Cpython等相...

原创 模型量化加速

1，一般模型中存在conv+bn+relu串联的层，而conv+bn层很慢，因此一般将conv+bn进行融合：2，浮点改int型或缩短浮点的长度。

原创 数据库相关

1，oracle数据库的链接调用（下载cx_oracle以及oracle客户端）：https://www.cnblogs.com/lansan0701/p/8039332.html2，sql语句的学习：https://www.w3school.com.cn/w.asp3，...

原创 图像预处理

1，白化：目标：1，减少特征之间的相关性；2，特征具有相同的方差（协方差阵为1）；具体解析可参考：https://blog.csdn.net/whiteinblue/article/details/36171233白化实现有pca白化和zca白化，区别在于后者会映射到原始空间，zca白化的实现（输入原始图像矩阵）： sigma=np.dot(inputs,input...

原创 细粒度分类

参考文献《https://cloud.tencent.com/developer/news/379428》目的：目的是对属于同一基础类别的图像（汽车、狗、花、鸟等）进行更加细致的子类划分。难点：细微的类间差异以及较大的类内差异数据集：1，Stanford Dogs Dataset：http://vision.stanford.edu/aditya86/ImageNetDogs/main...

原创 Grad_CAM

文章：1，Grad-CAM: Why did you say that?2，Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization目标：通过全图的热力图显示出图中重点部位，表示该部位是将图形判断为某类的依据。代码：pytorch：1，https://github...

原创 特征可视化

在OpenCV中使用applycolormap（伪彩色函数）OpenCV的定义12种colormap（色度图），可以应用于灰度图像，使用函数applycolormap产生伪彩色图像。让我们很快看到如何将色度图的一种模式colormap_jet应用到一幅图像中。import cv2im_gray = cv2.imread("pluto.jpg", cv2.IMREAD_GRAYSCALE)...

转载 小腿水肿

原创 贝叶斯分类器、svm、决策数

1，朴素贝叶斯分类2，决策树概率3，SVM超平面

原创 评价指标

1，ROC曲线，AUC分数：针对2分类实际计算时，sklearn可以直接计算分数，需要输入测试集合标签y和预测概率z;曲线中的每一点表示对概率取不同的阈值得到分类结果后与标签计算而得到的假阳性率和真阳性率。曲线x,y取值均为0,1之间。？？？...

原创 模型ensemble

先上两篇写的很好的ensemble文章：https://mlwave.com/kaggle-ensembling-guide/https://mlwave.com/human-ensemble-learning/  ensemble 的一般性方法：1，voting（投票）平等投票：n个模型，每个模型投票次数为1，模型关联性越小，投票越有效；加权投票：n个模型，效果好...

原创 图像分割算法集成

1，unet++(以及unet，fcn的深入思考)《UNet++: A Nested U-Net Architecture for Medical Image Segmentation》视频地址：http://www.mooc.ai/course/549/learn#lesson/2859论文地址：https://arxiv.org/pdf/1807.10165.pdf源码地址：h...

原创 卷积和反卷积(deconv）

参考：http://deeplearning.net/software/theano_versions/dev/tutorial/conv_arithmetic.html#transposed-convolution-arithmetic导图解释：

原创 pytorch=0.2.0，torchvision=0.2.0，虚拟环境安装

$：conda create -n test python=3.6建虚拟环境$:source activate test激活环境$:which python：/home/hhp/.conda/envs/test/bin/python查看该环境中的python版本$:/home/hhp/.conda/envs/test/bin/python检验是否有torch，此处应...

原创 pytorch 遇到的问题集锦

1，numpy 在数据扩增的时做了flip或mirror等操作(::-1)，运行出现解决方案：np.ascontiguousarray(input）或 input.copy()即可。原因是c++中对Numpy做的这种操作在pytorch中并未支持。2，基于cv2的轮廓填充，去除最小面积，外接矩形操作方式：https://blog.csdn.net/u014...

原创 分割相关论文回顾

参考文章“http://baijiahao.baidu.com/s?id=1572513028567873&wfr=spider&for=pc” FCN：FCN可以接受任意尺寸的输入图像，网络输出为原图的1/8，后经过8倍上采样得到与输入相同的size.UNET：《U-Net: Convolutional Networks for Biomedical ...

原创 pytorch，python 命令记忆

1，torch设置随机数种子，种子相同，则输出相同的随机数，但是在输出随机数之前都要重新生成相同的种子。2，easydict3，tar j解压，压缩：tar xvf ./VOCtrainval_06-Nov-2007.tar -C ./ （将VOC所在目录解压到当前路径）可参考：4, gb2312的xml读取config_file为xml文件。方法一...

原创 pycharm链接到服务器，实现实时上载, 远程调试debug

现在的常态的windows下的pycharm进行代码编写，但是电脑配置不够所以要上传服务器，为了更加方便的上传，故需要实时传输，现在把自己的配置记录下来，方便后续使用。本人Pycharm专业版2018.任意在Pycharm下打开工程，选后出现该框我的类型是SFTP,名字随意，后进入键面：在红框中填入对应信息，host就是服务器host,port是端口，root pa...

原创 tmux 常用命令

该文“https://www.cnblogs.com/wangqiguo/p/8905081.html”命令详解文字多但通俗易懂，为方便常用的命令查看，做了整理：会话命令：新建会话：                    tmux new -s session1 退出会话，回到shell的终端环境：  ctrl+b d 终端环境查看会话列表：           tmux ls 查看当前机器的多个...

原创 Windows10+GPU版 pytorch 安装

方便后续重新使用，将安装过程记录在此。由于pytorch官网点击打开链接提供了windows的安装方式，故直接采用这种方法，当然也可以通过anaconda来安装。由于是安装gpu的版本，故需要先安装cuda以及与其版本相对应的cudnn。本人电脑是华硕，i5，64位，NVIDIA GeForce 940MX，已安装VS2015。查看gpu属性的方式：“此电脑”右键“属性”→“设备管理器”→“显示适...

原创 模型构造和调整参数

数据量大的时候先对数据进行训练集、验证集和测试集的划分，数据量小的时候先划分训练和验证集合（测试可以在最后的时候对各种验证效果好的模型进行最终测试），这样数据集扩增的时候就只在训练集进行，以免数据信息训练和测试融合.网络：未训练的/预训练的；预处理：数据扩增augmentation（eg: 随机水平翻转，旋转，crop）；基于均值和标准差的图像正则化(训练集单独归一化，一般用均值方差归一化，保留后...

原创 深度学习图像问题集锦

1，训练集中包含样本不均衡的多类数据，对于数量多的一类进行下采样，会导致数据分布和测试的真实情况不同，会对结果有什么影响？答：首先，在构建训练集和测试集的时候，训练集和测试集的数据分布都应该与样本的真实分布情况一致，才能有效训练并对模型进行测试。所以，当数据不均衡的时候，更要注意数据采样的重要性。针对医疗数据，假设分为正常和异常两类，一般来说，正常样本占绝大多数，所以需要对正常样本进行”下采样...

原创 if __name__ == '__main__' 如何正确理解?

经常一知半解，故整理下，方便后续回顾。首先：Python 属于脚本语言，不像编译型语言那样先将程序编译成二进制再运行，而是动态的逐行解释运行。也就是从脚本第一行开始运行，没有统一的入口。对于下面这段代码：# file one.pydef func():     print("func() in one.py")print("top-level in one.py")if __name__ == "...

原创 LeNet、AlexNet, VGG, GoogleNet和ResNet

一：LeNet-5（深度学习开端）1），模型结构C1:卷积层，6个卷积核，核大小为5*5，参数个数为（5*5+1）*6=156S2:池化层，池化单元为2*2，没有重叠，计算为：2×2 单元里的值相加然后再乘以训练参数w，再加上一个偏置参数b(每一个feature map共享相同w和b)，然后取sigmoid （S函数：0-1区间）值，作为对应的该单元的值，参数个数为2*6.C3:卷积层，16个卷积...

原创 numpy 基础使用，DNN从数据到模型的处理等文档整理

把个人的基础处理包的使用参考文档记录在此，方便查看。numpy是依赖于python的线性代数处理库，基础技巧可参考“https://www.jiqizhixin.com/articles/2018-04-21-7”其中的a.min(),a.argmin()，各类索引，在本人使用中使用较少，确实容易忘记。还有广播机制定义。深度神经网络(DNN)从数据扩增，数据预处理到模型调参的一些可参考方式，可参考...

原创 SE-Net: 2017 ImageNet 冠军

近期看了这个模型，对一些参考资料记录在此。1，算法原理的详细解释可以下 “http://www.sohu.com/a/161793789_642762”中查看2，原文地址：“https://arxiv.org/pdf/1709.01507.pdf”Squeeze-and-Excitation Networks3，代码地址：“https://github.com/hujie-frank/SENet”...

原创 基于BP的误差反向传播/Max-pooling反向传播

研一主要学习神经网络的知识，导师也有为我们推导过反向传播的公式，但总是不能长期有深刻的印象，用的细节的东西还是需要翻翻笔记，这次有一个池化层（max-pooling）求导的问题有疑惑，故对BP反向传播进行复习，发现了一篇文章记载得特别清楚，且生动形象，故将总体思路在此概括。原文地址为“https://www.cnblogs.com/charlotte77/p/5629865.html”我以自己理解...

原创 读《Identifying Medical Diagnoses and Treatable Diseases by Image-Based Deep Learning》

《Identifying Medical Diagnoses and Treatable Diseases by Image-Based Deep Learning》于2018年2月发于世界顶级期刊《Cell》上，这里记录下阅读笔记.首先我觉得，这个文章成功有两个关键的点，一个是文章的目的，就是解决实际中的严峻问题，对医学没有深入接触是很难知道 的，其次就是大量的数据，这就需要医院和人力资源了，最...

原创 RCNN阅读笔记

起初对于目标检测这方面的任务有些粗粗的了解，之后会有相关方面的任务需求，故仔细阅读相关文件，将自己的理解以及别人所提出的很好的见解记录于此，方便后续回顾.参考“http://blog.csdn.net/wopawn/article/details/52133338”来源：一方面是近年来物体检测效果提升缓慢，另一方面是在ILSVRC 2012中对ImageNet结果进行重要讨论的过程中，有一个核心问...