weixin_42071277的博客

原创 python通过ctypes调用c动态链接库dll

Python语言有着易用上手快的优点，但是其最大的缺点是执行速度慢，特别是for循环嵌套，需要遍历大矩阵的情况，其性能与C/C++相差甚远，那么再遇到上述情况时python调用C接口可能是较优的选择。

原创 mxnet如何将.json、.params模型转换为gluon模型

Gluon是MXNet的动态图接口;Gluon学习了Keras，Chainer，和Pytorch的优点，并加以改进。接口更简单，且支持动态图（Imperative）编程。相比TF，Caffe2等静态图（Symbolic）框架更加灵活易用。同时Gluon还继承了MXNet速度快，省显存，并行效率高的优点，并支持静、动态图混用，比Pytorch更快。——转自解浚源知乎题目中提及的.json、.pa...

原创 深度学习/机器学习中关于Ubuntu/Linux常用命令

【代码】Ubuntu常用命令。

原创 我的踩坑日记

由于想要提高数据处理速度，考虑到python多线程是虚假的多线程，又懒得使用繁琐的c++，还得重写好多函数，故使用多进程方法，但是naive了，win下的多进程也有bug，报错：EOFError: Ran out of input（multiprocessing引起）有关multiprocess的语句必须放在main中，那还用个锤子。

原创 mxnet模型加载--源码分析--后端C++做了什么

mxnet模型加载--源码分析--后端C++做了什么。

原创 softmax和sigmoid的选择

softmax和sigmoid的选择

原创 冠状动脉解剖结构

CTA横断面冠脉解剖结构LM 左主干 LAD 回旋支 D 对角支 IR 中间支 LCX 回旋支 OM 钝缘支 PD 后降支 PL 左室后支（左右冠脉均有可能）

原创 BatchNorm详解

引言：前几天被同事问到了一个问题：当batch_size=1时，Batch Normalization还有没有意义，没有说出个所以然，才意识到自己从来不好好读过BN的论文（Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift），寻思着看看可不可以从论文中得到答案，本文就是自己学习记录之用，有些狗屁不通的地方请谅解。1. Introduce主要分析了输入数据的分布不稳

原创 paper_summary

paper_summary训练 Trick[1] learnning rate scheduler: Accurate, Large Minibatch SGD: Training ImageNet in 1 Hour[2] Adam + L2 regularization 会耦合效果差于sgd: DECOUPLED WEIGHT DECAY REGULARIZATION;知乎文章：都9102年了，别再用Adam + L2 regularization了[3] Adam to SGD 训练过程中Ad

原创 Mxnet Focal Loss实现

目录引言：Focal Loss pytorch代码Mxnet改写实验结果引言：在作医学图像分割工程中，常常会遇到ground truth像素层面上像素数量差距很大的情况（如一个很大的器官和一个很小的器官需要同时分割出来）、亦或是一个标签的训练难度远远大于另一个的情况，使得结果不尽如人意。但是经过实验Focalloss在分割问题中能够有效的抑制样本分布不均匀的情况。Focalloss的提出是针对分类样本分布不均匀的情况，对于分割问题实际上就是对每个像素进行分类，因此理论上在分割问题中有同样出色的性能。

原创 mxnet Group Norm 实现

class GroupNorm(nn.HybridBlock): """ If the batch size is small, it's better to use GroupNorm instead of BatchNorm. GroupNorm achieves good results even at small batch sizes. Reference: https://arxiv.org/pdf/1803.08494.pdf """ .

原创 lxml读取VOC_2012标注数据

VOC_2012标注数据xml如下：<annotation> <folder>VOC2012</folder> <filename>2007_000027.jpg</filename> <source> <database>The VOC2007 Database</database> <annotation>PASCAL VOC2007</annotation> .

原创 ubuntu新系统配置

Ubuntu 双系统安装软碟通制作优盘启动装系统前先预留80G的空闲空间选择自定义安装，为efi启动分区200Mb空间启动安装盘符选择刚刚分配的200Mb空间，点击继续Nvidia 驱动的安装自定义安装的驱动容易崩溃不稳定，所以选择Ubuntu的仓库安装比较合适查看NVIDIA驱动列表ubuntu-drivers devices根据列表选择安装，或者自动选择型号sudo apt install nvidia-390sudo ubuntu-drivers autoinsta

原创 vs2015 编译mxnet-1.5.1 使用vs2015 python联调

vs2015 编译mxnet-1.5.1主要是根据参考链接所示的方法：https://blog.csdn.net/u012234115/article/details/80503086，但是为了让mxnet源码附加到python进程中去，需要在vs2015中修改以下mxnet项目的设置以生成调试pdb调试文件，设置如下：工具——>选项——>调试——>常规——>关掉“要求源文件与原始版本完全匹配“邮件解决方案中的mxnet项目——>属性——>C/C++——>常

原创 mxnet autograd.record()源码分析

引言正在做mxnet框架下，使用deeplesion数据集yolov3的病灶检测的项目，训练过程中产生了access violated reading 0xFFFFF…的错误，经过google又说是应为backward()在autograd.record()作用域的原因。

原创 日常tricks

日常记录1.Mxnet Dataloder __getitem__相关2. 增加维度3.延后初始化如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入1.Mxnet Dataloder __getitem__相关for循环迭代时，如果对象不具有iterator接口，就会调用

原创 pip如何安装mxnet gpu老版本如1.3.1 1.4.1

看了那么多帖子全是安装最新版的，以往版本格式如下：pip install mxnet-cu92==1.4.1cu92是cuda9.2的意思

原创 mxnet学习笔记（二）——fine-tune前的对pretrained模型修改

Fine-tune过程是使用新的数据集对预训练（pretrained）模型重新训练的过程。既然是“微调”那么一般情况下只需要对最后的全连接层进行训练，因此我们需要对模型进行修改。if __name__ == '__main__': args = get_args() ctx = try_gpu() model1 = models.vision.resnet18_v1......

原创 Implementing Pruning Convolutional Neural Networks for Resource Efficient Inference in Mxnet

一、代码分析：参考pytorch代码对论文《Pruning Convolutional Neural Networks for Resource Efficient Inference》使用mxnet框架进行了复现，代码来自于一个GitHub的项目，本文主要是在其代码的基础之上，移植到mxnet的框架之上，移植的过程中发现了很多的问题算是好好学习了一下mxnet吧。首先剪枝过程主要是通过P...

原创 mxnet学习笔记（二）——训练器Trainer()函数详解

mxnet中 gluon.Trainer()是注册优化器的函数trainer=gluon.Trainer(net.collect_params(),'sgd',{'learning_rate':lr})在with autograd.record():之后结合trainer.strp(batch_size)更新网络权值gluon.Trainer()的参数为：params：net....

原创 卷积神经网络group群卷积以及group lasso

一、group（群卷积）group（群卷积）的思想最早出现于Alexnet论文：ImageNet Classification with Deep Convolutional Neural Networks，Alex之所以使用群卷积是因为受当时GTX580 GPU现存的限制，不能使用一块GPU训练网络，所以其将网络拆分为两组分别使用1个GPU训练。如下所示为一个常规的卷积操作...

原创 caffe中卷积计算是如何使用通用矩阵乘法（GEMM）实现的？

首先有一个问题：Q：对于一个I*W*H输入图像，要求输出维度为W'*H'*256需要多少个卷积核？A：第一种说法:由于输入channel是I且输出channel为256，如果将卷积核看做2纬的化，需要I*256个卷积核。第二种解法：如果将一个卷积核看做一个三维矩阵的话，每个矩阵为I* K*K，那么就需要256个卷积核。 显然第一种说法是最易于理解的，但是对于计算机来说第...

原创 模型压缩论文

一、Learning structured sparsity in deep neural networkAbstract：本文提出了Structured Sparsity Learning（ssl）方法来正则化DNN的网络结构。ssl技术可以做到1）从一个复杂的DNN网络学习到一个紧凑的结构，从而减少计算消耗；2）在保证精度不损失的情况下，获得一个对硬件友好的DNN稀疏结构。实验表明...

原创 win7+cuda9.0+cudnn7.5 vs2015编译tensorflow r1.8

1、github下载TensorFlow 1.82、cmakeconfigure and generate ->open projectcuda_version 9.0 cudnn_version = 7虽然是7.53、使用管理员权限打开visual studio 2015 然后打开tensorflow.sln,设置为Release X64编译前还需要做如下修改...

原创 git下载TensorFlow-master并更改为旧版本子分支

原创 Ubuntu 18.04 如何开启wifi热点，以及更改wifi热点

1、进入设置界面2、点击wifi按钮

原创 八个经典排序算法总结

1、插入排序原理：插入排序顾名思义将当先元素插入到其本应在的位置，其他的元素依次向后移（自己实现的时候忘记了移动元素），如下动图所示。时间复杂度：，这里是最大时间复杂度，有些时候时间复杂度会大大降低（高度有序序列的情况下）。template &lt;typename T&gt;void insertSort(T arr[],int n){ for(int i = 0;i &...

原创 Linux多进程学习

 1、fork()一次调用两次返回？#include &lt;iostream&gt;#include &lt;unistd.h&gt;using namespace std;int main(){ pid_t pid ; pid = fork(); if(pid == 0){ printf("I'm child,PID is %d\n",get...

原创 tensorboard 可视化卷积层

不说废话先上代码：#coding:utf-8#learning how to use tensorboard in cnnimport tensorflow.examples.tutorials.mnist.input_data as input_datamnist = input_data.read_data_sets("data/", one_hot=True)import t...

原创 win7突然关机后Ubuntu引导失效不能进入Ubuntu中

1、使用easybcd，将之前创建的条目删除重新创建Linux条目，选择grab不要选择grub22、使用启动u盘进入Ubuntu（try Ubuntu），使用apt-get install grub2

原创 win7+qtcreator+GCC编译环境的搭建

1、下载安装qtcreator2、gcc编译器安装通过安装MinGW-64w实现离线安装包下载地址为https://sourceforge.net/projects/mingw-w64/files/?source=navbar3、安装qt-opensource-windows-x86-mingw530-5.8.04、安装调试器qtcreator-gdb-7.4-MINGW32_NT-6.1-i68...

原创 SVM数学基础的学习

今天，使用《统计学习方法》来简单学习一下SVM的数学基础，为了编写第一个行人识别的程序做基础1、