- 博客(50)
- 资源 (6)
- 收藏
- 关注
RSS订阅原创 PyTorch入门实战教程笔记目录
PyTorch入门实战教程笔记目录1、PyTorch入门实战教程笔记（一）：配置开发环境Anaconda 安装安装CUDAPyTorch安装安装PyCharm
2020-02-17 13:43:40
823
原创 PyTorch入门实战教程笔记（二十四）：卷积神经网络实现 2
PyTorch入门实战教程笔记（二十三）：卷积神经网络实现 1：ResNet实现CIFAR10CIFAR10数据集介绍关于CIFAR-10数据集，可以访问它的官网进行下载：http://www.cs.toronto.edu/~kriz/cifar.html。CIFAR包含常见的10类物体的照片，照片的size 为32×32，每一类照片有6000张，所以一共6000万张照片，我们把6万张照片...
2020-02-14 22:34:39
1111
3
原创 PyTorch入门实战教程笔记（二十三）：卷积神经网络实现 1
PyTorch入门实战教程笔记（二十三）：卷积神经网络实现 1 Lenet5实现CIFAR10CIFAR10数据集介绍关于CIFAR-10数据集，可以访问它的官网进行下载：http://www.cs.toronto.edu/~kriz/cifar.html。CIFAR包含常见的10类物体的照片，照片的size 为32×32，每一类照片有6000张，所以一共6000万张照片，我们把6万张照片随机选出5万张照片作为train...
2020-02-14 16:46:46
1119
2
原创 PyTorch入门实战教程笔记（二十二）：卷积神经网络CNN 4
PyTorch入门实战教程笔记（二十二）：卷积神经网络CNN 4数据增强Data argumentation，Big Data 能够使网strain的很好，并且可以有效地防止过拟合。但是现实生活中对于照片的获得不太容易，并且还要对照片进行标注（打label）。如何解决神经网络对数据的需求，是一种挑战，使用数据增强能够解决这个挑战。如果现在对于有限的数据，可以进行Small network ca...
2020-02-14 11:07:14
563
原创 PyTorch入门实战教程笔记（二十一）：卷积神经网络CNN 3
PyTorch入门实战教程笔记（二十一）：卷积神经网络CNN 3Resnet实战关于ResNet的理论详解可参考：ResNet-v1残差神经网络详解。由上面分析可知，ResNet是由下面的基本单元堆叠而成的。...
2020-02-13 20:38:29
650
原创 PyTorch入门实战教程笔记（二十）：卷积神经网络CNN 2
PyTorch入门实战教程笔记（二十）：卷积神经网络CNN 2Batch Norm详细相关论文解读可参考：Batch Normalization（BN层）网络详解，下面我们简要的分析一下，比如我们使用Sigmoid函数时，如果数据过小或者过大会出现梯度弥散的情况（即梯度为零），会很长时间得不到更新，我们会避免使用Sigmoid函数，而是用Relu函数。但是有些场合我们必须使用Sigmoid函数...
2020-02-13 16:51:32
932
2
原创 PyTorch入门实战教程笔记（十九）：卷积神经网络CNN 1
PyTorch入门实战教程笔记（十九）：卷积神经网络CNN 1什么是卷积卷积神经网络基本概念对于神经网络有几层，第一层为输入层，是不计算在内的，下图有3个隐藏层1个输出层，所以是4层的神经网络。每一层包含输入它的参数和它的输出。对于MiNIST数据集，28*28 输入为784，参数一共390k，1.6M存储。但是虽然1.6M存储，在当时储存计算也是非常困难的，计算机学家就利用模仿人眼的...
2020-02-12 20:15:44
1675
1
原创 PyTorch入门实战教程笔记（十八）：过拟合2
PyTorch入门实战教程笔记（十八）：过拟合2（训练小技巧）动量和学习率衰减动量（momentum） 我们先来回顾一下梯度更新的公式：wk+1 = wk - α▽f(wk),而动量再次基础上增加了一个zk参数（多减去一个β倍的zk）,我们知道，当它减去梯度的时候，是往梯度方向走，当它减去zk，是不是就是往zk方向走，那么zk是什么呢? ｚk+1 = βｚk - ▽f(wk)，所以ｚk ...
2020-02-12 16:09:33
437
原创 PyTorch入门实战教程笔记（十七）：过拟合1
PyTorch入门实战教程笔记（十七）：过拟合1过拟合&欠拟合在模型评估与调整的过程中，往往会遇到“过拟合”或“欠拟合”的情况。如何有效地识别“过拟合”和“欠拟合”现象，并有针对性进行模型调整，是不断改进机器学习模型的关键。特别是在实际项目中，采用多种方法、从多个角度降低“过拟合”和“欠拟合”的风险是应当具备的基础知识。在模型的评估过程中，过拟合和欠拟合具体是指什么现象呢？过拟合(...
2020-02-11 16:02:04
725
原创 PyTorch入门实战教程笔记（十六）：神经网络与全连接层3
PyTorch入门实战教程笔记（十六）：神经网络与全连接层3GPU/CPU运行切换在训练网路时，采用GPU进行加速，pytorch提供了一个功能，能够一条语句切换在CPU、GPU上运算，如果在GPU上运行，device = torch.device( ‘cuda:0’ ), (后面的0是cuda的编号），如果在CPU上运行，将‘cuda’改成‘GPU’即可。对net搬到GPU上去，使用net ...
2020-02-11 12:30:32
328
原创 PyTorch入门实战教程笔记（十四）：神经网络与全连接层1
PyTorch入门实战教程笔记（十四）：神经网络与全连接层1交叉熵Cross Entropy Loss在介绍交叉熵之前，先介绍一下信息熵，表达式如下：信息熵表达了信息出现的概率或者不确定性，如果uncertainty比较高，Ent...
2020-02-10 17:58:08
986
原创 PyTorch入门实战教程笔记（十三）：梯度相关操作4
PyTorch入门实战教程笔记（十三）：梯度相关操作4MLP反向传播在前面介绍我们了解到，对于多层感知机误差E对Wjk的偏导为（Ok-tk）Ok(1 - Ok)x0j , 如果前面在添加一层，其输出为OjJ ,那么 误差E对Wjk的偏导为（Ok-tk）Ok(1 - Ok)Oj J。如下图：那么对于多层的感知机MLP，链式求导详细推导如下图：下图第5行运用链式法则来求导，最终结果如红框所示，...
2020-02-10 11:21:32
279
原创 PyTorch入门实战教程笔记（十二）：梯度相关操作3
PyTorch入门实战教程笔记（十二）：梯度相关操作3感知机的梯度推导单层感知机y = Σxi*Wi + b，简化结构如下图：我们把输入层即第0层编号为x00-n
2020-02-09 21:48:15
296
原创 PyTorch入门实战教程笔记（十一）：梯度相关操作2
PyTorch入门实战教程笔记（十一）：梯度相关操作2Loss及其梯度均方差Mean Squared Error （MSE）MSE的基本形式为：loss = Σ[y - (xw + b)]2 ,这里要注意 mse与L2-norm是不同的 L2-norm = || y - (xw+b) ||2 其运算为√(Σ(yi - y0i)2), 故在程序中实现mse，通过下面的程序段：torch....
2020-02-09 21:14:41
482
原创 PyTorch入门实战教程笔记（十）：梯度相关操作1
PyTorch入门实战教程笔记（十）：梯度相关操作梯度概念梯度也就是所有自变量偏微分的向量（而不是标量），与导数不同，梯度有方向还有大小，反应朝某一方向梯度变化的大小，可用下式表示，例如，z = y2 - x2 ,其梯度为▽z = (-2x, 2y), 在(0,0)处的梯度为(0, 0), 在(1, 1)处的梯度为(-2,2)。用梯度找极小值解在PyTorch入门实战教程笔记（二）：简单...
2020-02-08 23:30:39
515
原创 PyTorch入门实战教程笔记（九）：基础张量操作5
PyTorch入门实战教程笔记（九）：基础张量操作5：高阶操作 where&gatherWheretorch.where(condition, x, y) -->tensor，一共3个参数，第一个参数条件，判断其Ture or False。 如下：比如，现在将A, B的值根据condition传递给C，可以从C[0]=A[0],C[1]=B[1], 此外，设计到具体的数值，也...
2020-02-08 16:47:46
324
原创 PyTorch入门实战教程笔记（八）：基础张量操作4
PyTorch入门实战教程笔记（八）：基础张量操作4包含：数学运算，属性统计，高阶操作数学运算：Add/minus/multiply/divide:加减乘除基本运算（数学运算）Matmul：Tensor的矩阵式相乘（矩阵形式）Pow：矩阵的次方sqrt/rsqrt：矩阵的次方根Round：矩阵近似运算Add/minus/multiply/divide:基本运算： 加减乘除可...
2020-02-07 15:23:32
600
1
原创 PyTorch入门实战教程笔记（四）：基础张量操作1
PyTorch入门实战教程笔记（四）：基础张量操作1包括：数据类型 和 创建Tensor数据类型：Python 与PyTorch基本类型对比如下图,可以看到数据可以一一对应，不同的维度表示了不同的类型。不过应该注意的是，PyTorch中没有类键string支持的，不过可以采用编码的方式，例如One-hot来表示，如 [0,1,0,0…]. 除此之外，也可以用Embedding可以用来表示常用...
2020-02-07 12:28:49
314
原创 PyTorch入门实战教程笔记（七）：MNIST 手写数字识别代码详解
PyTorch入门实战教程笔记（八）：MNIST 手写数字识别代码详解1. 流程1 加载数据2 建立模型3 训练4 测试2. 代码实战（1）文件1：utils.py辅助文件‘’’45484545‘’’...
2020-02-06 22:10:12
1952
原创 PyTorch入门实战教程笔记（六）：基础张量操作3
PyTorch入门实战教程笔记（六）：基础张量操作3包括：Broadcasting自动扩展、合并与分割Broadcasting自动扩展:特点：Expand（自动的）、without copying data。 比如，现在有一个张量A、B，将B扩展成与A相同的维度，假设A是feature map，B为偏置，A[4,32,14,14],B:[32]，那么怎么办呢，可进行如下图扩展，要注意，扩...
2019-11-17 23:47:30
361
1
原创 PyTorch入门实战教程笔记（五）：基础张量操作2
PyTorch入门实战教程笔记（五）：基础张量操作2包括：索引与切片和 维度变换索引和切片：使用函数torch.rand()来创建一个数据，比如a = torch.rand(4,3,28,28),即为Batch size为4(即4张图片）的28×28的RGB图像，这也是CNN中最常用的，那么a[0]指的就是索引的第一张图片，a[0,1]指的是第一张图片第一个通道（如：R）的数据，示例如下图：...
2019-11-17 21:43:23
548
原创 目标跟踪论文（五）：Deeper and Wider Siamese Networks for Real-Time Visual Tracking
Deeper and Wider Siamese Networks for Real-Time Visual Tracking简述：基于孪生网络的跟踪器通常使用AlxcNet作为backbone，而没有充分利用现在深层网络的优势（比如ResNet、Inception等）。作者发现，如果直接将backbone换成ResNet、Inception等网络，随着深度的增加，效果不升反降，如下图蓝线（红...
2019-11-16 19:55:37
1153
原创 目标跟踪论文（四）：SiamRPN++_ Evolution of Siamese Visual Tracking With Very Deep Networks
SiamRPN++_ Evolution of Siamese Visual Tracking With Very Deep Networks简述：尽管已经有很多基于Siamese跟踪算法，但目前的这类网络大都使用浅层的类AlexNet作为基准特征提取器。而利用深度网络（例如ResNet-50等网络）其性能不升反降，作者证明其核心原因在于缺乏绝对的平移不变性。作者提出了空间感知采样打破了这一限...
2019-11-16 19:40:20
1088
原创 显著性检测论文详解（一）：BASNet: Boundary-Aware Salient Object Detection
BASNet: Boundary-Aware Salient Object Detection简述：对于显著性目标检测，以往的研究大多集中在区域精度上，而不是边界质量上。在这篇论文中，我们提出了一种predict-refine architecture，BASNet，以及一种新的混合损耗来实现边界感知的突出对象的设计。问题or相关工作：由上图，可以看到现在的方法（FCN等），预测的显著性图...
2019-11-16 16:53:14
3480
原创 PyTorch入门实战教程笔记（四）：基础张量操作1
PyTorch入门实战教程笔记（四）：基础张量操作1数据类型：Python 与PyTorch基本类型对比如下图,可以看到数据可以一一对应，不同的维度表示了不同的类型。不过应该注意的是，PyTorch中没有类键string支持的，不过可以采用编码的方式，例如One-hot来表示，如 [0,1,0,0…]. 除此之外，也可以用Embedding可以用来表示常用的语言，不多介绍。 在PyTor...
2019-11-03 21:11:37
465
1
原创 PyTorch入门实战教程笔记（三）：手写数字问题引入
PyTorch入门实战教程笔记（三）：手写数字问题引入MNIST数据集MNIST数据集是机器学习领域中非常经典的一个数据集，由60000个训练样本和10000个测试样本组成，每个样本都是一张28 * 28像素的灰度手写数字图片。下载数据集 网址：http://yann.lecun.com/exdb/mnist/ 数据集简介： 1、共有4数据集，下载之后保存在磁盘中（最好放在代码执...
2019-11-03 16:56:56
628
原创 PyTorch入门实战教程笔记（二）：简单回归问题。
PyTorch入门实战教程笔记（二）：简单回归问题简介在学之前先讲解一下梯度下降算法，因为梯度就是深度学习的核心精髓。举个例子，一个简单的函数，如下图：...
2019-11-03 14:00:38
935
原创 PyTorch入门实战教程笔记（一）：配置开发环境：Anaconda-CUDA、PyTorch、Pychram
深度学习与PyTorch入门教程（一）：配置开发环境
2019-11-02 21:15:50
737
2
原创 目标跟踪论文（三）：DaSiamRPN：Distractor-Aware Siamese Networks for Visual Object Tracking
DaSiam：Distractor-Aware Siamese Networks for Visual Object Tracking简述：目前，在视觉跟踪领域，孪生网络（Siamese networks）在精度和速度方面都达到了不错的性能。但是多数是在非语义背景（即背景没有干扰，比如跟踪一个动物，只有它一个，没有其他的）的情况下。而在语义背景的情况下，会干扰Siamese 网络的鲁棒性。针对...
2019-11-02 20:29:04
1238
原创 目标跟踪论文（二）：SiamRPN：High Performance Visual Tracking with Siamese Region Proposal Network
SiamRPN：High Performance Visual Tracking with Siamese Region Proposal Network阅读之前，推荐先看孪生网络用于目标跟踪的开山之作：SiamFC孪生网络简述：现有的跟踪器性能优越却难以有实时的速度，本文作者提出孪生候选区域生成网络（Siamese region proposal network），简称Siamese-RP...
2019-10-31 13:05:48
1527
原创 目标检测：Faster RCNN网络详解
Faster R-CNN: Towards Real-Time Object Detection with Region Proposal NetworksRCNN系列论文：目标检测：RCCN网络详解目标检测：Fast RCNN网络详解目标检测：Faster RCNN网络详解简述：Fast RCNN存在着Selective Search（选择性搜索）。要找出所有的候选框，这个也非常耗时...
2019-10-27 00:22:31
1605
原创 目标检测：Fast RCNN网络详解
Fast R-CNN简述：RCCN存在以下几个问题：（1） 需要事先提取多个候选区域对应的图像。这一行为会占用大量的磁盘空间；（2） 针对传统的CNN来说，输入的map需要时固定尺寸的，而归一化过程中对图片产生的形变会导致图片大小改变，这对CNN的特征提取有致命的坏处；（3） 每个region proposal都需要进入CNN网络计算。进而会导致过多次的重复的相同的特征提取，这一举动会导...
2019-10-26 19:55:33
1243
原创 目标检测：RCCN网络详解
目标检测：目标检测就是在给定的图片中精确找到物体所在位置，，并标注出物体的类别（定位+识别）。由于物体的尺寸变化范围很大、摆放角度多变、姿态不定，而且物体有很多种类别，可以在图片中出现多种物体、出现在任意位置。因此，目标检测是一个比较复杂的问题。用CNN网络的大概思路如下：检测分类：Rich feature hierarchies for accurate object detecti...
2019-10-26 19:25:11
2512
原创 目标跟踪论文（一）：SiamFC孪生网络
Fully-Convolutional Siamese Networks for Object Tracking项目网页 http://www.robots.ox.ac.uk/~luca/siamese-fc.htmltensorflow+python代码：https://github.com/www0wwwjs1/tensorflow-siamese-fc一、背景简介传统的目标跟踪算法，...
2019-10-20 00:39:02
4848
原创 计算机视觉中，目标跟踪相关算法&论文总结
目标跟踪相关算法&论文总结作为小白，近期想看一些目标跟踪相关的内容，但又无从下手，花了几天时间，找各种资料，总结了网上大佬们写的文章。（大部分来自CSDN、知乎、微信公众号，均已注明出处）概念：目标跟踪： 是指在特定场景跟踪某一个（单目标跟踪）或多个（多目标跟踪）特定感兴趣对象的过程。跟踪的结果通常就是一个框，目标跟踪是视频监控系统中不可缺少的环节。根据观察模型，目标跟踪算法可分成...
2019-10-13 14:29:51
4366
转载 计算机视觉中，目前有哪些经典的目标跟踪算法
---------------------------作者：YaqiLYU链接：https://www.zhihu.com/question/26493945/answer/156025576来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。相信很多来这里的人和我第一次到这里一样，都是想找一种比较好的目标跟踪算法，或者想对目标跟踪这个领域有比较深入的了解，虽然这个问题是...
2019-10-13 13:53:54
584
原创 图像语义分割论文解读（二）：Adaptive Pyramid Context Network for Semantic Segmentation
Adaptive Pyramid Context Network for Semantic Segmentation简述：当前基于上下文的分割方法在构造上下文特征和实际应用中各不相同。本文首先介绍了上下文特征在分割任务中的三个理想性质。作者发现全局导向的局部亲和力(GLA)在构建有效的语境特征中起着至关重要的作用，并在此基础上提出了自适应金字塔上下文网络(APCNet)的语义分割方法。ACP...
2019-10-11 21:33:54
1297
原创 深度学习之经典神经网络框架详解（八）：GoogLeNet：Inception-v4
Inception-v4, Inception-ResNet and the Impact of Residual Connections on Learning简述：残差神经网络（ResNet）框架在2015年ILSVRC挑战赛中达到了当时最好的性能，作者考虑将Inception与ResNet相结合是否有益处，并通过实验证明了残差神经网络的加入能够显著加速Inception的训练且表现更好。...
2019-10-10 21:34:58
565
1
原创 深度学习之经典神经网络框架详解（七）：GoogLeNet：Inception-v3
Rethinking the Inception Architecture for Computer Vision简述：虽然增加的模型大小和计算成本能够提高网络的性能（如：VGG等），但其计算量过大，无法在对内存或计算资源有限制的场合处理数据。GoogLeNet 在设计之初就考虑了内存和计算资源，本文作者通过适当的分解卷积和积极的正则化来尽可能地有效利用增加的计算。实验证明，设计的网络模型取得...
2019-10-07 19:08:28
887
pytorch_gradcam_resnet50.py
2020-01-10
pytorch_gradcam_vgg19.py
2020-01-10
pytorch_CAM实现
2020-01-10
Pyramid Feature Attention Network for Saliency detection.ppt
2020-01-10
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人