南极粥-CSDN博客

转载 resnet18_deploy

ResNet_18_deploy.prototxtname: "ResNet-18"layer { name: "data" type: "Input" top: "data" input_param { shape: { dim: 10 dim: 3 dim: 224 dim: 224 } }}layer { bottom: "d

2017-12-09 21:35:17 2052

原创 ubuntu1604环境下安装caffe及cuda80等相关组件实际操作流程

Ubuntu安装caffe及python和opencvUbuntu版本：16.04.03 LTS，可以比较顺利地全部安装python所需的各种依赖，而不需要安装anaconda包。否则会引起新的软件之间的冲突。Opencv：2.4.9Python：2.7Cuda：8.0Cudnn：5.11. 解决无法安装ubuntu操作系统的问题最近购入一台华硕游戏本，发现无法

2017-08-11 23:36:24 2474

原创 caffe Resnet-50模型训练及测试

caffe Resnet-50模型训练及测试1. 注意事项Resnet-50计算精度比较高，而且运算量较小，因此是一种理想的残差网络的训练模型。采用Resnet-50模型进行训练，需要注意以下方面：(1) BatchNorm层的参数在finetuneResnet时，网络结构文件中BatchNorm层的参数要注意： 1.在训练时所有BN层要设置use_gl

2017-08-02 22:23:15 30842 4

原创新版的笔记本电脑安装ubuntu系统过程中卡死问题解决方法

新版的笔记本电脑安装ubuntu中卡死问题解决方法。1. 解决方法：重新开机，光标选中“Install Ubuntu” ，按“e”，进入grub界面，将倒数第二行中的“quiet splash ---”改为“nomodeset”。F10保存，就可以进入安装界面，进行安装。2. 安装完成后，进入ubuntu的recovery mode，安装nvidia的显卡驱动。从nvidia网站下载NVI

2017-07-21 23:31:29 20662 4

原创 Matconvnet框架中采用自己的softmaxloss损失函数代码

Matconvnet框架中采用自己的softmaxloss损失函数代码。主要涉及的模块是vl_nnsoftmaxloss函数和processEpoch函数。vl_nnsoftmaxloss函数中实现了自己的softmaxloss代码，相关的算法推导请见softmaxloss损失函数的算法推导，注意进行softmaxlos的相关计算前要减去神经网络输出的最大值。processEpoch函数中的[im

2017-06-17 12:08:53 2020

原创 Matconvnet框架中实现欧式距离损失函数代码

Matconvnet框架中实现欧式距离损失函数代码。主要涉及的模块是vl_nnsoftmaxloss函数和processEpoch函数。vl_nnsoftmaxloss函数中实现了自己的欧式距离损失函数代码，相关的算法推导请见欧式距离损失函数的算法推导。processEpoch函数中的[im,labels] = params.getBatch(params.imdb, batch)被删掉，采用自己

2017-06-17 12:07:27 2383

原创神经网络前向反向公式推导及说明

1. 神经网络架构及符号说明图1 神经网络架构图(f1)图1为四层神经网络的架构图，包含一个输入层(1层)，两个隐层(2,3层)，一个输出层(c层)，分别包含2个，3个，2个，2个神经元。训练的输入输出数据共包含m组样本数据。i1和i2代表两个输入信号值。c1和c2代表两个

2017-06-10 19:25:09 1305

原创神经网络欧式距离损失函数和softmaxwithloss损失函数转换示例

1. 神经网络损失函数说明神经网络欧式距离损失函数用于连续值训练样本的拟合，softmaxwithloss损失函数用于分类训练样本的拟合。另外，深度网络对于分类样本的拟合能力强于对于连续值样本的拟合能力。即同样的深度网络如果能拟合10组分类的样本，可能只能拟合3组连续值的样本。欧式距离损失函数如下式所示： (f1) 它在 Log

2017-06-08 21:54:16 16214

原创深度学习神经网络从欠拟合到拟合的调整方法及示例代码

深度学习神经网络从欠拟合到拟合的调整方法及示例代码1. 深度神经网络结构调整说明当深度神经网络可以对少量样本进行很好的拟合，而对较多的样本无法很好拟合的时候，很可能是深度网络的层数不够深，即深度网络的特征无法很好地表征所有样本的特征。此时，可以通过加深网络的层次来使得深度网络对较多的样本进行拟合。另外，深度网络对于分类样本的拟合能力强于对于连续值样本的拟合能力。即同样的深度网络

2017-06-06 23:18:36 9845

原创包含激活函数的多层神经元网络及matlab实现

1. 两层神经网络结构双输入单输出的两层神经网络结果如下图所示。其中括号中表示实际的权值、输出值、阈值等神经网络的参数，括号外的变量表示估计的权值、输出值、阈值等值。具体的公式推导可参考周志华的《机器学习》清华大学出版社第5.3节的内容。对于最后的代价函数的显示，可以用log函数来对其进行处理，以便能观察当代价函数的值很小时的变化趋势。如果学习速率太大，则神经网可能会发散，

2017-05-30 17:56:25 6755

转载神经网络中的反向传播法算法推导及matlab代码实现

最近在看深度学习的东西，一开始看的吴恩达的UFLDL教程，有中文版就直接看了，后来发现有些地方总是不是很明确，又去看英文版，然后又找了些资料看，才发现，中文版的译者在翻译的时候会对省略的公式推导过程进行补充，但是补充的又是错的，难怪觉得有问题。反向传播法其实是神经网络的基础了，但是很多人在学的时候总是会遇到一些问题，或者看到大篇的公式觉得好像很难就退缩了，其实不难，就是一个链式求导法则反复用。如果

2017-05-29 22:14:18 13182 3

原创利用梯度下降法实现线性回归的算法及matlab实现

利用梯度下降法实现线性回归的算法及matlab实现1. 线性回归算法概述线性回归属于监督学习，因此方法和监督学习应该是一样的，先给定一个训练集，根据这个训练集学习出一个线性函数，然后测试这个函数训练的好不好（即此函数是否足够拟合训练集数据），挑选出最好的函数（cost function最小）即可；注意：(1)因为是线性回归，所以学习到的函数为线性函数，即直线函数；(2)线性回归

2017-05-16 21:39:49 17699

原创深度学习AlexNet模型详细分析

Alex在2012年提出的alexnet网络结构模型引爆了神经网络的应用热潮，并赢得了2012届图像识别大赛的冠军，使得CNN成为在图像分类上的核心算法模型。接下来本文对该网络配置结构中各个层进行详细的解读（训练阶段）：注：下述关于卷积核的尺寸来自于Alex在2012年发表的经典论文。 1. conv1阶段DFD（data flow diagram）：第一层输入数

2017-05-16 21:27:27 96343 23

原创基于matlab开发输出连续值的深度神经网络

输出连续值的深度神经网络1. 前言本文设计并实现了输出连续值的深度神经网络。可用于自动构图特征线位置判断等需要连续值的场合。特征线的位置可以是垂直的，也可以是水平的。即特征线有垂直和水平两种特征线。所设计的深度神经网络基于Deeplearning Toolbox中的神经神经网络修改而来。主要修改内容为将输出节点数由原来的10个调整为3个。每个节点的输

2017-05-13 18:19:01 5746

原创基于MATLAB Coder将matlab代码转换成C代码

MATLAB Coder可以从MATLAB代码生成独立的、可读性强、可移植的C/C++代码。本文基于matlab2015a编制，但是也适用于matlab 2014~2016的版本。1. 使用MATLAB Coder产生C代码的4个步骤：(1) 开发实现特定算法功能的MATLAB代码及其测试文件；(2) 检查MATLAB代码的兼容性，确保MATLAB代码中的语句都能被转换成C代码(有些m

2017-05-09 22:54:51 58497 8

转载采用ReLU作为激活函数的简单深度神经网络matlab代码设计

本文介绍下如何实现神经元激活函数为ReLU的深度神经网络。ReLU函数的数学公式很简单ReLU(x)=max(x,0)。若DNN用于数据分类，则可以简单的认为其主要由两个部分组成：多隐层网络+分类器。分类器采用softmax。第一步：准备数据1）将你需要分类的样本数据以每列的形式保存于矩阵中；->TrainData 2）将每个样本的类别标记按数据顺序存为一行向量，类别为1,2,3,…,

2017-05-08 22:37:18 20302

转载深度学习参数和架构设计技巧

深度学习性能提升的诀窍Pedro Ribeiro Simoes拍摄原文： How To Improve Deep Learning Performance作者： Jason Brownlee标题:深度学习数据扩展方法你是如何提升深度学习模型的效果？这是我经常被问到的一个问题。有时候也会换一种问法：我该如何提高模型的准确率呢？ ……或者反过来问：如果我的网络模型效果不好，我该

2017-04-30 20:23:04 3896