- 博客(39)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 【项目实践】车距+车辆+车道线+行人检测项目实践
1、项目流程的简介 项目的主题框架使用为Keras+OpenCV的形式实现，而模型的选择为基于DarkNet19的YOLO V2模型，权重为基于COCO2014训练的数据集，而车道线的检测是基于OpenCV的传统方法实现的。2、项目主题部分2.1、YOLO V2模型YoloV2的结构是比较简单的，这里要注意的地方有两个： 1.输出的是batchsiz...
2020-04-11 09:13:27
2790
7
原创 【项目实践】中文文字检测与识别项目（CTPN+CRNN+CTC Loss原理讲解）
目录OCR——简介1、CTPN原理——文字检测1.1、简介1.2、CTPN模型创新点1.3、CTPN与RPN网络结构的差异1.4、CTPN网络结构1.5、如何通过FC层输出产生Text proposals?1.6、竖直Anchor定位文字位置1.7、文本线构造算法1.8、CTPN的训练策略1.9、CTPN小结2、CRNN网络2.1、CRNN 介绍...
2020-03-02 10:17:35
23227
14
原创 【深度学习】1、常见模型优化算法原理与项目实践对比（PyTorch实践）
目录简介1、SGD(Stochastic Gradient Descent, SGD)2、Momentum3、NAG（Nesterov Accelerated Gradient，NAG）4、Adagrad5、RMSProp6、Adadelta7、Adam8、AdaMax9、Nadam10、优化算法的使用11、训练笔记优化实践对比简介...
2020-02-23 10:06:08
1181
原创 【深度学习】2、Pytorch自行实现常见的11个激活函数的Fashion Minist项目实践对比（你需要的这里都有了！）
简介神经网络为什么需要激活函数：首先数据的分布绝大多数是非线性的，而一般神经网络的计算是线性的，引入激活函数，是在神经网络中引入非线性，强化网络的学习能力。所以激活函数的最大特点就是非线性。 激活函数对神经网络的重要性自不必多言，来自丹麦技术大学的 Casper Hansen 通过公式、图表和代码实验介绍了 Sigmoid、Tanh、ReLU、Softplus、Softmax、ELU...
2020-02-22 09:44:40
2205
原创 【经典网络模型】1、基于GUI实践AlexNet图像识别与分类
1、简介ImageNet Classification with Deep Convolutional Neural Networks》是Hinton和他的学生Alex Krizhevsky在2012 年 ImageNet挑战赛中使用的模型结构，刷新Image Classification 的错误率，从此深度学习方法在Image这块开始一次次超过state-of-art，甚至于搭到打败人...
2020-02-21 15:49:50
1173
原创 机器学习回顾与总结之——线性模型
目录1、简介2、逻辑回归（logistic回归）2.1、逻辑回归的第一种表述2.1.1、概念描述2.1.2、凸函数证明2.2、逻辑回归的第二种表述1、简介对于线性模型家族而言，其包括逻辑回归（logistic）与线性支持向量机（线性SVM），它们需要拟合的目标函数都是线性函数，虽然线性函数的建模能力有限，但当特征向量维数很高、训练样本数很大时它具有速度上的优势，在大...
2019-10-22 16:04:15
331
原创 目标检测算法综述—— One-Stage方法
目录1、概述2、目标检测算法2.1、SSD2.2、DSSD2.3、YOLO V12.4、YOLO V22.5、YOLO V32.6、RetinaNet研究背景主要贡献二分类的交叉熵损失 （cross-entropy loss）平衡的交叉熵 （Balanced Cross Entropy）焦点损失(Focal Loss)RetinaNet网络架...
2019-08-19 14:37:33
5221
原创 目标检测算法综述—— Two-Stage方法
1、概述目标检测的任务是找出图像中所有感兴趣的目标（物体），确定它们的位置和大小，是机器视觉领域的核心问题之一。由于各类物体有不同的外观，形状，姿态，加上成像时光照，遮挡等因素的干扰，目标检测一直是机器视觉领域最具有挑战性的问题。1.1、什么是目标检测目标检测的任务是找出图像中所有感兴趣的目标（物体），确定它们的位置和大小，是机器视觉领域的核心问题之一。由于各类物体有不同的外观，形状，...
2019-08-18 11:22:56
4527
原创 双线性汇合(bilinear pooling)在细粒度图像分析及其他领域的进展综述——SIGAI推荐
目录1. 数学准备1.1 符号1.2 数学性质1.3 双线性2. 双线性汇合2.1 细粒度分类中的双线性汇合2.2 不同阶的汇合3. 精简双线性汇合3.1 PCA降维3.2 近似核计算3.3 低秩双线性分类器4. 双线性汇合的其他应用4.1 风格迁移和纹理合成4.2 视觉问答（visual question answering）4.3 动...
2019-07-26 17:03:47
1061
原创 统计学习方法学习笔记9——隐马尔科夫模型（HMM原理推导分析与分词项目实践）
目录1.简介2.概率计算方法2.1、模型参数的介绍2.1.1、初始概率2.1.2、状态转移矩阵2.1.3、观测概率矩阵2.2、前向-后向算法2.2.1、前向算法2.2.2、后向算法2.2.3、前向算法与后向算法的关系3、HMM的训练/学习问题3.1、Baum-Welch算法3.2、Baum-Welch算法伪代码4、预测问题：Viterbi算...
2019-06-28 16:12:32
773
2
原创 统计学习方法笔记8——HMM（隐马尔科夫模型）之前向后向算法的推导
自己学习HMM时的一下推导过程，用word进行推导然后输出为png图片，希望大家一起学习，由于HMM学习实践比较久，所以后期的HMM的学习算法以及训练部分的算法和代码部分会以另外一篇blog形式进行记录，希望可以持续关注哈...
2019-06-28 10:17:54
481
转载 Markdown使用语法
个人看到比较全的一个：https://blog.csdn.net/witnessai1/article/details/52551362
2019-06-18 14:16:20
144
原创 目标检测学习笔记——SSD以及改进模型DSSD的原理解读及SSD的Tensorflow代码实现（图文并茂）
个人学习路上的一些见解，以Blog的形式记录下来，加强自己的知识学习，同时也希望和大家共享，由于个人能力有限，难免会有错误的地方，希望各位大牛给与指证，小弟定进一步完善自己以及博客。
2019-06-15 19:00:36
5589
3
原创 统计学习方法学习笔记7——提升方法(集成学习)
提升方法文章目录提升方法前言章节目录导读加法模型+前向分步算法提升方法AdaBoost算法提升方法的基本思路Adaboost算法算法8.1步骤AdaBoost例子例子8.1AdaBoost 误差分析AdaBoost 算法的解释前向分步算法算法8.2提升树提升树模型提升树算法算法8.3梯度提升(GBDT)算法8.4AdaBoost与SVM的关系AdaBoost与LR的关系参考前言章节目录提...
2019-06-14 19:50:31
317
转载 统计学习方法学习笔记6——支持向量机
https://blog.csdn.net/qq_24819773/article/details/86513166
2019-06-14 18:23:28
143
原创 目标检测学习笔记——Yolo v1原理解读及其Tensorflow代码实现（图文并茂）
个人学习过程中的一些理解和笔记，写出来希望和大家一起分享，由于个人能力有限，文中要是有错误的地方还望海涵，并可以指出，笔者努力学习继续改进Blog内容。如果要转载请注明出处：https://mp.csdn.net/postedit/91435413
2019-06-11 18:44:08
2738
原创 深度学习笔记1——卷积神经网络概述
目录1.卷积神经网络特点概述2.卷积神经网络在图像任务方面的优势概述3.传统神经网络的缺点3.1.庞大的参数3.2.丢失像素间的信息3.3.制约网络深度的发展4.卷积神经网络的三大核心思想4.1.局部感知4.2.权值共享4.3.下采样技术5.可视化手写字体的网络特征5.1.LeNet5的训练5.2.可视化特征向量5.3.获取最好的保存的模型...
2019-06-01 19:45:08
1663
3
原创 统计学习方法学习笔记5—— 逻辑斯谛回归与最大熵模型
目录1.概述2.逻辑斯谛回归模型2.1.逻辑斯谛分布2.2.1.二线逻辑斯谛回归模型的条件概率分布2.3.多项逻辑斯谛回归2.3.1.多项逻辑斯谛回归模型2.3.2.二元推广2.4.对数线性模型2.5.模型参数估计3.最大熵模型3.1.信息论相关的概念3.1.1.信息量3.1.2.信息和概率的关系3.1.3.概率3.1.4.熵3.1....
2019-06-01 11:12:00
334
原创 统计学习方法学习笔记4——决策树模型
目录1.概述2.决策树的优缺点：2.1.决策树的优点：2.2.决策树的缺点：3.决策树算法模型3.1.特征选择的准则3.2.树的生成3.3.树的剪枝4.决策树在sklearn中的类4.1.分类4.2.回归5.书本案例sklearn实现1.概述决策树是一种用来分类和回归的无参监督学习方法，其目的是创建一种模型从数据特征中简单的决策规则来预测一个...
2019-05-30 20:46:21
434
原创 统计学习方法学习笔记3——朴素贝叶斯模型
朴素贝叶斯属于：概率模型、参数化模型、和生成模型目录1.朴素贝叶斯基本方法2.后验概率最大化的含义3.朴素贝叶斯算法：朴素贝叶斯python实现4.1：朴素贝叶斯sklearn实现作业4.1贝叶斯的优缺点：1.朴素贝叶斯基本方法2.后验概率最大化的含义3.朴素贝叶斯算法：朴素贝叶斯python实现4.1：class Navie_...
2019-05-27 21:12:47
279
原创 统计学习方法学习笔记2——KNN
K 近邻算法：输入：训练数据集 T = {(x1,y1), (x2,y2),...,(xn,yn)} 其中，xi为属于R的实例特征向量，yi是属于{c1,c2,...,ck}的实例类别实例特征向量为xi。 输出：实例 x 所属的类 y。 步骤： 1.根据给定的距离度量，在训练集 T 中找出与 x 最近邻的 k 个点，涵盖这 k 个点的 x 的领域记作 Nk(x); 2....
2019-05-25 10:54:24
244
原创 统计学习方法学习笔记1——感知机模型
1.感知机学习算法的原始形式输入：训练数据集T={(x1,y1),(x2,y2),...,(xn,yn)},其中xi属于R，yi属于{+1,-1},i=1,2,...,n;学习率h(0<h=<1) 输出：w,b;感知机模型f(x)=sign(w*x+b) 1、选取初值w0，b0; 2、在训练数据集中选取数据(xi,yi)： 3、如果yi(w*xi+b)<=0...
2019-05-25 10:47:02
329
原创 自动驾驶项目——方向盘角度和油门预测
自动驾驶项目——方向盘角度和油门预测1、数据生成数据来源是unity公司的模拟器。2、数据增强由于数据的不均匀性，有的角度多半是0，因此对数据进行删除操作，同时应用数据增强，水平翻转，图像剪切，亮度调整以及随机打乱顺序。数据增强的代码：def horizontal_flip(img, degree): ''' 按照50%的概率水平翻转图像 img:...
2019-05-24 10:17:03
1660
4
原创 Tensorflow实现性别年龄检测项目——TFRecords文件的读取与训练
1、TFReords文件的读取代码论文中对训练集合的图像进行了随机裁剪、亮度变化、以及对比度随机调整，同时也对数据进行了规范化处理，这样的预处理都增加了模型的鲁棒性，更加切合实际情况。设备配置：显卡为GTX1050Ti，Anaconda3.5+python3.6.5+Tensorflow-gpu1.8.01.1、预处理图像的代码：# 对训练/验证的图片进行处理——修剪、dtype...
2019-03-18 21:28:06
961
原创 Tensorflow实现性别年龄检测项目前奏——数据预处理（转换数据集为 TFRecords 格式）
Adience 数据集简介：实例中的数据集为Adience数据集，Adience数据集包含26580张图片，总共含有2284个类，涉及的年龄范围有8个区间（0~2， 4~6， 8~13， 15~20， 25~32， 38~43， 48~53， 60~），并且这个数据集含有噪声、姿势、光照等变化，尽可能真实地去模拟现实生活的情景。Adience数据集的地址为：链接：https://pan.b...
2019-03-16 13:41:06
1173
1
原创 主成分分析的推导——PCA
为什么PCA的提取特征一定是选取最大特征值对应的特征向量呢？下面是个人针对花书得到的忒大证明：参考书目：深度学习[M]. 古德费洛
2019-03-14 15:12:28
229
原创 Tensorflow实现循环神经网络——基于Fashion Mnist数据集
1、循环神经网络简介循环神经网络主要用于自然语言处理（NLP），应用的一种网络模型，它不同与传统的前馈神经网络（FNN），循环神经网络在网络中添加了定性循环，使信号从一个神经元传递到另一个神经元，并不会马上消失，而是继续存活，也因此得到循环神经网络的名称。循环神经网络解决方案为：隐藏层的输入不进包括上一层的输出，还包括上一时刻该隐藏层的输出。理论上，循环神经网络能够包含前面任意多时刻的输出...
2019-03-14 15:07:40
964
原创 Tensorflow实现AlexNet卷积神经网络——Fashion-MNIST数据集分类
论文地址：http://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks.pdfFashion-MNIST数据集下载：https://github.com/zalandoresearch/fashion-mnist/tree/master/data/fashion...
2019-03-11 16:25:18
3796
8
原创 Tensorflow的使用——队列与线程
队列(queue)本身也是图中的一个节点，是一种有状态的节点，其他节点，如入队节点(enqueue)和出队节点(dequeue)，可以修改它的内容。 入队节点可以把元素加到队列的末尾，而出对节点可以把队列中最前面的元素删除。 FIFOQueue 创建一个先入先出队列 import tensorflow as tf# 1.创建一个先入先出的队列，初始化队列插入0.1， 0.2， 0....
2019-03-11 09:38:47
154
原创 Tensorflow的使用——模型的保存与加载
模型的存储和加载训练好一个神经网络后，我们希望能够将其应用在预测数据上。那么，如何把模型存储起来呢？同时，对于一个已经存储起来的模型，在将其应用在预测数据上时又如何加载呢？Tensorflow的API提供了以下两种方式来存储和加载模型（1）生成检查点文件，扩展为一般为.ckpt，通过在tf.train.Saver对象上调用Saver.save()生成。它包含权重和其他在程序中定义的变量...
2019-03-10 20:32:03
221
原创 深度学习小项目——图像风格迁移（基于Tensorflow）
基于神经网络的风格迁移算法 “A Neural Algorithm of Artistic Style” 最早由 Gatys 等人在 2015 年提出，随后发表在 CVPR 2016 上。斯坦福大学的 Justin Johnson（cs231n 课程的主讲人之一）给出了 Torch 实现 neural-style。除此之外，这篇文章的作者另外还建立了一个在线艺术风格迁移的网站，deepart.io...
2019-02-21 22:16:51
5277
11
原创 深度学习小项目——WordCloud
简介： 词云，又称文字云，是文本数据的视觉表示，由词汇组成类似云的彩色图形，用于展示大量文本数据。通常用于描述网站上的关键字元数据（标签），或可视化自由格式文本。 每个词的重要性以字体大小或颜色显示。 词云的作用：快速感知最突出的文字 快速定位按字母顺序排列的文字中相对突出的部分词云的本质是点图，是在相应坐标点绘制具有特定样式的文字的结果依赖：因为用python画...
2019-02-17 23:38:42
646
原创 机器学习算法（4）——SVM算法（SMO 算法的推导与实现）
目录 1.简介2.分类2.1、线性可分支持向量机（也称为硬间隔支持向量机）2.2、线性支持向量机（也称为软间隔支持向量机）2.3、非线性支持向量机2.4、函数间隔与几何间隔2.4.1、函数间隔2.4.2、几何间隔2.4.3、函数间隔与几何间隔的关系2.5、几类支持向量机的算法2.5.1、线性可分支持向量机学习算法——最大间隔法2.5.2、线...
2019-01-16 20:38:00
1268
原创 机器学习算法（3）——FM(Factorization Machine)算法（推导与实现）
1、前言由于逻辑回归只能处理线性可分的模型或者数据集，又由于现实生活中的分类问题是多种多样的，存在大量的非线性可分的分类问题，为了能够满足要求，对逻辑回归（Logistic Regression）进行了如下的优化：（1）、对特征进行处理： 如：核函数的方法，将非线性可分的问题转换成近似线性可分的问题；（2）、对逻辑回归（Logistic Regression...
2019-01-11 19:06:18
7875
12
原创 机器学习算法（2）—— Softmax Regression
1、前言由于逻辑回归算法复杂度低、容易实现的特点，在工业界得到广泛的应用。如计算广告中的点击率预估等。但是逻辑回归主要用于二分类问题，若需要处理的是多分类问题，如手写数字识别这一类的多分类问题，此时可能需要的是能够处理多分类问题的算法。2、Softmax Regression算法模型2.1、Softmax Regression 概率模型假设有 m 个训练样本: ...
2019-01-10 21:43:04
536
原创 机器学习算法（1）——Logistic Regression
1、二项逻辑回归模型二项回归模型是一种二分类模型，由条件概率分布 P(Y|X) 表示，形式为参数化的逻辑分布。这里的随机变量 X 取值为实数，随机变量 Y 取值为 1或0 ，通过监督学习的方法来估计模型参数。定义1：二项逻辑回归模型是如下的条件概率分布： 这里x为输入，y为{0，1}输出，w为权值参数向量，b为偏置向量，wx为w和x的内积。...
2019-01-09 21:39:07
796
原创 3、机器学习基础知识——矩阵求导相关知识
1、标量关于标量 x 的求导： 2、向量关于标量 x 的求导：定义向量 Y： 向量 Y 关于标量 x 的导数就是 Y 的每个元素分别对 x 进行求导，于是可以得到： 此时，导数是 Y 向量的正切向量。2、矩阵 Y 关于标量 x 的求导：矩阵对标量的求导类似于向量关于标量的求导，也就是矩阵的每个元素分别对标量 x ...
2019-01-07 16:38:29
204
原创 2、机器学习基础知识——范数
范数范数（Norm）是数学中的一种基本概念，在泛函分析中，范数是一种定义在赋范线性空间中的函数，满足相应条件后的函数都可以被称为范数，其中包括向量范数和矩阵范数。1、向量范数在泛函分析中，向量范数是衡量向量大小的一种度量方式。在形式上，向量范数是一个定义域为任何线性空间向量的函数，它把一个向量 X 映射为一个非负实数值R，即满足f：V —> R。从几何角度来说，向量 X 的...
2019-01-03 21:27:07
1833
原创 1、机器学习基础知识——信息论相关
1、随机变量的熵：对于离散随机变量服从，其概率为，其熵定义为Entropy(x): 1注： （1）、熵用来表达所有信息量的期望； （2）、信息熵越大，包含的信息就越多，那么随机变量的不确定性就越大。2、连续变量的熵：对于连续变量x服从P(x)概率分布，其熵定义为Entropy(x)： 3、随机变量的相对熵...
2019-01-02 21:25:42
473
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人