- 博客(43)
- 收藏
- 关注
RSS订阅转载 MSRA初始化
方法同样来自于何凯明paper 《Delving Deep into Rectifiers:Surpassing Human-Level Performance on ImageNet Classification》.MotivationMSRA初始化推导证明补充说明Motivation网络初始化是一件很重要的事情。但是，传统的固定方差的高斯分布初始化，在网络变深的时候使得模型很难收...
2019-01-03 09:15:55
510
转载 网络参数初始化Xavier与MSRA
权值初始化的方法主要有：常量初始化（constant）、高斯分布初始化（gaussian）、positive_unitball初始化、均匀分布初始化（uniform）、xavier初始化、msra初始化、双线性初始化（bilinear）。可参考博客。重点介绍xavier与msra。xavier初始化 对于权值的分布：均值为0，方差为（1 / 输入的个数） 的 均匀分布。推导...
2019-01-03 09:10:27
426
原创 Linux查看配置信息
CPU1. lscpu：显示cpu架信息[xxx@localhost ~]$ lscpuArchitecture: x86_64CPU op-mode(s): 32-bit, 64-bitByte Order: Little EndianCPU(s): 4 #总处理器核心数量O...
2018-12-28 10:52:41
190
原创 python 运行报错
python [Errno 13] Permission denied”sudo chown -R 'whoami' /usr/local/lib/python2.7
2018-12-20 11:02:00
314
原创 VS2015+opencv配置
debug模式注意选择d的库环境变量注意要加：D:\Program Files\opencv\build\x64\vc14\bin
2018-12-12 21:25:42
173
原创 服务器识别不了移动硬盘
Windows只识别NTFS格式一类Linux主要是ext一类U盘与移动硬盘格式化FAT32的话，一般两边都能识别出来如果移动硬盘在window上识别出来在linux上识别不出来，一般就是NTFS格式识别不出来，需要sudo apt-get install cifs-utils ...
2018-11-08 16:17:45
2466
转载 Linux SSH远程文件与文件夹
1.获取远程sever上的文件scp -P 22 [email protected]:/root/lnmp0.4.tar.gz /home/lnmp0.4.tar.gzport大写P 为參数，22 表示更改SSHport后的port；假设没有更改SSHport能够不用加入该參数；[email protected] 表示使用root用户登录远程serverwww.vpser.ne...
2018-11-07 21:44:36
2974
转载 Ping实用技巧
ping是每个人学习都必须接触到的命令，可是ping在多少人手中只是检测对方是否在线的工具，却并不知道ping的许多其他用途。ping是电脑系统自带的一个可执行命令，可以用来检测网络是否通畅和网速的快慢，是必须学习而且掌握的一个命令。以前危险漫步的博客里多少会有提到，今天再给大家单独列出来讲一讲。ping的原理非常简单，利用本机向目标主机发送一个数据包，之后要求目标主机回复一个同样大小的数...
2018-11-05 20:01:35
252
转载 jupyter notebook 配置远程服务
1. 生成一个 notebook 配置文件jupyter notebook --generate-config注意：如果是 root 用户 jupyter notebook --generate-config --allow-config执行成功后，会出现下面的信息：Writing default config to: /root/.jupyter/jupyter_notebook_c...
2018-10-26 21:52:00
161
原创 ssh多用户使用
#添加用户（sbj）$sudo adduser sbj#使用户具有远程访问的能力 AllowUsers master@ip 用户1 [空格]用户2[空格]$sudo vim /etc/ssh/sshd_config AllowUsers [email protected] zyp jzn hy sbj$ls -ld /home/ sbj使自己目录不可见$sudo...
2018-10-17 22:10:04
1530
转载 YOLO小结
1.Object Localization前两节课程中，我们介绍的是利用CNN模型进行图像分类。除此之外，本周课程将继续深入介绍目标定位和目标检测（包含多目标检测）。标准的CNN分类模型我们已经很熟悉了，如下所示：原始图片经过CONV卷积层后，Softmax层输出4 x 1向量，分别是：注意，class label也可能是概率。上述四个向量分别对应pedestrain，...
2018-09-25 10:35:53
691
转载 交叉验证
本文结构：什么是交叉验证法？ 为什么用交叉验证法？ 主要有哪些方法？优缺点？ 各方法应用举例？什么是交叉验证法？它的基本思想就是将原始数据（dataset）进行分组，一部分做为训练集来训练模型，另一部分做为测试集来评价模型。为什么用交叉验证法？交叉验证用于评估模型的预测性能，尤其是训练好的模型在新数据上的表现，可以在一定程度上减小过拟合。 还可以从有限的数据中获取尽可能多...
2018-09-11 15:44:59
526
转载 DTW简介
dtw算法主要针对序列匹配提出的，尤其是当序列出现一定的飘移，欧氏距离度量就会失效。dtw常用在语音匹配当中，在图像处理里面也有一定的应用。 现在有两个序列X,Y. X=[2,3,4,7,9,2,1,2,1],Y=[1,1,1,1,2,3,3,4,7,8,9,1,1,1,1] 绘制在坐标轴上如下图 我们可以看到，两个序列的欧氏距离很大，因为两个序列存在横轴上的飘移。dtw算法就是为了解决...
2018-09-11 14:48:46
19763
2
转载 如何选择回归损失函数
无论在机器学习还是深度领域中,损失函数都是一个非常重要的知识点。损失函数（Loss Function）是用来估量模型的预测值 f(x) 与真实值 y 的不一致程度。我们的目标就是最小化损失函数，让 f(x) 与 y 尽量接近。通常可以使用梯度下降算法寻找函数最小值。损失函数有许多不同的类型，没有哪种损失函数适合所有的问题，需根据具体模型和问题进行选择。一般来说，损失函数大致可以分成两类：回归（...
2018-09-07 10:21:13
3764
转载 C++ map
Map是STL的一个关联容器，它提供一对一（其中第一个可以称为关键字，每个关键字只能在map中出现一次，第二个可能称为该关键字的值）的数据 处理能力，由于这个特性，它完成有可能在我们处理一对一数据的时候，在编程上提供快速通道。这里说下map内部数据的组织，map内部自建一颗红黑树(一 种非严格意义上的平衡二叉树)，这颗树具有对数据自动排序的功能，所以在map内部所有的数据都是有序的，后边我们会见识...
2018-09-06 17:19:57
91
原创 C++ set
C++ vector封装数组，list封装了链表，map和set封装了二叉树，红黑树multiset与set相似，只是可以插入的元素相同#include<iostream>#include<set>using namespace std;int main(){ int b[5] = { 1,1,2,1 },d; multiset<int...
2018-09-06 16:10:05
184
转载 随机数生成
由rand5生成rand7:int Rand7(){ int x = ~(1<<31); // max int while(x > 21) x = 5 * (Rand5() - 1) + Rand5() // Rand25 return x%7 + 1;}由rand5生成rang8int Rand8(){ int ...
2018-09-05 15:57:09
275
转载 机器学习入门：特征初期处理技巧
所谓特征工程，指的就是从数据中抽取包含大量信息的特征，方便模型易于学习的过程。所有的模型都是错误的，但其中有些是有用的。下面介绍几个优秀的数据特征处理技巧：1.数据转换为图像实例1：用数据集预测电力消耗热图的纵坐标DOW表示一周7天，横坐标则是一天24小时。很明显，周末整天的用电情况和工作日深夜的用电情况十分类似。由此，创建了一个特征——weekend proximity，...
2018-09-05 15:55:24
1061
原创 机器学习小结一
谷歌的自动驾驶汽车和机器人研发之路受到很多阻碍，但该公司真正的未来是机器学习，这种技术使计算机变得更加智能和个性化。 – Eric ...
2018-09-03 14:37:00
584
原创 二分查找经典题
有序数组的二分查找：非递归形式int BinSeach(int a[], int n, int values){ int index = -1; int start = 0; int finish = n - 1; int middle; while (start <= finish) { middle = (star...
2018-09-03 11:10:23
1258
转载 机器学习常用方法总结
决策树一、 决策树优点1、决策树易于理解和解释，可以可视化分析，容易提取出规则。2、可以同时处理标称型和数值型数据。3、测试数据集时，运行速度比较快。4、决策树可以很好的扩展到大型数据库中，同时它的大小独立于数据库大小。二、决策树缺点1、对缺失数据处理比较困难。2、容易出现过拟合问题。3、忽略数据集中属性的相互关联。4、ID3算法计算信息增益时结果偏向数值...
2018-09-01 14:50:03
611
转载 坐标下降
给定一个可微的凸函数，如果在某一点x，使得f(x)在每一个坐标轴上都是最小值，那么f(x)是一个全局的最小值。如果f(x)不可微，则不满足。同理：对所有的，其中g是可微的凸函数，每一个hi都是凸的，我们可以使用坐标下降寻求一个最小值。一 综述坐标下降法属于一种非梯度优化的方法，它在每步迭代中沿一个坐标的方向进行搜索，通过循环使用不同的坐标方法来达到目标函数的局部极小值。二 算法过程...
2018-08-30 16:30:54
503
转载 SVM对偶问题
一.关于优化问题的最基本的介绍 #优化问题这里面有很多东西，我先给出参考过的资料有，可以先看看这些资料自己总结一下，因为我觉得这部分内容很多人总结的都很好了：①《支持向量机导论》的第五章最优化理论②刚买的《统计学习方法》中的相关附录，不得不说这本书真的很棒③《An Introduction to Optimization》这本书专门讲最优化的，如果要系统理解我觉得可以看看，但我只看...
2018-08-30 15:35:22
924
原创 决策树考点
1.随机森林随机选特征的作用RF的话，如果有一个特征和标签特别强相关。选择划分特征时，如果不随机的从所用特征中随机取一些特征的话，那么每一次那个强相关特征都会被选取。那么每个树都会是一样的。这就是随机森林随机选取一些特征的作用，让某些树，不选这个强相关特征。2.Bagging 意义bootstrap aggregating 自举汇聚法模型很好，variable很大。3.GBDT...
2018-08-26 17:13:06
169
原创 过拟合问题
过拟合：在训练集表现好，在测试集表现一塌糊涂。常用方法：数据，样本不够，如果现在的训练集只是所有样本空间的一个小小的部分，那么这个模型的泛化能力就非常差（边画图，边说） B 可以加正则项，L1，L2正则。L1还可以用来选择特征。因为L1的话会把某些不重要的特征压缩为0，相当于特征选择。因为（画图）L1约束是正方形的，经验损失最有可能和L1的正方形的顶点相交，L1比较有棱角。所以可以把某些...
2018-08-26 16:59:23
160
原创 深度学习名称注意
1.相似名词：去卷积也是反卷积。 合页损失函数也是hinge loss 也是最大间隔损失函数。2 基础名词 层误差，反向传播的误差
2018-08-24 17:27:25
133
原创 opencv遍历像素的方式
1.使用at<typename>(i,j)Mat类提供了一个at的方法用于取得图像上的点，它是一个模板函数，可以取到任何类型的图像上的点。一般typename用uchar表示灰度，vec3b表示彩色图。2.使用指针来遍历（更高效比第一个）通过image.ptr<uchar>(i)取出第i行的指针值得说明的是：程序中将三通道的数据转换为1通道，在建立在每一...
2018-08-24 17:23:22
2033
转载 梯度下降法描述
梯度下降法是为了找到最优的目标函数，寻找的过程就是沿着损失函数下降的方向来确定参数变化的方向。参数更新的过程就是一个不断迭代的过程，每次更新参数学到的函数都会使得误差损失越来越小，也就是说学习到的参数函数越来越逼近最优函数。参数的更新是按照损失函数的等高线的方向进行的。梯度下降是一阶导数，梯度下降是用平面来逼近局部。 牛顿法是二阶导数，牛顿法是用曲面逼近局部。梯度下...
2018-08-22 10:36:50
611
转载 k-means
kmeans一般在数据分析前期使用，选取适当的k，将数据聚类后，然后研究不同聚类下数据的特点。算法原理：(1) 随机选取k个中心点；(2) 在第j次迭代中，对于每个样本点，选取最近的中心点，归为该类；(3) 更新中心点为每类的均值；(4) j<-j+1 ,重复(2)(3)迭代更新，直至误差小到某个值或者到达一定的迭代步数，误差不变.空间复杂度o(N)时间复杂度o(...
2018-08-22 10:22:54
153
转载 PCA与LDA
注：这里说的LDA实际上讲的是Fisher linear discriminant analysis在machine learning领域，PCA和LDA都可以看成是数据降维的一种方式。但是PCA是unsupervised，也就是说不需要知道sample对应的label，而LDA是supervised，需要知道每一个数据点对应的label。下面分别解释PCA和LDA的基本原理1.PCA...
2018-08-21 19:45:25
416
原创 协同滤波
一、什么是协同过滤:人以类聚，物以群分类似于图像处理中使用超像素信息，协同过滤是利用集体智慧的一个典型方法。推荐系统的首要问题是了解你的用户，然后才能给出更好的推荐。概念：协同过滤一般是在海量的用户中发掘出一小部分和你品位（偏好）比较类似的，在协同过滤中，这些用户成为邻居，然后根据他们喜欢的其他东西组织成一个排序的目录作为推荐给你。核心的问题：如何确定一个用户是不是和你有相似的品位...
2018-08-21 16:09:25
5731
转载 linux 基本操作
一、打开文件vim +#：打开文件，并定位于第#行vim +：打开文件，并定位至最后一行vim +/PATTERN：打开文件，定位至第一次被PATTERN匹配的行的行首 二、关闭文件:q 退出:wq 保存并退出 等于 :x 等于 编辑模式下 zz:q! 不保存强行退出:w 保存:w! 强行保存 三、模式转换编辑模式—>...
2018-08-15 11:06:13
98
转载 计算机基础二
建立TCP需要三次握手才能建立，而断开连接则需要四次挥手。整个过程如下图所示：1. 先来看看如何建立连接的。首先Client端发送连接请求报文(SYN)， Server段接受连接后回复ACK报文，并为这次连接分配资源。[ACK+SYN] Client端接收到ACK报文后也向Server段发生ACK报文，并分配资源，这样TCP连接就建立了。2.那如何断开连接呢？简单的过程如...
2018-08-15 11:02:06
124
原创 计算机基础考的一
析构函数:析构函数名也应与类名相同，只是在函数名前面加一个位取反符~，例如~stud( )，以区别于构造函数。 它不能带任何参数，也没有返回值（包括void类型）。 只能有一个析构函数，不能重载。 如果用户没有编写析构函数，编译系统会自动生成一个缺省的析构函数（即使自定义了析构函数，编译器也总是会为我们合成一个析构函数; 如果自定义了析构函数，编译器在执行时会先调用自定义的析构函数再调用...
2018-08-15 10:44:17
184
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人