- 博客(21)
- 收藏
- 关注
转载 无偏估计
无偏估计:估计量的均值等于真实值,即具体每一次估计值可能大于真实值,也可能小于真实值,而不能总是大于或小于真实值(这就产生了系统误差)。估计量评价的标准:(1)无偏性 如上述(2)有效性 有效性是指估计量与总体参数的离散程度。如果两个估计量都是无偏的,那么离散程度较小的估计量相对而言是较为有效的。即虽然每次估计都会大于或小于真实值,但是偏离的程度都更小的估计更优。(3)一致性 又称...
2019-01-22 15:03:24 4667
转载 关于LSTM
https://www.cnblogs.com/hellcat/p/7182541.html?utm_source=itdadao&utm_medium=referral
2018-08-16 17:15:23 182
转载 PCA的数学原理
PCA的数学原理2017-01-22 算法与数学之美PCA的数学原理PCA(Principal Component Analysis)是一种常用的数据分析方法。PCA通过线性变换将原始数据变换为一组各维度线性无关的表示,可用于提取数据的主要特征分量,常用于高维数据的降维。网上关于PCA的文章有很多,但是大多数只描述了PCA的分析过程,而没有讲述其中的原理。这篇文章的目的是介绍PCA的基本数学原理,...
2018-05-07 01:28:43 292
转载 BPTT深度理解
本博客适合那些BP网络很熟悉的读者一 基本结构和前向传播符号解释:1. cltctl:t时刻第l层的神经元的集合,因为cltctl表示的是一层隐藏层,所以图中一个圆圈表示多个神经元。2. hlthtl:第l层在t时刻的输出。因为hlthtl是一层隐藏层的输出,所以表示的是一个向量。3. LjLj:表示的是在j时刻,网络的输出的值和目标输出值的平方差,L表示的是所有时刻的平方差的和。4. WvWv:...
2018-04-27 21:07:36 7857 1
转载 从boost到Adaboost再到GBRT-GBDT-MART
先弄明白以下三个公式:1)Boost(提升法)=加法模型(即基函数的线性组合)+前向分步算法+损失函数2)Adaboost=Boost+损失函数是指数函数(基函数可以任意)3)提升树=Boost+基函数是决策树(损失函数可以任意) 由此可以看出:1)Boost是一种算法框架,而这种框架是由加法模型和前向分步算法构成的。2)Adaboost和提升树都是Boost的子集,都是由限定了Boost中某一部...
2018-04-15 16:53:38 226
转载 Bagging和Boosting 概念及区别
Bagging和Boosting都是将已有的分类或回归算法通过一定方式组合起来,形成一个性能更加强大的分类器,更准确的说这是一种分类算法的组装方法。即将弱分类器组装成强分类器的方法。首先介绍Bootstraping,即自助法:它是一种有放回的抽样方法(可能抽到重复的样本)。1、Bagging (bootstrap aggregating)Bagging即套袋法,其算法过程如下:A)从原始样本集中抽...
2018-04-08 00:30:13 127
转载 生成模型与判别模型
我是这样理解的:生成模型,就是生成(数据的分布)的模型;判别模型,就是判别(数据输出量)的模型;更进一步:从结果角度,两种模型都能给你 输出量(label 或 y etc.)。但,生成模型的处理过程会告诉你关于数据的一些统计信息(p(x|y) 分布 etc.),更接近于统计学;而 判别模型则是通过一系列处理得到结果,这个结果可能是概率的或不是,这个并不改变他是不是判别的。如,决策树的if then...
2018-03-29 21:32:37 138
转载 如何理解TensorFlow中的batch和minibatch
hp.stuhome.net/index.php/2016/09/20/tensorflow_batch_minibatch/
2018-03-15 22:15:47 779
转载 关于内积
1、内积(inner product),又称数量积(scalar product)、点积(dot product)是一种向量运算,但其结果为某一数值,并非向量。http://baike.baidu.com/view/22008.htm2、其物理意义是质点在F的作用下产生位移S,力F所做的功,W=|F||S|cosθ3、在数学里面,内积空间就是增添了一个额外的结构的向量空间。这个额外的结构叫做内积,...
2018-02-25 15:08:42 11323
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人