自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(162)
  • 收藏
  • 关注

原创 FasterRCNN代码解读

之前的文章简要介绍了Faster-RCNN等物体检测的算法,本文将从代码角度详细分析介绍Faster-RCNN的实现。本文使用的代码参考了chenyuntc的实现,代码的位置看这里。需要注意的是,本文使用的框架是Pytorch。

2018-01-24 22:34:39 13556 3

原创 物体检测之从RCNN到Faster RCNN

本文将简要介绍物体检测的two stage的相关算法,two stage包括:region proposals、classification。介绍的相关算法有:RCNN、Fast RCNN、Faster RCNN。

2017-12-22 15:33:04 1149

原创 粒子滤波简介

粒子滤波基于蒙特卡洛方法,用后验概率中随机抽取的粒子集对目标概率密度函数进行近似。本文将简要介绍如何用粒子滤波进行定位并附上相关代码实例。

2017-11-27 21:41:44 6065

原创 无人驾驶定位与贝叶斯滤波

无人驾驶需要精确的定位。本文将简要介绍无人驾驶定位的相关方法,重点介绍贝叶斯滤波框架进行递归的状态估计。同时附上一维马尔科夫定位的实例及代码。

2017-11-27 14:17:20 3952 1

原创 无损卡尔曼滤波UKF与多传感器融合

非线性系统状态估计是一大难点。KF(Kalman Filter)只适用于线性系统。EKF(Extended Kalman Filter)利用泰勒展开将非线性系统线性化。可是,EKF在强非线性系统下的误差很大。本文将介绍一种新型的滤波算法UKF(Unscented Kalman Filter),其计算精度相比EKF更高并省略了Jacobian矩阵的计算。

2017-11-16 17:01:22 14704 8

原创 扩展卡尔曼滤波EKF与多传感器融合

Extended Kalman Filter(扩展卡尔曼滤波)是卡尔曼滤波的非线性版本。在状态转移方程确定的情况下,EKF已经成为了非线性系统状态估计的事实标准。本文将简要介绍EKF,并介绍其在无人驾驶多传感器融合上的应用。

2017-11-07 17:49:10 54537 46

原创 卡尔曼滤波简介

卡尔曼滤波是一种在不确定状况下组合多源信息得到所需状态最优估计的一种方法。本文将简要介绍卡尔曼滤波的原理及推导。

2017-11-06 16:32:03 13361 7

原创 构建聊天机器人:检索、seq2seq、RL、SeqGAN

本文将简要介绍聊天机器人的四种构建方法:检索、seq2seq、Reinforcement Learning、seqGAN。聊天机器人的现状

2017-08-01 23:07:51 4444 1

原创 无人驾驶之车道线检测简易版

无人驾驶技术近些年发展迅速。无人车若想实现自动驾驶,从视觉的角度上讲其要先学会观察道路,具体来说,就是检测车道线。包括识别车道线与车的位置关系,是实线还是虚线等。本文将简单介绍车道线检测的基本技术,包括Canny Edges、Hough Transform等。

2017-07-16 00:02:49 19971 5

原创 机器翻译之Facebook的CNN与Google的Attention

机器翻译的常用架构是seq2seq,可是seq2seq中的核心模型RNN是序列模型,后面的计算依赖于前面的计算,如何并行提高效率很是苦恼。最近,Facebook和Google的研究人员分别尝试用CNN与Attention代替seq2seq进行机器翻译,提高了训练效率,结构与思想也很予人启迪。

2017-07-03 16:24:00 8645 1

原创 强化学习之Q-learning简介

强化学习在alphago中大放异彩,本文将简要介绍强化学习的一种q-learning。先从最简单的q-table下手,然后针对state过多的问题引入q-network,最后通过两个例子加深对q-learning的理解。

2017-06-20 19:46:16 59708 3

原创 基于RNN的语言模型与机器翻译NMT

以RNN为代表的语言模型在机器翻译领域已经达到了`State of Art`的效果,本文将简要介绍语言模型、机器翻译,基于RNN的seq2seq架构及优化方法。

2017-06-18 20:23:39 8388 6

原创 风格转换简介

风格转换,是把一张图片转化成同内容但包含某风格的新图片。本文将介绍如何让机器学习风格转换,包含两种方法:优化问题求解、转化网络求解。

2017-05-26 00:03:21 2659 1

原创 神经网络优化算法综述

神经网络的训练有不同算法,本文将简要介绍常见的训练算法:adagrad、momentum、nag、rmsprop。同时简要介绍如何进行算法检查。

2017-05-23 00:15:10 8582

原创 GAN的统一架构与WGAN

GAN是让机器自动生成$P_G$去接近$P_{data}$。算法的关键是衡量分布$P_G,P_{data}$的差异,不同的衡量办法得到的$V(G,D)$不同,但是所有的衡量方法都可以归纳到一个统一的框架中:利用`f-divergence`衡量两个分布差异,利用`Fenchel Conjugate`将两个分布差异的问题转化到GAN的大框架中。 而近段异常流行的WGAN,便是将两个分布的差异用`Earch Mover

2017-05-22 20:56:03 5759

原创 生成对抗网络GAN

GAN属于生成模型,使用生成数据分布$P_{G}$去无限逼近数据的真实分布$P_{data}$。衡量两个数据分布的差异有多种度量,例如KL散度等,但是前提是得知道$P_{G}$。GAN利用discriminator巧妙地衡量了$P_{G},P_{data}$的差异性,利用discriminator和generator的不断竞争(minmax)得到了好的generator去生成数据分布$P_{G}$。

2017-05-18 17:25:08 1975

原创 记忆网络RNN、LSTM与GRU

一般的神经网络输入和输出的维度大小都是固定的,针对序列类型(尤其是变长的序列)的输入或输出数据束手无策。RNN通过采用具有记忆的隐含层单元解决了序列数据的训练问题。LSTM、GRU属于RNN的改进,解决了RNN中梯度消失爆炸的问题,属于序列数据训练的常用方案。

2017-05-09 20:40:50 2297

原创 无监督学习之RBM和AutoEncoder

有标签的数据固然好,可是一方面打标签的代价太高,另一方面大部分数据是无标签的。这样就涉及到无监督、半监督、Self-taught学习的问题。本文将介绍两种适用于无标签数据的学习方法,可以找到数据中的隐含模式,包括`RBM`和`AutoEncoder`。

2017-04-19 16:13:56 12493 1

原创 从马尔科夫链到吉布斯采样与PageRank

马尔科夫链表示state的链式关系,下一个state只跟上一个state有关。 吉布斯采样通过采样条件概率分布得到的样本点,近似估计概率分布P(z)P(z)。PageRank通过节点间的连接,估计节点的重要程度rr。吉布斯采样中,state代表不同的样本点,state的分布就是P(z)P(z)。PageRank中,state代表不同节点的分数,state的分布就是要求的rr。不论吉布斯采样还是Pa

2017-04-14 15:02:58 2133

原创 信息论中的各种熵

本文简单介绍了信息论中的各种熵,包括自信息、熵;联合熵、条件熵、互信息;KL散度、交叉熵。并在最后用信息论中的交叉熵推导了逻辑回归,得到了和最大似然法相同的结果。

2017-04-09 08:30:55 5593

原创 词向量综述

词向量综述

2017-03-30 09:20:21 3437

原创 KD树和LSH局部敏感哈希

KD树和LSH

2017-03-09 09:09:49 1548

原创 聚类算法简述

本文简要介绍`K-MEANS`、高斯混合模型`GMM`、主题模型`LDA`三种聚类方法。

2017-03-07 22:22:47 1870

原创 推荐算法简述

推荐算法分类非个性化推荐热门榜单最多观看热点检测:让全局优秀内容被大家看到数据:一段时间内的浏览量、点赞量、评论数、转发数时效:推荐需要考虑时间维度。因为有些内容已经热了很久了,可能因为马太效应(强者越强、弱者越弱),放到热门栏目继续推荐继续热不是我们先要的,所以要增加时间惩罚因子。新内容的发现:建立预测模型,通过内容的历史数据,预测未来的内容热度。个性化推荐基于内容的推荐算法原理:根

2017-03-02 21:34:39 1137

原创 贝叶斯方法与正则项

从贝叶斯角度,正则项等价于引入参数$w$的先验概率分布。常见的L1/L2正则,分别等价于引入先验信息:参数$w$符合均值为0的拉普拉斯分布/高斯分布。

2017-02-27 19:42:48 1222

原创 机器学习的损失函数

机器学习的数学本质上是优化问题的求解,求解优化问题首先得构造相应优化问题的损失函数,本文将简要介绍squared loss、cross entropy、hinge loss、exponential loss损失函数。

2017-02-27 11:10:55 2660

原创 机器学习算法与技术简介

机器学习算法简介

2017-02-26 20:43:09 993

原创 机器学习算法调优

机器学习算法众多,各种算法又涉及较多参数,本文将简要介绍RF,GBDT等算法的调优经验与步骤。

2017-02-24 11:19:25 3053

原创 机器为什么可以学习

机器学习、人工智能炙手可热,但是机器到底为什么可以学习呢?本文将从霍夫丁不等式讲到VC维,探究机器学习的原因所在。

2017-02-21 16:02:43 1883 1

原创 判别模型和生成模型

监督学习方法分为生成方法和判别方法,学习到的模型分为生成模型和判别模型。

2017-02-14 21:08:26 486

原创 【优化3】非线性优化

非线性优化

2016-11-14 19:28:33 945

原创 【优化2】整数优化

本文简要阐述了整数优化,包括整数优化相比线性优化的优劣、如何构建整数优化问题,然后举了整数优化的例子,并附上参考代码。

2016-11-14 19:14:04 4551

原创 【优化1】线性优化

本文简要介绍了线性优化,包括编程软件Julia、JuMP,以及如何将非线性约束线性化,最后附带两个编程例子供大家学习。

2016-11-14 14:49:50 3098

原创 曲线拟合的几种解释

曲线拟合是一个经典的问题,将其数学化后是:已知训练数据x\bf{x}和对应的目标值t\bf{t}。通过构建参数为w\bf{w}的模型,当新的xx出现,对应的tt是多少。本文将从误差和概率的角度探讨如何解决曲线拟合的问题,具体地,将阐述以下概念:误差函数正则化最大似然估计(MLE)最大后验估计(MAP)

2016-10-28 16:41:33 4639

原创 R包简单教程

R包

2016-09-29 13:16:33 10139 1

原创 坦克问题的频率及贝叶斯解释

在统计学理论的估计中,用不放回抽样来估计离散型均匀分布最大值问题在英语世界中是著名的德国坦克问题(German tank problem),它因在第二次世界大战中用于估计德国坦克数量而得名。本文将从频率以及贝叶斯的角度探索坦克问题。

2016-09-19 17:17:34 3139 1

原创 资本配置与资本定价

资本配置与资本定价

2016-09-13 17:18:41 2025

原创 CDO/CDS与次贷危机

本文简要介绍了次贷危机是如何产生的,以及CDO/CDS是如何对次贷危机产生推波助澜的作用。

2016-09-01 21:35:47 26110

原创 售电模拟应用简介

售电模拟,纸上得来终觉浅,绝知此事要躬行。 本文附上了售电模拟应用介绍及其核心算法,供大家共同学习。

2016-08-29 20:47:35 1175

原创 电力竞价(广东规则)详解与代码

电力改革如火如荼,针对电力交易的广东规则,本文进行了详细地阐述并附上了代码与实例,供大家一起交流学习。

2016-08-26 10:25:54 6198 2

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除