Ricardo.M.Jiang-CSDN博客

原创机器学习实战之决策树

你是否玩过二十个问题的游戏,游戏的规则很简单:参与游戏的一方在脑海里想某个事物,其他参与者向他提问题,只允许提20个问题,问题的答案也只能用对或错回答。问问题的人通过推断分解,逐步缩小待猜测事物的范围。决策树的工作原理与20个问题类似,用户输人一系列数据,然后给出游戏的答案。现在我们已经大致了解了决策树可以完成哪些任务,接下来我们将学习如何从一堆原始数据中构造决策树。首先我们讨论构造决策

2017-01-22 20:11:25 3023

原创机器学习实战之K近邻算法

k近邻算法概述简单地说,K近邻算法采用测量不同特征值之间的距离方法进行分类。优点 :精度高、对异常值不敏感、无数据输入假定。缺点:计算复杂度高、空间复杂度高。适用数据范围:数值型和标称型。它的工作原理是:存在一个样本数据集合,也称作训练样本集,并且样本集中每个数据都存在标签,即我们知道样本集中每一数据与所属分类的对应关系。输人没有标签的新数据后,将新数据的每个特征与样本

2017-01-21 20:27:38 2649

原创基于PCA和SVM的人脸识别

svm推广到多类情况一对多的最大响应策略(one against all) 假设有A 、B、C.. D四类样本需要划分。在抽取训练集的时候，分别按照如下4种方式划分。 A. 所对应的样本特征向量作为正集（类标签为+1), B、C、D所对应的样本特征向量作为负集（类标签为-1). B所对应的样本特征向量作为正集，A. C. D所对应的样本特征向量作为负集 C所

2017-01-07 20:39:51 19764 10

原创图像识别初步

本文主要包括以下内容模式与模式识别的基本概念过度拟合最小距离分类器基于相关的模板匹配本章的典型案例分析基于最小距离分类器的鸾尾属植物分类基于相关技术的图像模式匹配模式识别概述模式识别(Pattern Recognition)是人类的一项基本智能，在日常生活中，人们经常在进行“模式识别”。随着20世纪40年代计算机的出现以及50年代人工智能的兴起，人们当然也希望能用计

2017-01-05 22:26:07 14626 4

原创图像特征提取

从本节开始，我们将逐步从数字图像处理向图像识别过渡。严格地说，图像特征提取属于图像分析的范畴，是数字图像处理的高级阶段，同时也是图像识别的开始。本文主要包括以下内容常用的基本统计特征，如周长、面积、均值等区域描绘子，以及直方图和灰度共现矩阵等纹理描绘子主成份分析(PCA, PrincipaJ Component Analysis)局部二进制模式(LBP, LocaJ

2017-01-03 16:38:12 162847 16

原创基于PCA的人脸特征抽取

我们将应用PCA技术来抽取人脸特征。一幅人脸照片往往由比较多的像素构成，如果以每个像素作为1维特征，将得到一个维数非常高的特征向量，计算将十分困难；而且这些像素之间通常具有相关性。这样，利用PCA技术在降低维数的同时在一定程度上去除原始特征各维之间的相关性自然成为了一个比较理想的方案。数据集简介本案例采用的数据集来自著名的ORL人脸库。首先对该人脸库做一个简单的介绍： ORL数

2017-01-03 15:11:51 21567 9

原创阈值分割与区域分割

本文主要包括以下内容阈值分割技术基于区域的图像分割技术本章的典型案例基于LoG和Canny算子的精确边缘检测基于Hough变换的直线检测图像的四叉树分解阈值分割我们曾在3.5节学习过灰度阈值变换的相关知识，利用灰度阈值变换分割图像就称为阈值分割，它是一种基本的图像分割方法。阙值分割的基本思想是确定一个阈值，然后把每个像素点的灰度值和阈值相比较，根据比较的结果把该像素

2017-01-02 13:22:51 38711 1

原创图像分割

图像分割是指将图像中具有特殊意义的不同区域划分开来，这些区域互不相交，每个区域满足灰度、纹理、彩色等特征的某种相似性准则。图像分割是图像分析过程中最重要的步骤之一，分割出的区域可以作为后续特征提取的目标对象。本文主要包括以下内容基于梯度的Sobel、Prewitt和Roberts算子的边缘检测LoG边缘检测算法Canny边缘检测算法Hough变换和直线检测阙值分割技术基于区域的

2017-01-01 21:04:22 15476

原创形态学图像处理(二)

本文主要包括以下内容二值形态学的经典应用，细化和像素化，以及凸壳灰度图像的形态学运算，包括灰度腐蚀、灰度膨胀、灰度开和灰度闭本章的典型案例分析在人脸局部图像中定位嘴的中心显微镜下图像的细菌计数利用顶帽变换（top-hat）技术解决光照不均问题细化算法“骨架”是指一副图像的骨髓部分，它描述物体的几何形状和拓扑结构，是重要的图像描绘子之一，计算骨架的过程一般称为“细化”

2016-12-31 21:38:10 12962 2

形态学，即数学形态学(mathematical Morphology），是图像处理中应用最为广泛的技术之一，主要用于从图像中提取对表达和描绘区域形状有意义的图像分量，使后续的识别工作能够抓住目标对象最为本质〈最具区分能力－most discriminative）的形状特征，如边界和连通区域等。同时像细化、像素化和修剪毛刺等技术也常应用于图像的预处理和后处理中，成为图像增强技术的有力补充。本文主要包括

2016-12-31 16:17:01 65446 4

原创彩色图像处理

彩色基础什么是彩色彩色是物体的一种属性，就像纹理、形状、重量一样．通常，它依赖于3个方面的因素：光源一一照射光的谱性质或谱能量分布．物体－一被照射物体的反射性质．成像接收器（眼睛或成像传感器）一一光谱能量吸收性质其中，光特性是颜色科学的核心。假如光没有颜色（捎色的，如观察者看到的黑白电视的光），那么它的属性仅仅是亮度或者数值。可以用灰度值来描述亮度，光的范围从黑到灰．最后到白

2016-12-28 20:53:43 6996 1

原创频率域波图像增强

本文主要包括以下内容频率域图像增强高通滤波器和低通滤波器本章的典型案例分析利用频域滤波消除周期噪声频域滤波基础频域滤波与空域滤波的关系傅立叶变换可以将图像从空域变换到频域，而傅立叶反变换则可以将图像的频谱逆变换为空域图像，即人可以直接识别的图像。这样一来，我们可以利用空域图像与频谱之间的对应关系，尝试将空域卷积滤波变换为频域滤波，然后再将频域滤波处理后的图像反变换回空间域，

2016-12-27 20:32:27 6762

原创傅立叶变换学习

空间域和频率域为我们提供了不同的视角．在空域中．函数的自变量（x, y）被视为二维空间中的一点，数字图像J(x, y）即为一个定义在二维空间中的矩形区域上的离散函数：换一个角度，如果将j(x, y）视为幅值变化的二维信号，则可以通过某些变换手段（如傅立叶变换、离散余弦变换、沃尔什变换和小波变换等〉在频域下对它进行分析．本文主要包括以下内容傅立叶变换的数学基础快速傅立叶变换

2016-12-25 17:03:44 5917

原创中值滤波与图像锐化

本文主要包括以下内容中值滤波及其改进算法图像锐化，包括梯度算子、拉普拉斯算子、高提升滤波和高斯-拉普拉斯变换本章的典型囊例分析对椒盐噪声的平滑效果比较Laplacian与LoG算子的锐化效果比较中值滤波中值滤波本质上是一种统计排序滤波器．对于原图像中某点（i,j)，中值滤波以该点为中心的邻域内的所有像素的统计排序中值作为（i, j）点的响应．中值不同于均值，

2016-12-24 15:47:39 47811 1

原创空间域图像增强

图像增强是数字图像处理相对简单却最具艺术性的领域之一，增强的目的是消除噪声，显现那些被模糊了的细节或简单突出一幅图像中我们感兴趣的特征。一个简单例子是增强图像的对比度，使其看起来更加一目了然。增强是图像处理中非常主观的领域，它以怎样构成好的增强效果这种人为主观偏好为基础，也正是这一点为其赋予了艺术性。这与图像复原技术刚好相反，图像复原也是改进图像外貌的一个处理领域，但它是客

2016-12-23 21:10:32 15036 1

原创图像的几何变换

包含相同内容的两幅图像可能由于成像角度、透视关系乃至镜头自身原因所造成的几何失真而呈现出截然不同的外观，这就给观测者或是图像识别程序带来了困扰。通过适当的几何变换可以最大程度地消除这些几何失真所产生的负面影响，有利于我们在后续的处理和识别工作中将注意力集中子图像内容本身，更确切地说是图像中的对象，而不是该对象的角度和位置等。因此，几何变换常常作为其他图像处理应用的预处理步骤，是图

2016-12-22 14:38:57 32444 2

原创分段线性变换与直方图修正

本文主要包括以下内容分段线性变换两种实用的直方图修正技术:直方图均衡化和直方图规定化本章的典型案例分析基于直方图均衡化的图像灰度归一化直方图匹配分段线性变换分段线性变换有很多种，包括灰度拉伸、灰度窗口变换等，本节仅讲述最为常用的灰度拉伸．利用分段线性变换函数来增强图像对比度的方法实际是增强原图各部分的反差，即增强输入图像中感兴趣的灰度区域，相对抑制那些不感兴趣的灰度区

2016-12-21 11:17:45 14796 1

原创图像的点运算

对于一个数字图像处理系统来说，一般可以将处理流程分为3个阶段。在获取原始图像后，首先是图像预处理阶段，其次是特征抽取阶段，最后才是识别分析阶段。预处理阶段尤为重要，这个阶段处理不好则直接导致后面的工作无法展开。点运算指的是对图像中的每个像素依次进行同样的灰度变换运算。设r和s分别是输入图像f(x,y）和输出图像g(x,y）在任一点(x，y）的灰度值，则点运算可以使用下式定义

2016-12-20 16:14:32 18442

原创图像处理中的matlab使用

图像的矩阵表示类和图像类型虽然使用的是整数坐标，但 MATLAB 中的像素值（亮度）并未限制为整数。表 1-1 列出了 MATLAB 和图像处理工具箱为描述像素值而支持的各种类。表中的前 8 项是数值型的数据类，第 9 项称为字符类，最后一项称为逻辑类。 uint8 和 logical 类广泛用于图像处理，当以 TIFF 或 JPEG 图像文件格式读取图像时，会用到这两个类

2016-12-20 11:10:24 17763

原创数字图像处理入门

图像是指能在人的视觉系统中产生视觉印象的客观对象，包括自然景物、拍摄到的图片、用数学方法描述的图形.图像的要素有儿何要素〈刻画对象的轮廓、形状等〉和非几何要素（刻画对象的颜色、材质等〉。什么是数字图像简单地说，数字图像就是能够在计算机上显示和处理的图像，根据其特性可分为两大类一一位图和矢量圈。位图通常使用数字阵列来表示，常见格式有BMP、 1町、 GlF等：矢量图由矢量数据库表示，

2016-12-19 21:31:37 12747 4

原创大规模机器学习

如果我们有一个低方差的模型,增加数据集的规模可以帮助你获得更好的结果。我们应该怎样应对一个有 100 万条记录的训练集? 以线性回归模型为例,每一次梯度下降迭代,我们都需要计算训练集的误差的平方和, 如果我们的学习算法需要有 20 次迭代,这便已经是非常大的计算代价。首先应该做的事是去检查一个这么大规模的训练集是否真的必要,也许我们只用 1000 个训练集也能获得较好的效果,我们可以绘制学习

2016-12-18 14:43:29 1004

原创机器学习之推荐系统

我们从一个例子开始定义推荐系统的问题。假使我们是一个电影供应商,我们有 5 部电影和 4 个用户,我们要求用户为电影打分。基于内容的推荐系统在一个基于内容的推荐系统算法中,我们假设对于我们希望推荐的东西有一些数据,这些数据是有关这些东西的特征。在我们的例子中,我们可以假设每部电影都有两个特征,如 x1x_1 代表电影的浪漫程度,x2x_2 代表电影的动作程度。其中 i:

2016-12-17 23:38:04 4710

原创 SVM实现邮件分类

首先学习一下svm分类的使用。主要有以下步骤： Loading and Visualizing DatajTraining Linear SVM Implementing Gaussian KernelTraining SVM with RBF Kernel 选择最优的C, sigma参数画出边界线线性keneral实现 C = 1

2016-12-16 17:20:53 4502 2

原创机器学习之异常检测

问题的动机什么是异常检测呢?为了解释这个概念,让我举一个例子吧: 假想你是一个飞机引擎制造商,当你生产的飞机引擎从生产线上流出时,你需要进行 QA (质量控制测试),而作为这个测试的一部分,你测量了飞机引擎的一些特征变量,比如引擎运转时产生的热量,或者引擎的振动等等。这里的每个点、每个叉,都是你的无标签数据。这样,异常检测问题可以定义如下:我们假设后来有一天,你有一个新的飞

2016-12-16 09:40:48 17123 1

原创降维算法学习

降维的动机首先,让我们谈论降维是什么。作为一种生动的例子,我们收集的数据集,有许多, 许多特征,我绘制两个在这里。假设我们未知两个的特征 x1:长度:用厘米表示;X2,是用英寸表示同一物体的长度。所以,这给了我们高度冗余表示,也许不是两个分开的特征 x1 和 X2,这两个基本的长度度量,也许我们想要做的是减少数据到一维,只要有一个数就可以测量这个长度。有几个不同的的原

2016-12-14 09:42:28 2414

原创手写数字识别实现

本文主要实现手写数字识别，利用多类逻辑回归与神经网络两种方法实现 Multi-class Classification数据源 There are 5000 training examples in ex3data1.mat, where each training example is a 20 pixel by 20 pixel grayscale image of the digi

2016-12-12 14:50:28 6150 1

原创聚类算法学习

聚类是一种非监督学习方法在一个典型的监督学习中,我们有一个有标签的训练集,我们的目标是找到能够区分正样本和负样本的决策边界,在这里的监督学习中,我们有一系列标签,我们需要据此拟合一个假设函数。与此不同的是,在非监督学习中,我们的数据没有附带任何标签,我们拿到的数据就是这样的: 在这里我们有一系列点,却没有标签。因此,我们的训练集可以写成只有 x(1),x(2)…..一直到

2016-12-12 10:26:15 1150

原创支持向量机学习

与逻辑回归和神经网络相比,支持向量机,或者简称 SVM,在学习复杂的非线性方程时供了一种更为清晰,更加强大的方式如果我们用一个新的代价函数来代替,即这条从 0 点开始的水平直线,然后是一条斜线,像上图。那么,现在让我给这两个方程命名,左边的函数,我称之为cost1(z)cos t_1(z) ,同时, 右边函数我称它为cost0(z)cost_0(z)。这里的下标是指在代价函数中

2016-12-11 11:08:08 1743

原创机器学习系统设计与建议

当我们在运用训练好了的模型来预测未知数据的时候发现有较大的误差,我们下一步可以做什么? 1. 获得更多的训练实例——通常是有效的,但代价较大,下面的方法也可能有效,可考虑先采用下面的几种方法。 2. 尝试减少特征的数量 3. 尝试获得更多的特征 4. 尝试增加多项式特征 5. 尝试减少归一化程度 λ 6. 尝试增加归一化程度 λ 我们不应该随机选择上面的某种方法来改进我们

2016-12-10 17:25:18 1334

原创神经网络学习

代价函数首先引入一些便于稍后讨论的新标记方法: 假设神经网络的训练样本有 m 个,每个包含一组输入 x 和一组输出信号 y,L 表示神经网络层数,SlS_l 表示每层的 neuron 个数(SLSL 表示输出层神经元个数),SLS_L 代表最后一层中处理单元的个数。将神经网络的分类定义为两种情况:二类分类和多类分类, 二类分类:SLS_L=1, y=0 or 1 表示哪一类; K 类分类

2016-12-07 21:55:55 862

原创神经网络入门

我们之前学的,无论是线性回归还是逻辑回归都有这样一个缺点,即:当特征太多时, 计算的负荷会非常大。普通的逻辑回归模型,不能有效地处理这么多的特征,这时候我们需要神经网络。神经元和大脑神经网络是一种很古老的算法,它最初产生的目的是制造能模拟大脑的机器。神经网络逐渐兴起于二十世纪八九十年代,应用得非常广泛。但由于各种原因,在 90 年代的后期应用减少了。但是最近,神经网络又东山再

2016-12-05 16:41:14 1162

原创逻辑回归与正则化

在分类问题中,你要预测的变量 y 是离散的值,我们将学习一种叫做逻辑回归 (Logistic Regression) 的算法,这是目前最流行使用最广泛的一种学习算法。在分类问题中,我们尝试预测的是结果是否属于某一个类(例如正确或错误)。分类问题的例子有:判断一封电子邮件是否是垃圾邮件;判断一次金融交易是否是欺诈;之前我们也谈到了肿瘤分类问题的例子,区别一个肿瘤是恶性的还是良性的。我们可以用逻辑回

2016-12-04 16:19:38 12043 3

原创多变量线性回归

目前为止,我们探讨了单变量/特征的回归模型,现在我们对房价模型增加更多的特征, 例如房间数楼层等,构成一个含有多个变量的模型,模型中的特征为(x1,x2,…,xn)增添更多特征后,我们引入一系列新的注释: n 代表特征的数量 x(i)x^{(i)}代表第 i 个训练实例,是特征矩阵中的第 i 行,是一个向量(vector)。 xijx^i_j 代表特征矩阵中第 i 行的第 j 个特征,也就是第

2016-12-04 11:03:40 8771

原创机器学习入门

机器学习是什么? 第一个机器学习的定义来自于 Arthur Samuel。他定义机器学习为,在进行特定编程的情况下,给予计算机学习能力的领域。上述是个有点不正式的定义,也比较古老。另一个年代近一点的定义,由 Tom Mitchell 提出,来自卡内基梅隆大学,Tom 定义的机器学习是,一个好的学习问题定义如下,他说,一个程序被认为能从经验 E 中学习,解决任务 T,达到性能度量值

2016-12-04 10:59:48 1562

原创最短路径实现

主要工具 QGIS建立拓扑关系 Postgres存储数据表 Geoserver发布相关服务 QGIS建立拓扑关系使用v.clean运行，并用DBManager即可以建立拓扑关系并导入数据库。注意 QGIS2.16有数据溢出问题，使用QGIS2.14可以解决这个问题 Postgr

2016-11-14 22:34:22 2000

原创 IOS之笑脸app

ios笑脸app实现 import UIKit@IBDesignableclass FaceView: UIView { @IBInspectable var lineWidth:CGFloat=3{didSet{setNeedsLayout()}} @IBInspectable var color:UIColor = UIColor.blueColor(){d

2016-10-17 21:47:54 1143

原创 IOS之计算器实现

本文利用ios实现计算器app，后期将用mvc结构重构import UIKitclass CalculViewController: UIViewController { @IBOutlet weak var display: UILabel! var userIsInTheMiddleOFTypingANumber:Bool=false @IBAction func append

2016-10-17 21:40:33 1638

原创瓦片地图与geoserver发布

本文主要包括以下内容 TileMill生成Tile影像金字塔（.mbtiles压缩文件）Mbutil(https://github.com/mapbox/mbutil)解压缩Apache HTTP Server(或tomcat) 建立web瓦片服务客户端调用（ http://www.arcgis.com/home）测试首先将数据导入postgres数据库中 osm2pgsql -s

2016-10-17 21:37:36 9112 2

原创 Mac使用入门

mac常用快捷键全屏/退出全屏 ctr+command+F切换到桌面 fn+f11输入法切换 ctr+空格亮度 f1、f2声音 f11、f12复制、粘贴 command+c、command+v搜索 command+f翻页上一行是Command+上箭头上一页

2016-09-24 21:41:10 697

原创 postgres与osm初步使用

layout: post title: postgres与osm初步使用 date: 2016-9-20 categories: blog tags: [地图开发]description:地图开发本文主要包括以下内容 postgreSQL数据库，用来存放地图原始数据osm2pgsql 用来将osm地图数据导入到postgreSQL  OSM数据OpenStreetMap（简称

2016-09-20 16:29:37 3170 1

arcgis engine轻松入门

空空如也