Luqiang_Shi-CSDN博客

原创【语音识别】之梅尔频率倒谱系数（mfcc）及Python实现

【语音识别】之梅尔频率倒谱系数（mfcc）及Python实现一、mel滤波器二、mfcc特征Python实现语音识别系统的第一步是进行特征提取，mfcc是描述短时功率谱包络的一种特征，在语音识别系统中被广泛应用。一、mel滤波器每一段语音信号被分为多帧，每帧信号都对应一个频谱（通过FFT变换实现），频谱表示频率与信号能量之间的关系。mel滤波器是指多个带通滤波器，在mel频率中带通滤波器的通...

2019-06-06 21:12:26 4522 5

原创【语音识别】语音端点检测及Python实现

【语音识别】语音端点检测及Python实现一、语音信号的分帧处理二、端点检测方法2.1、短时能量2.2、短时过零率三、Python实现从接收的语音信号中准确检测出人声开始和结束的端点是进行语音识别的前提。本博文介绍基于短时过零率和短时能量的基本语音端点检测方法及Python实现。如图所示为语音信号，红色方框内为人声：一、语音信号的分帧处理语音信号是时序信号，其具有长时随机性和短时平稳性。长...

2019-06-06 19:02:47 10071 7

原创【机器学习】隐马尔可夫模型及其三个基本问题（四）状态序列预测算法及python实现

【机器学习】隐马尔可夫模型及其三个基本问题（四）状态序列预测算法及python实现一、维特比算法二、python实现参考资料隐马尔可夫模型状态序列预测问题是指给定模型λ=[A,B,∏]\lambda = \left[ {A,B,\prod } \right]λ=[A,B,∏]和观测序列X={x1,x2,⋯ ,xn}X = \left\{ {{x_1},{x_2}, ...

2019-05-30 21:55:49 1825

原创【数据结构】二叉搜索树的python实现

【数据结构】二叉搜索树的python实现二叉搜索树是以二叉树来组织的，对于一个二叉搜索树的节点，其左子树节点的元素值都不大于该节点元素值，其右子树节点的元素值都不小于该节点的元素值。首先定义一个初始化二叉搜索树节点的类TNode，每一个节点包括节点元素值val，指向父节点的地址par，指向左子树的地址left，指向右子树的地址right。class TNode(object): ''...

2019-04-16 18:52:03 1153

原创【数据结构】二叉树的python实现

【数据结构】二叉树的python实现本博文描述的二叉树是任意二叉树，可以使完全二叉树，也可以是非完全二叉树。首先声明一个二叉树节点的初始化类TNode，每一个节点都有三个组成部分，节点的元素值，节点的左子树地址和节点的右子树地址。class TNode(object): #初始化二叉树的节点，self.val是节点的数值，self.left是节点左子树的地址，self.right是右...

2019-04-16 16:16:25 383

原创【数据结构】链表的python实现

【数据结构】链表的python实现一、单向链表的python实现二、双向链表的python实现链表是一种物理存储单元上非连续、非顺序的存储结构，数据元素的逻辑顺序是通过链表中的指针链接次序实现的。链表中的元素可以存在内存中的任何位置。单向链表的节点包含该节点的元素值和下一个节点的地址，双向链表的节点包括该节点的元素值、上一个节点的地址和下一个节点的地址。一、单向链表的python实现clas...

2019-04-16 10:58:28 297

原创【数据结构】栈、队列、堆的python实现

【数据结构】栈、队列、堆得python实现一、栈的python实现1.1、栈的列表实现方法1.2、用双向队列模拟栈二、队列的python实现2.1、队列的列表实现2.2、使用deque实现队列三、堆的python实现栈、队列、堆是基础的数据结构类型，其中栈是后进先出的数据结构；队列是先进先出的数据结构；堆通常可以被看成一棵树，又可以被分为最小堆和最大堆，最小堆是指堆中某个节点的元素总不大于其父节...

2019-04-16 10:45:20 735

原创【机器学习】隐马尔可夫模型及其三个基本问题（三）模型参数学习算法及python实现

【机器学习】隐马尔可夫模型及其三个基本问题（三）模型参数学习算法及python实现一、非监督学习方法（Baum-Welch算法）1.1、EM算法介绍1.2、Baum-Welch算法二、python实现隐马尔可夫模型参数学习是根据观测序列X={x1,x2,⋯ ,xn}X = \left\{ {{x_1},{x_2}, \cdots ,{x_n}} \right\}X={...

2019-04-01 17:20:43 965

原创【机器学习】隐马尔可夫模型及其三个基本问题（二）观测序列概率计算算法及python实现

【机器学习】隐马尔可夫模型及其三个基本问题（二）观测序列概率计算算法及python实现一、前向算法二、后向算法三、一些概率与期望的计算四、前向-后向算法的python实现参考资料隐马尔可夫（HMM）模型的第一个基本问题是评估观测序列概率：给定模型λ=[A,B,∏]\lambda = \left[ {A,B,\prod } \right]λ=[A,B,∏]和观测序列X={x1,x2,⋯&amp...

2019-03-31 15:12:58 1173

原创【机器学习】隐马尔可夫模型及其三个基本问题（一）

【机器学习】隐马尔可夫模型及其三个基本问题（一）HMM模型1、HMM模型概述2、HMM的三个基本问题3、HMM问题实例参考资料隐马尔可夫模型（Hidden Markov Model，HMM）是一种重要的有向图模型，使用隐马尔可夫模型的问题一般需要两个特征（参考资料1）：（1）问题是基于时间序列或状态序列的。（2）问题中有两种数据，一种是观测序列，即我们能够观测到的序列；一种是状态序列，即隐藏的...

2019-03-11 22:48:00 1902

转载【强化学习】什么是强化学习算法？

【强化学习】什么强化学习算法？一、强化学习解决什么问题？二、强化学习如何解决问题？2.1、强化学习的基本框架2.2、强化学习系统的要素2.3、强化学习与监督学习的区别2.4、强化学习与非监督学习的区别三、强化学习实例3.1、训练Tic-Tac-Toe游戏玩家的强化学习理解3.2、训练Tic-Tac-Toe游戏玩家的python代码参考资料本博文通过参考《深入浅出强化学习原理入门》的第一章与《Re...

2019-02-26 20:56:56 12055 2

原创【机器学习】基于奇异值分解（SVD）的协同过滤推荐算法及python实现

【机器学习】基于奇异值分解（SVD）的协同过滤推荐算法及python实现一、协同过滤推荐算法1.1、协同过滤算法的分类1.2、相似度的度量1.3、商品评分的预测二、奇异值分解（SVD）在协同过滤算法中的应用2.1、协同过滤算法的缺陷2.2、奇异值分解在协同过滤算法中的应用三、python实现参考资料推荐算法是机器学习的一个重要分支，协同过滤（Collaborative Filtering,CF）...

2019-02-23 15:17:21 4981 4

原创【机器学习】因子分解机（Factorization Machine）原理与java实现

【机器学习】因子分解机（Factorization Machine）原理与java实现1、因子分解机原理1.1、分离超平面1.2、阈值函数1.3、样本概率1.4、损失函数1.5、随机梯度下降训练模型2、java实现参考资料因子分解机（Factorization Machine）与Logistic Regression算法和Softmax Regression算法一样，都是基于概率的机器学习算法。...

2019-01-20 19:57:33 1280

原创【Java方法】从方法中返回多个值

【Java方法】从方法中返回多个值（1）java方法只能返回一个值，但是在实际需求中经常遇到一个方法返回多个值，这是该如何操作？思路：可以量多个值装到字典（Map）中，将字典作为一个值返回。（2）举例实现假设一个方法需要返回两个二维数组import java.util.*;public class MapReturn { //将两个数组通过Map返回 public static M...

2019-01-17 13:42:08 3315

原创【Java方法】统计数组内不同元素个数及每个元素的数量

【Java方法】统计数组内元素的种类数及每种元素的数量1、统计数组内元素的种类数2、统计数组内每种元素的数量我们假定一个一维数组a={1,2,3,2,2,3,1,3,2,1,2,3,1,2,1,2,3,2,1}a = \left\{ {1,2,3,2,2,3,1,3,2,1,2,3,1,2,1,2,3,2,1} \right\}a={1,2,3,2,2,3,1,3,2,1,2,3,1,2,1,2...

2019-01-17 13:20:03 16246 2

原创【机器学习】Softmax Regression算法原理与java实现

【机器学习】Softmax Regression算法原理与java实现1、Softmax Regression算法原理1.1、样本概率1.2、损失函数1.3、梯度下降法训练模型2、java实现参考资料Logistic Regression算法是线性二分类算法，Softmax Regression算法是Logistic Regression算法在多分类问题上的推广，其中任意两个类别的样本是线性可分...

2019-01-15 10:47:45 1231

原创【机器学习】Logistic Regression逻辑回归原理与java实现

【机器学习】Logistic Regression逻辑回归原理与java实现1、基于概率的机器学习算法2、逻辑回归算法原理2.1、分离超平面2.2、阈值函数2.3、样本概率2.4、损失函数3、基于梯度下降法的模型训练4、java实现1、基于概率的机器学习算法机器学习算法可以分为基于概率、基于距离、基于树和基于神经网络四类。基于概率的机器学习算法本质上是计算每个样本属于对应类别的概率，然后利用极...

2019-01-13 23:38:47 3235 6

原创【深度学习】生成对抗网络（GAN）的tensorflow实现

【深度学习】生成对抗网络GAN的tensorflow实现一、GAN原理二、GAN的应用三、GAN的tensorflow实现参考资料GAN（Generative Adversarial Nets）是Goodfellow I. J.大神在2014年提出的（参考资料【1】），在近几年成为人工智能领域研究的热点。本博文讲解最简单的生成对抗网络GAN原理并实现一个简单化GAN的tensorflow代码，可...

2018-12-25 13:00:43 4677 1

原创【深度学习】循环神经网络（RNN）的tensorflow实现

【深度学习】循环神经网络（RNN）的tensorflow实现一、循环神经网络原理1.1、RNN的网络结构1.2、RNN的特点1.3、RNN的训练二、循环神经网络的tensorflow实现参考资料循环神经网络又被成为时间递归神经网络（Recurrent Neural Networks），传统神经网络，每一个时间步隐含层神经元之间没有连接。但RNN中每一个时间步的隐含层输入由当前时间步的输入和上一时...

2018-12-21 15:34:11 2639 1

原创【机器学习】竞争神经网络（Competitive Neural Network）的python实现

【机器学习】竞争神经网络（Competitive Neural Network）的python实现一、竞争神经网络原理1.1、生物学原理1.2、网络结构与模型训练二、竞争神经网络的python实现参考资料我们前面介绍过基于机器学习的分类与回归，分类与回归都是监督学习。除此之外，机器学习还有一个广泛的应用是聚类，聚类算法是无监督的机器学习算法，数据样本只有特征而没有标签，我们需要根据样本的特征将具...

2018-12-17 19:25:16 2928

原创【机器学习】基于GBDT的数据回归及python实现

【机器学习】基于GBDT的数据回归及python实现1.Boosting技术2.GBDT原理与应用2.1 GBDT原理2.2 基于GBDT的数据回归2.3 基于GBDT的数据分类3.基于GBDT的数据回归的python实现参考资料本博文中GBDT（Gradient Boosting Decison Tree，梯度提升决策树）的决策树采用CART（Classification and Regres...

2018-12-16 15:31:40 5339 4

原创【机器学习】基于AutoEncoder的BP神经网络的tensorflow实现

【机器学习】基于AutoEncoder的BP神经网络的tensorflow实现一、基于AutoEncoder的BP神经网络1.1、BP神经网络1.1.1、BP神经网络结构1.1.2、BP神经网络的训练1.2、AutoEncoder（自编码器）二、基于AutoEncoder的BP神经网络的tensorflow实现参考资料一、基于AutoEncoder的BP神经网络1.1、BP神经网络1.1.1...

2018-12-14 10:38:22 1502 3

原创【机器学习】广义回归神经网络（GRNN）的python实现

【机器学习】广义回归神经网络（GRNN）的python实现一、广义回归神经网络原理1.1、GRNN与PNN的关系2.2、GRNN的网络结构二、广义回归神经网络的优点与不足2.1、优点2.2、不足三、GRNN的python实现参考资料一、广义回归神经网络原理1.1、GRNN与PNN的关系广义回归神经网络（Generalized Regression Neural Network）的网络结构类似...

2018-12-12 21:29:34 37040 25

原创【机器学习】概率神经网络（PNN）的python实现

【机器学习】概率神经网络（PNN）的python实现一、概率神经网络原理1.1、贝叶斯决策1.2、PNN的网络结构二、概率神经网路的优点与不足2.1、优点（参考资料【1】）2.2、缺点三、PNN的python实现参考资料一、概率神经网络原理概率神经网络（Probabilistic Neural Network）的网络结构类似于RBF神经网络，但不同的是，PNN是一个前向传播的网络，不需要反向传...

2018-12-12 16:32:23 21053 10

原创【机器学习】径向基（RBF）神经网络的tensorflow实现

【机器学习】RBF神经网络的tensorflow实现一、tensorflow简介1、基础概念1.1计算图1.2 Session会话2、应用流程二、RBF神经网络的tensorflow实现参考资料一、tensorflow简介1、基础概念1.1计算图Tensorflow是一个基于计算图（数据流图）的的数值计算系统，计算图是一个有向图，图中的节点代表数学计算操作的算子（函数），节点之间连接的边代...

2018-12-10 13:55:51 10337 23

原创【数据处理】奇异值分解（SVD）数据降噪的python实现

【数据处理】奇异值分解（SVD）数据降噪的python实现一、特征值分解二、奇异值分解三、python实现参考资料一、特征值分解（参考资料【1】）对称矩阵不同的特征值对应的特征向量两两正交，假设存在一个m∗mm*mm∗m的满秩对称矩阵AAA，其具有mmm个不同的特征值分别为：λi,i=1,⋯&ThinSpace;,m{\lambda _i},i = 1, \cdots ,mλi,i...

2018-12-04 16:23:53 11519 5

原创【超参数寻优】量子粒子群算法（QPSO）超参数寻优的python实现

【寻优算法】量子粒子群算法（QPSO）参数寻优的python实现一、粒子群算法的缺点二、量子粒子群算法三、QPSO算法的python实现参考资料一、粒子群算法的缺点本人之前的博文（参考资料【1】）已经详细介绍了PSO算法，学习本博文前需要先学习PSO算法。PSO算法的缺点：1、需要设定的参数（惯性因子www，局部学习因子c1{c_1}c1和全局学习因子c2{c_2}c2）太多，不利于...

2018-12-03 13:30:22 24550 25

原创【超参数寻优】粒子群算法（PSO）超参数寻优的python实现

【寻优算法】粒子群算法（PSO）参数寻优的python实现一、算法原理1、粒子群算法的名词解释2、粒子更新二、PSO算法参数寻优的python实现参考资料粒子群优化算法（Particle swarm optimization，PSO）是模拟鸟群捕食行为的优化算法。不同于遗传算法（Genetic Alogrithm，GA），粒子群算法是有记忆的，之前迭代过程中的最优位置和最优方向都会保留下来并作...

2018-12-02 19:52:52 25521 24

原创【超参数寻优】量子遗传算法（QGA）超参数寻优的python实现

【寻优算法】量子遗传算法（QGA）参数寻优的python实现：多参数寻优一、量子编码1、染色体量子编码2、量子编码转换为二进制编码二、量子进化1、全干扰交叉2、量子变异三、QGA多参数寻优的python实现1、训练模型及待寻优参数2、QGA算法的python代码参考资料遗传算法用于模拟达尔文生物进化论的自然选择和遗传学机理的生物进化过程的计算模型，种群通过选择、交叉和变异操作使染色体的十进制数...

2018-12-01 14:25:26 8965 6

原创【超参数寻优】遗传算法（GA）超参数寻优的python实现

【寻优算法】遗传算法（Genetic Algorithm）参数寻优的python实现：多参数寻优一、遗传算法简介1、遗传算法由来2、遗传算法名词概念3、遗传算法中对染色体的操作3.1、选择3.2、交叉3.3、变异二、遗传算法多参数寻优思路三、遗传算法多参数寻优的python实现参考资料本博文首先简单介绍遗传算法（GA）的基础知识，然后以为例给出遗传算法多参数寻优的python实现。一、遗传算...

2018-11-30 10:25:24 25827 12

原创【超参数寻优】交叉验证（Cross Validation）超参数寻优的python实现：多参数寻优

【寻优算法】交叉验证（Cross Validation）参数寻优的python实现：多参数寻优一、网格搜索原理二、网格搜索+交叉验证用于多参数寻优的python实现1、训练模型及待寻优参数2、直接循环嵌套实现网格搜索 + cross_validation3、GridSearchCV参考资料交叉验证的基础知识可参考上一篇博文，本博文主要介绍使用交叉验证进行多参数寻优时的参数搜索方法：网格搜索（Gr...

2018-11-28 11:27:47 5223 3

原创【超参数寻优】交叉验证（Cross Validation）超参数寻优的python实现：单一参数寻优

【寻优算法】交叉验证（Cross Validation）参数寻优的python实现一、交叉验证的意义二、常用的交叉验证方法1、Hold one method2、K-flod CV3、Leave-One-Out CV（LOO-CV）二、交叉验证参数寻优的python实现1、训练模型和待寻优参数2、算法执行步骤3、交叉验证参数寻优的python实现4、参数C与评价指标的关系参考资料有关交叉验证的博文...

2018-11-27 20:30:03 9516 1

原创【机器学习】RBF神经网络原理与Python实现

【机器学习】RBF神经网络原理与Python实现一、LSSVM数学原理1. 感知机2. SVM3. LSSVM4. LSSVM与SVM的区别二、LSSVM的python实现参考资料一、LSSVM数学原理1. 感知机SVM是从感知机发展而来。假设有m个训练样本{(xi,yi)}i=1m\left\{ {\left. {\left( {{x_i},{y_i}} \right)} \right\}...

2018-11-24 19:51:20 36316 37

原创【机器学习】Weighted LSSVM原理与Python实现：LSSVM的稀疏化改进

【机器学习】Weighted LSSVM：LSSVM的稀疏化改进一、LSSVM的缺点二、WLSSVM的数学原理新的改变三、WLSSVM的python实现新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数...

2018-11-24 15:57:37 7365 9

原创【机器学习】最小二乘法支持向量机LSSVM的数学原理与Python实现

【机器学习】最小二乘法支持向量机LSSVM的数学原理与Python实现一、LSSVM数学原理1. 感知机2. SVM3. LSSVM4. LSSVM与SVM的区别二、LSSVM的python实现参考资料一、LSSVM数学原理1. 感知机SVM是从感知机发展而来。假设有m个训练样本{(xi,yi)}i=1m\left\{ {\left. {\left( {{x_i},{y_i}} \right...

2018-11-18 20:59:32 39319 21

Luqiang_Shi的博客