- 博客(50)
- 收藏
- 关注
RSS订阅原创 【深度学习】VAE变分自编码器原理推导+Python代码实现
1、前言变分自编码器是近些年较火的一个生成模型，我个人认为其本质上仍然是一个概率图模型，只是在此基础上引入了神经网络。本文将就变分自编码器（VAE）进行简单的原理讲解和数学推导。论文： Auto-Encoding Variational Bayes视频：2、引入2.1、高斯混合模型生成模型，可以简单的理解为生成数据(不止，但我们暂且就这么理解它)\boxed{(不止，但我们暂且就这么理解它)}(不止，但我们暂且就这么理解它)。假如现在我们有样本数据，而我们发现这些样本符合正态分布且样本具有充分
2024-05-02 22:33:25
400
原创 生成模型必备数学基础——概率论基础复习
本篇复习一些机器学习和深度学习常用的概率论的基础知识，因为我发现有挺多人对这些东西都不了解，或者说忘了，所以，本篇文章，意在唤醒你那已经交还给老师的概率论基础记忆，以为下一篇文章做基础[数学基础——生成模型必备知识-哔哩哔哩]
2024-04-29 18:46:37
782
原创 GPT与GAN结合生成图像——VQGAN原理解析
这篇文章，我们讲VQ_GAN，这是一个将特征向量离散化的模型，其效果相当不错，搭配Transformer（GPT）或者CLIP使用，达到的效果在当时可谓是令人拍案叫绝！[GPT与GAN结合生成图像——VQGAN原理解析-哔哩哔哩]效果演示：图像生成其他任务。
2024-04-23 18:15:11
1102
原创 【深度学习】写实转漫画——CycleGAN原理解析
上一篇，我们讲解了按照指定文本标签生成对应图像的CGAN。本篇文章，我们讲CycleGAN。
2024-04-17 21:33:10
748
4
原创 【深度学习】伪造指定图像——CGAN原理解析及其代码实现
本篇介绍条件GAN——CGAN，这其实是一个挺简单的模型，只要你知道GAN这个模型，就很容易能够看懂这个，因为CGAN就是在GAN的基础上加上了一个条件，CGAN的作用就是可以依据标签生成对应的图像。【伪造指定图像——CGAN原理解析-哔哩哔哩】
2024-04-17 13:22:21
989
原创 【深度学习】AI修图——DragGAN原理解析
上一篇，我们讲述了StyleGAN2。这一篇，我们就来讲一个把StyleGAN2作为基底架构的DragGAN。DragGAN的作用主要是对图片进行编辑，说厉害点，可能和AI修图差不多。这篇论文比较新，发表自2023年参考代码：https://github.com/skimai/DragGANAI修图——DragGAN原理解析-哔哩哔哩演示（随意选择红点，让红点对应位置的像素移动到蓝点）：demo。
2024-04-15 20:41:27
1100
原创 【深度学习】图像风格混合——StyleGAN2原理解析
上一篇文章，我们详细讲解了StyleGAN的原理。这篇文章，我们就来讲解一下StyleGAN2，也就是StyleGAN的改进版。①Pytorch版本，非官方 PS：推荐看代码②，里面对每行都进行了注释。【图像风格混合——StyleGAN2原理解析-哔哩哔哩】
2024-04-13 15:41:31
840
原创 【深度学习】图像风格混合——StyleGAN原理解析
上一篇，我们讲了PGGAN的模型原理，本章我们就来讲解一下StyleGAN，这个模型能够自由控制图像的风格，细节变化等等，生成用户想要的图像，甚至从某种程度上说，其可以实现AI换脸。PS：这篇文章其实我做了很多功课，本来不想写的。因为对于我这种水平的人来说，论文太难理解，不仅翻译过来语句不顺（本人英语不好，只能看机翻的版本），里面的原理部分也感觉相当抽象。本来想在网上搜一些文章来看一下，结果很多文章都是跟机器翻译直接复制过来的一样，完全不作解释，晦涩难懂。
2024-04-08 22:11:22
1210
原创 伪造高清人像——PGGAN原理解析
本文将对PGGAN这个模型进行原理解析，该模型是生成模型，与GAN一样，他也同样可以伪造数据（如图像），区别在于，这个模型算是GAN的进阶版，其克服了GAN模型中的很多问题【伪造高清人像——PGGAN原理解析-哔哩哔哩】
2024-04-02 23:40:00
922
原创 【强化学习】Qlearning代码实现
Qlearning其实就是在SARSA作了一点点修改，如果采取随机探索，时序差分的更新仍然使用概率最大。这种方法雀食能够在一定程度上加速模型的收敛。
2024-01-08 11:48:44
534
原创 【强化学习】SARAS代码实现
SARAS，假设环境状态和动作状态都是离散的。利用动作价值矩阵来进行行为的预测。其主要就是利用时序差分的思想，对动作价值矩阵进行更新。
2023-12-31 21:07:47
444
原创 【深度学习】Normalizing flow原理推导+Pytorch实现
1、前言Normalizingflow\boxed{Normalizing \hspace{0.1cm} flow}Normalizingflow，流模型，一种能够与目前流行的生成模型——GAN、VAE\boxed{\mathbf{GAN、VAE}}GAN、VAE相媲美的模型。其也是一个生成模型，可是它的思路和另外两个的迂回策略却很大不同。本文我们就简单来介绍一个这个模型吧2、引入在生成模型中，我们的目的就是计算出数据x的概率分布。然而，数据的分布总是千奇百怪的。其无法被定义，无法被观测，无法被
2023-12-31 20:23:01
1394
3
原创 VAE变分自编码器原理推导+Python代码实现
变分自编码器是近些年较火的一个生成模型，我个人认为其本质上仍然是一个概率图模型，只是在此基础上引入了神经网络。本文将就变分自编码器（VAE）进行简单的原理讲解和数学推导。
2023-12-24 18:16:48
1398
原创 【深度学习】GAN生成对抗网络原理推导+代码实现（Python）
本文将讲近些年来挺火的一个生成模型GAN生成对抗网络\boxed{\mathbf{GAN生成对抗网络}}GAN生成对抗网络，其特殊的思路解法实在让人啧啧称奇。
2023-12-18 18:03:08
1665
原创 【深度学习】深度置信网络原理推导 + Python代码实现
上一篇，我们讲了受限玻尔兹曼机的原理推导和代码实现，本文将介绍深度置信网络（DBN）的简单原理和算法流程，不会涉及过多的原理推导。
2023-12-11 09:19:20
1292
2
原创 受限玻尔兹曼机代码实现（Python）
上一篇受限玻尔兹曼机原理推导，我们讲了受限玻尔兹曼机的原理推导。本文，我们来看看受限玻尔兹曼机如何应用到推荐系统中。
2023-12-04 19:42:45
400
原创 【深度学习】受限玻尔兹曼机原理推导
1、前言受限玻尔兹曼机，一个基于概率图的模型。本文对受限玻尔兹曼机的原理进行简单推导，其中相关知识的某些原理也不会过多涉及，只着重于受限玻尔兹曼机。2、引入2.1、无向图在一张图中，我们存在一些节点和边，这些节点之间存在的某种关系，通过边来表示，节点和边共同组成了一张图，并且这些边是没有方向的（即互联），这种图被称为无向图。在我们应用的过程中，里面的每一个节点，一般就是我们某个数据的一个维度。比如假设某个样本xi∈(x1,x2,x3,x4,x5)x_i \in (x_1,x_2,x_3,x_4,
2023-12-04 19:40:48
1090
原创 【机器学习】谱聚类原理推导
一、前言本文将介绍一种较为突出的聚类算法——谱聚类。这是一种基于图模型的算法。有过图论或者数据结构基础的人估计会相对来说觉得容易。能力有限，推导并不严谨，请见谅。二、相关知识2.1、无向图无向图，由两个要素构成——节点和边。以上面的无向图为例节点，我们定义为V={A,B,C,D,E}V=\{A,B,C,D,E\}V={A,B,C,D,E}。边定义为E={w1,w2,w3,w4,w5}E=\{w_1,w_2,w_3,w_4,w_5\}E={w1,w2,w3,w4,w5}对应图中的w1…。
2023-11-27 09:09:06
127
原创 【机器学习】高斯过程回归代码（Python）
上一篇高斯过程回归原理推导，我们已经就高斯过程回归进行了数学推导。此时就使用Python对其进行代码实现。
2023-11-20 17:22:40
387
原创 【机器学习】高斯过程回归原理推导
1、前言高斯过程，是随机过程的一种。高斯过程回归，和线性回归有些相似，总之就是用数据去拟合出一条线，然后做预测。2、引入在了解高斯过程之前。我们得知道什么是高斯分布。高斯分布，在一维的时候，给定期望和方差，可以唯一确定一个概率分布。在期望为0，方差为1高斯分布，其密度函数为这是一维的情况，同理的还有多维高斯分布。所谓多维高斯分布，其实就是将原本一维的高斯分布在不同方位堆叠，如果维度之间存在关系，则会就不能简单堆叠。假如我们有p维的高斯分布，那么相应的就要给出p维的期望，而对应的方差就变成了p×pp
2023-11-20 17:19:05
891
原创 【机器学习】贝叶斯线性回归代码实现（Python）
上一篇贝叶斯线性回归，我们已经从贝叶斯派的角度去推导了线性回归的参数表达式。本文，我们将对线性回归的的预测问题就行Python代码实现。
2023-11-15 21:41:33
299
原创 粒子滤波运动轨迹优化案例（Python）
上一篇【机器学习】粒子滤波原理推导（二），我们已经对粒子滤波的原理和实现流程进行了原理推导求解。接下来，我们就案例而言，来看看粒子滤波的实际应用。
2023-11-04 12:12:04
319
原创 【机器学习】粒子滤波原理推导（二）
上一篇【机器学习】粒子滤波原理推导（一），我们就如何去求解粒子滤波Filter问题的期望，得到了各种递推式。但是会产生权值退化的问题。这篇文章就解释一下什么是权值退化，又该如何去解决。
2023-11-04 12:07:49
93
原创 【机器学习】粒子滤波原理推导（一）
上一篇，我们已经对卡尔曼滤波进行数学推导和案例实现。可是，无论是隐马尔可夫模型还是卡尔曼滤波，它们或多或少的都存在着一些限制。对卡尔曼滤波而言，其要求噪声必须是高斯分布，并且必须是线性的。而对于粒子滤波而言，却没有这方面的限制。
2023-11-04 12:02:59
178
原创 【机器学习】卡尔曼滤波对运动轨迹优化（Python）
在上一篇文章中，我们已经对卡尔曼滤波的Filter问题进行了数学推导求解【机器学习】卡尔曼滤波原理推导-CSDN博客，得到了卡尔曼黄金五式。接下来，我们就案例而言，来看看卡尔曼滤波如何应用到生活当中。
2023-10-28 09:51:03
306
原创 【机器学习】卡尔曼滤波原理推导
卡尔曼滤波，动态模型里面比较具有代表性的一个模型。其和隐马尔可夫模型具有差不多相同的结构，但隐马尔可夫模型要求隐状态必须时离散的。而卡尔曼滤波则没有这个限制。本文将从贝叶斯派的角度去推导Filter问题。如果你没听过马尔可夫链，可以先去了解一下，否则估计很难看懂。
2023-10-28 09:29:36
210
原创 线性动态系统中的概率求解
在机器学习的线性动态系统（卡尔曼滤波）中，会有两个随机变量之间存在某种线性关系。下面我们来探讨那些情况下如何求解概率分布的参数。看在这篇文章之前，请确保你有较为扎实概率论的基础，否则可能阅读起来有点困难，我会尽量不跳步，讲得通俗些。
2023-10-24 21:02:29
148
原创 隐马尔可夫模型实现中文分词
本文将使用隐马尔可夫模型对中文进行分词操作。因为在训练集中，是给定了观测序列和隐藏序列数据，所以采用的将是监督式学习。对隐马尔可夫模型的推导过程感兴趣的，可以看HMM隐马尔可夫模型的数学推导（一）
2023-10-17 12:25:05
256
原创 HMM隐马尔可夫模型的数学推导（一）
文章目录前言原理推导两个假设Learning：EM算法求解前言本文将对隐马尔可夫模型的几个求解问题进行推导。不涉及什么是隐马尔可夫，什么是马尔可夫链之类的东西。原理推导在推导之前，先对我们的变量进行一下定义。观测序列X，隐序列ZX=(x1,x2,⋯ ,xT);Z=(z1,z2,⋯ ,zT);X=\begin{pmatrix}x_1,x_2,\cdots,x_T\end{pmatrix};\\Z=\begin{pmatrix}z_1,z_2,\cdots,z_T\end{pmatrix
2023-10-13 21:24:13
78
原创 HMM隐马尔可夫模型的数学推导（二）
文章目录前言数学推导Evaluation：前向算法(递推式算法)后向算法(递推式算法)Decoding：维特比算法(递推式算法)结束前言上一篇HMM高斯混合模型参数估计我们对learning问题进行了数学推导，但是由于本身隐马尔可夫模型的复杂性。即便算出了迭代式的公式，等号右边的概率该如何计算仍然式一个问题数学推导Evaluation：该问题就是要求出P(X∣θ)P(X|\theta)P(X∣θ)。对于该问题，前面我们求Learning问题时，曾求出过P(X∣θ)=∑Zπ∏i=1T−1a(i,
2023-10-13 21:20:03
36
原创 GMM高斯混合模型原理推导(二)
前言上一篇GMM高斯混合模型原理推导(一)，我们的连乘已经变成了连加号，只需要求出P(z,x)P(z,x)P(z,x)相关的概率即可原理推导对于P(z,x)P(z,x)P(z,x)，为什么不是P(z,x∣θ)P(z,x|\theta)P(z,x∣θ)？因为θ\thetaθ是参数，不是随机变量P(zi=Ck,xi)=P(xi∣zi=Ck)P(zi=Ck)=pk∗N(xi∣μk,Σk)P(z_i=Ck,x_i)=P(x_i|z_i=Ck)P(z_i=Ck)=p_k*N(x_i|\mu_k,Σ_k)P
2023-10-04 11:06:44
232
1
原创 GMM高斯混合模型原理推导(一)
GMM高斯混合模型是生成模型的有利代表之一，本文将作简单的原理推导和代码复现，主要是在代码复现，所以，推导将不会很严谨。对于这种给定数据求模型概率参数的问题，我们一般就是求出极大似然估计在求解之前，先作以下定义Xx1x2⋮xnXx1x2⋮xn大写的X代表全部的观测数据，小写的x带下标代表第几个数据。当然了这里并没有继续展开，实际上里面的xix_ixi又可以分为几个分量，比如x1x11x12Tx1。
2023-10-04 11:02:33
110
1
原创 EM算法原理推导+案例讲解
文章目录前言推导案例引入狭义EM问题一：怎么来的？问题二：收敛性证明案例求解广义EM结束前言 EM算法是针对有隐变量的求解极大似然或者最大后验的有效方法。因为我也是正在学习的缘故，所以我将从一个初学者的角度，复现学习过程中遇到的种种问题，本文将从案例出发，对算法原理进行推导证明。推导案例引入 以下案例来自李航老师的《机器学习》 假如，我们现在有三枚硬币，A、B、C，它们正面朝上的概率的为π、q、p\pi、q、pπ、q、p。现在，我们要做的事情是，先抛硬币A，如果硬币A是正面，我们选择
2023-09-28 21:41:26
113
1
原创 朴素贝叶斯原理+Python代码实现
朴素贝叶斯可以说是贝叶斯派的一个很为经典的算法了。相对容易，因为朴素贝叶斯要求就是最大后验概率，实际上与最小期望代价是等价的，所以本文将从最小期望方差推导。不侧重推导，侧重实现。
2023-09-23 22:45:08
288
1
原创 SVM支持向量机+python代码复现(三)
软间隔 对于线性可分的数据，我们仅仅使用硬间隔便可以求解。但是还有个问题。假如数据本身就线性不可分呢？又或者我们的数据存在噪声，比如途中，显然直线左边有一个噪声，右边也有一个噪声。 对这一类问题，怎么办？ 这很好解决。我们直接训练的时候允许其存在一丢丢的错误不久可以了嘛？怎么做？当燃是调整损失函数minw,b12wTw+g(x)\min\limits_{w,b}\frac{1}{2}w^Tw+g(x)w,bmin21wTw+g(x) 这个f(x)可以当作是允许存在一丢丢
2023-09-21 21:03:47
350
原创 SVM支持向量机+python代码复现(二)
KKT条件 对于b的值，我们需要引入KKT条件，只要原问题和对偶问题是强对偶关系，那么我们就说其满足KKT条件，此处不做证明，感兴趣的读者可以自己查阅。对于我们此处要解决的问题，其一定满足以下条件{∂L(w,b,λ)∂w=0,∂L(w,b,λ)∂b=0.λi[1−yi(wTxi+b)]=0.1−yi(wTxi+b)≤0.λi≥0.\left\{\begin{matrix}\frac{\partial{L(w,b,\lambda)}}{\partial{w}}=0,\frac{\partial{
2023-09-21 20:52:26
240
原创 SVM支持向量机原理推导+python代码复现（一）
前言 SVM是机器学习的十大算法之一，其是一个偏数学化的模型，本文主要重现其推导过程，以及学习的过程中遇到的问题。过程并不严谨。数学推导引入 对于二维平面坐标系中的点，如果其线性可分，那么我们可以寻找一条直线，去进行划分。但是，往往情况下，这条直线并不是唯一，可以有无数多条。比如 我们都熟悉感知机，他与SVM是有一丢丢相似，但是感知机有一个很不好的地方，它仅仅将模型训练到能够将数据全部分类正确即可，对该直线几乎没有要求。比如 对于这种结果，他确实是分类正确了，但是这种结果就
2023-09-21 20:50:42
143
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人