6 visionshop

尚未进行身份认证

本ID为工业检测解决方案团队所有

等级
博文 254
排名 1w+

SVD详细介绍-理论公式证明及低秩近似和特征降维

第一部分:矩阵的奇异值分解:矩阵的奇异值分解证明过程中会用到五个定理,先作为补充知识展示这五个定理:定理一:A是对称矩阵,则不同特征值对应的特征向量是正交的。证明:设,是矩阵A的特征向量,且,,为,对应的特征向量,即:,则,因为A是对称矩阵,则所以,则:因为,所以:,即:和是正交的。证毕————————————————————...

2019-06-09 17:42:12

详解SVD分解过程

转如何让奇异值分解(SVD)变得不“奇异”?红色石头发布于2018-08-29分类:机器学习阅读(144)评论(0)如何让奇异值分解(SVD)变得不“奇异”?-红色石头的个人博客http://redstonewill.com/1529/在之前的一篇文章:通俗解释协方差与相关系数,红色石头为大家通俗化地讲解了协方差是如何定义的,以及如何直观理解协方差,并且比较了协...

2019-06-09 16:54:42

矩阵的迹以及迹对矩阵求导

ref:https://blog.csdn.net/u012421852/article/details/79594933矩阵的迹概念矩阵的迹就是矩阵的主对角线上所有元素的和。矩阵A的迹,记作tr(A),可知tra(A)=∑aii,1<=i<=n。定理:tr(AB)=tr(BA)证明定理:tr(ABC)=tr(C...

2019-06-08 12:18:25

矩阵求导

https://www.jianshu.com/p/4128e5b31fb4title:闲话矩阵求导原始文件没有办法把latex公式正常显示,所以一个一个弄出来了,保留了原来的公式。原始文章来自《闲话矩阵求导》。矩阵求导,想必许多领域能见到。统计学,经济学,优化,机器学习等等,在对目标问题建立数学模型之后,问题往往被抽象为关于矩阵的优化问题。于是免不了需要对矩阵进行求导等操作。简单...

2019-06-08 12:17:22

关于范数的介绍

作者:Faaany链接:https://www.zhihu.com/question/21868680/answer/136376374来源:知乎著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。要更好的理解范数,就要从函数、几何与矩阵的角度去理解,我尽量讲的通俗一些。我们都知道,函数与几何图形往往是有对应的关系,这个很好想象,特别是在三维以下的空间内,函数是几...

2019-06-08 01:17:30

时间序列预测-ARIMA

参考资料1https://pyflux.readthedocs.io/en/latest/arima.html#example参考资料2多元序列分析ARIMAX(p,I,q)宇智波带土没事瞎折腾4人赞同了该文章这里借助Python的statsmodels库和pyflux库进行多元时间序列分析,建立ARIMAX(p,I,q)模型用来预测二氧化碳浓度数据。其中p...

2019-06-05 21:17:47

主成分分析与奇异值分解

机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用版权声明:本文由LeftNotEasy发布于http://leftnoteasy.cnblogs.com,本文可以被全部的转载或者部分使用,但请注明出处,如果有问题,请联系wheeleast@gmail.com。也可以加我的微博:@leftnoteasy转载https://www.cnblogs.com/Left...

2019-05-29 21:09:22

熵、交叉熵、相对熵(KL散度)

参考资料:https://www.jianshu.com/p/43318a3dc715?from=timeline&isappinstalled=0https://www.zhihu.com/question/41252833视频讲解https://www.youtube.com/watch?v=ErfnhcEV1O8如何理解K-L散度(相对熵)Kull...

2019-05-07 09:36:48

多线程变量调试——VS 数据断点调试

VisualStudio2013中数据断点的使用最近在开发一个比较复杂的项目,使用了许多assert宏来进行断言防御式编程,但是有的时候发现许多数据被修改了并非自己期望的值。有的时候也不可能为所有数据都提高读写接口封装来控制,这里就需要使用到数据断点来判断数据什么时候被改写了。MSDN参考文档https://msdn.microsoft.com/en-us/library/...

2019-04-12 20:58:35

3D成像原理

3D成像:光学的再次创新前言:光学一直是科技创新的重头戏,智能手机摄像头经历了2D时代像素和个数的倍增,孕育了大立光等优质公司。3D成像技术的成熟拉开了二维向三维升级的帷幕,有望带动光学创新大革命(绝非“微创新”可比),本文作为市场首篇深度剖析,将为投资者挖掘相关投资机会。1、3D成像究竟是什么?光学升级一直停留在像素、感光等二维层面,也是智能手机创新周期的主驱动力。3D成像在二维...

2019-03-14 09:16:10

机器学习-SVD

机器学习中SVD总结https://mp.weixin.qq.com/s/Dv51K8JETakIKe5dPBAPVg目录: 矩阵分解 1.1矩阵分解作用 1.2矩阵分解的方法 1.3推荐学习的经典矩阵分解算法 SVD具体介绍 2.1特征值、特征向量、特征值分解 2.2SVD分解 2.3SVD分解的应用 1.矩阵分解...

2019-03-12 21:19:57

机器学习-SVD分解

ref:https://www.cnblogs.com/lzllovesyl/p/5243370.html本文先从几何意义上对奇异值分解SVD进行简单介绍,然后分析了特征值分解与奇异值分解的区别与联系,最后用python实现将SVD应用于推荐系统。1.SVD详解SVD(singularvaluedecomposition),翻译成中文就是奇异值分解。SVD的用处有很多,比如:LSA...

2019-03-06 10:53:42

机器学习-正则化方法及原理

正则化方法:防止过拟合,提高泛化能力在训练数据不够多时,或者overtraining时,常常会导致overfitting(过拟合)。其直观的表现如下图所示,随着训练过程的进行,模型复杂度增加,在trainingdata上的error渐渐减小,但是在验证集上的error却反而渐渐增大——因为训练出来的网络过拟合了训练集,对训练集外的数据却不work。为了防止overfitting,可以...

2019-03-06 10:51:49

windows下安装深度学习环境

1.安装AnacondaAnaconda下载地址 https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/添加环境变量 C:\ProgramData\Anaconda3\Scripts或者尝试在安装的时候 把环境变量勾选上 2.安装 CUDACUDA各个版本下载地址https://develope...

2019-01-27 16:23:28

VAE变分自编码器

r变分自编码器(一):原来是这么一回事转载自https://spaces.ac.cn/archives/5253过去虽然没有细看,但印象里一直觉得变分自编码器(VariationalAuto-Encoder,VAE)是个好东西。于是趁着最近看概率图模型的三分钟热度,我决定也争取把VAE搞懂。于是乎照样翻了网上很多资料,无一例外发现都很含糊,主要的感觉是公式写了一大通,还是迷迷糊糊的,最后...

2019-01-21 20:21:50

数学--傅里叶分析-通俗易懂

作者:韩昊知乎:Heinrich微博:@花生油工人知乎专栏:与时间无关的故事谨以此文献给大连海事大学的吴楠老师,柳晓鸣老师,王新年老师以及张晶泊老师。转载的同学请保留上面这句话,谢谢。如果还能保留文章来源就更感激不尽了。 ——更新于2014.6.6,想直接看更新的同学可以直接跳到第四章————我保证这篇文章和你以前看过的所有文章都不同,这是12年还在果壳的时...

2019-01-13 20:38:44

环境安装--配置 spyder 黑屏

ubuntu16.04下安装完andaconda后启动spyder./andaconda3/bin/spyder spyder启动后出现黑屏解决办法:cd/etc/ld.so.conf.d进入到当前目录.sudocatx86_64-linux-gnu_GL.conf  显示以下结果: /usr/lib/nvidia-384    /usr/lib32/nvidia...

2019-01-10 10:58:33

win10远程ubuntu16.04桌面

使用win10远程控制ubuntu16.04,网上很多需要安装xfce桌面的。今天介绍一下,不需要安装其他桌面,使用Ubuntu16.04自带桌面,漂亮美观。Ubuntu16.04端:1、打开终端,安装xrdp,vncserversudoapt-getinstallxrdpvnc4serverxbase-clients2、安装desktopsharing(Ubuntu16...

2019-01-08 11:57:05

关于attention structure 的总结

https://lilianweng.github.io/lil-log/2018/06/24/attention-attention.html#pointer-networkAttention?Attention!Jun24,2018 by LilianWeng review Attentionhasbeenafairlypopularconceptanda...

2018-12-27 09:58:53

[转]完全图解RNN、RNN变体、Seq2Seq、Attention机制

[转]https://www.leiphone.com/news/201709/8tDpwklrKubaecTa.html 本文主要是利用图片的形式,详细地介绍了经典的RNN、RNN几个重要变体,以及Seq2Seq模型、Attention机制。希望这篇文章能够提供一个全新的视角,帮助初学者更好地入门。一、从单层网络谈起在学习RNN之前,首先要了解一下最基本的单层网络,它的结构如图:...

2018-11-27 12:02:37
奖章
    暂无奖章