1 JH_Zhai

尚未进行身份认证

暂无相关简介

等级
TA的排名 4w+

rnn.cuda()->RuntimeError: cuDNN error: CUDNN_STATUS_EXECUTION_FAILED

问题描述:系统:ubuntu18显卡:RTX2080cuda10.0python3.6.8torch1.1ToReproduce:importtorchrnn=torch.nn.LSTM(10,10)#sameerrorwithe.g.torch.nn.GRU(10,10,1)rnn.cuda()报错Traceback(mostrecent...

2019-07-08 23:59:53

Ubuntu18.04.LTS+RTX2080+tensorflow-gpu

从裸机开始,主要借鉴https://blog.csdn.net/made_in_china_too/article/details/88562329下载deb(local)很慢,故改为runfile(local)弯路1:Ubuntu装机安装ubuntu一开始使用的大白菜装机,显示ISO需要解压,然后ubuntu解压出来咩有gho后缀文件。故,使用UltralSO将ubuntu文件刻录进盘...

2019-06-09 21:02:49

Ng | 大规模机器学习

学习大数据集……在线学习在线学习机制就是让我们可以模型化一些问题,就是让我们有连续一波数据或者连续数据流,想要用算法从中学习的这类问题如果可以获取的数据是无限的,那么或许就真的没必要多使用一个样本。当然如果我们只有少量用户,那么久最好不要用这种在线学习算法,而是把所有数据保存在一个固定的数据集中,然后对这个数据集使用某种算法。但是如果你有连续的数据流,那么在线学习算法会非...

2018-10-20 23:58:44

Ng | 推荐系统

问题规划工业界很需要,学术界关注不多。基于内容的推荐算法x0是截距项θ(1)\theta^{(1)}θ(1)是一组向量不会对偏置单元进行正则,所以后面k=0没有偏置项m(j)是个常数所以可以删除。基于内容的方法因为我们假设变量是已有的,不即同电影的各个特征即我们的描述电影内容的特征量,这个电影的爱情程度怎么样动作成分多少,同时我们用了这些描述电影内容...

2018-10-20 23:28:35

Ng | 异常检测

问题动机下面将介绍异常检测,这是机器学习算法的一个常见应用。这种算法的一个有趣之处在于,它虽然主要用在非监督学习问题。但从某些角度看,跟有监督学习问题,是非常相似的。那很么是异常检测呢?为了解释这个概念,我来举个例子。高斯分布算法变量独立不独立能用。开发和评估异常检测异常检测 vs 监督学习假如我们有带标签的数据,如果我们有已知的 是异常的例子,还有一...

2018-10-20 14:11:06

Ng | 降维

目标1:数据压缩目标2:可视化PCA问题规划1在处理PCA时,我们想要的找出能够最小化投影距离的方式,来对数据进行投影,也就是数据点和投影后的点之间的距离。在这个三维例子里,给定一个点,我们将这个点投影到二维平面。PCA问题规划2用协方差矩阵是应为协方差矩阵一定是一个正定矩阵。PCA的数学证明,实际是把数据投影到了k维子空间和k维表面上,这实际上是最小化投射平...

2018-10-20 01:10:12

Ng | 聚类

避免局部最优解选择聚类数量没有很好的办法有两种选择标准, 一是 业务需要n个类 ,或者肘部位置选择

2018-10-19 21:05:48

Ng | 机器学习系统设计

确定执行的优先级本部分将涉及,你在设计复杂的机器学习系统时所面面临的主要问题,并会在如何制定一个复杂的机器学习系统方面给出一定建议。免得下面部分产生脱节,因为这些视频涉及到设计复杂学习系统时可能遇到的一系列不同的问题,虽说这部分可能在数学方面涉及不多,但这些东西依然非常有用的。在构建大型机器学习系统时这些知识能让你节约大量的时间。首先我们要讲的是在实际工作过程中,我们应该...

2018-10-19 01:42:33

Ng | 应用机器学习的建议

决定下一步做什么下面我们先来介绍如何评价算法,在此之后,会介绍一些诊断法。希望你更清楚在接下来的尝试中,如何选择更有效的方法,最终达到提高机器学习系统性能的目的。评价假设如何评价算法,学习得到的假设。基于这节课,之后我们还将讨论如何防止,欠拟合过拟合的情况。我们介绍了一套标准的技术来评价一个已经学习过的假设。下面我们将应用这些方法,来帮助我们进行诸如特征选择一类的问题...

2018-10-18 19:59:45

Ng | 神经网络参数的反向传播算法

代价函数反向传播算法让代价函数最小化的算法理解反向传播使用注意展开参数上一节我们学会了如何计算反向传播,计算代价函数的导数。本结我想快速想你介绍一个细节的实现过程。怎样把你的参数,从矩阵展开成向量,以便高级最优化步骤中的使用需要。...

2018-10-18 00:07:20

Ng | 神经网络学习

非线性假设通过包含所有二次特征,来学习得到非线性假设。只是包括平方项或者立方项特征,n不是很大的情况下,简单的logistic回归算法学习复杂的非线性假设的好方法下一节,将介绍神经网络,它在学习复杂的非线性假设上被证明是一种好得多的算法。即使输入特征空间,或者n很大,也能轻松搞定。神经元与大脑大脑几乎可以把任何传感器,接入大脑,大脑的学习算法就能找出学习数据的方法,并...

2018-10-17 20:57:25

CS224n | Word Window分类与神经网络

除了词向量还有一类下游任务,即窗口分类1小数据集很容易泛化,在小数据1是一个样子,小数据2训练出来又是另一个样子。如果想得到一个稳定的,就要在大数据集去训练词向量。2这个模型在08由Collobert&Weston第一次提出当时第一个有用且最先进的文本分类和词的上下文分类给中心词分配一个标签,然后用一个窗口把它前后的单词连接起来。让我们用从...

2018-10-17 17:55:51

CS224n | 高级词向量表示

试图分析原理如何更有效地捕捉word2vec的本质关于词向量表面的评估最后,你们实际上会很清楚如何去评估词向量并且至少有两种受验方法来训练他们复习函数是非凸的,所以初始值就很重要了Skip-gramT对应需要遍历语料库的每个窗口J是我们的损失函数T是在遍历语料库的第T个时间步theta通常作为一个用于所有变量的参数,因此在skip-gram模型的例子中,它基本...

2018-10-15 21:10:22

Ng | Logistic回归

为什么不用线性回归通常不推荐将线性回归用于分类问题线性回归是假设y远大于1或者远小于0的假设陈述Listitem我们接下来会developelogistic回归决策界限让我们来看看logistic回归在计算什么决策边界是假设函数的一个属性代价函数如何去拟合函数呢?如果是逻辑回归,也不是不能用上面这个代价函数,但是如果使用这个,他会变成参数t...

2018-10-11 21:50:06

CS224n | 词向量表示word2vec

1一是没有相似性二是太大我们可以探索一种直接的方法一个单词编码的含义是你可以直接阅读的我们要做的构建这样的向量,然后做一种类似求解点积的操作。这样我们就可以了解词汇之间有多少相似性分布相似性是指你可以得到大量表示某个词汇含义的值,只需要通过观察其出现的上下文,并对这些上下文做一些处理得到。比如图中banking的含义,需要做的就是找到数千个包含banking的例句,然后观察...

2018-10-11 18:41:21

CS224n | NLP和深度学习

核心是句法分析,和语义理解计算机并不是从一堆海量信息中,分析数据。几乎所有的人类语言,都是某个人想要传递某个信息。DL谷歌一开始的搜索就是使用特征,如果一个特征好用,小组讨论,好用就加进去。当时这叫机器学习,其实机器并没学什么。机器学习在实际运用中,大约90%的工作是 人类研究如何描述数据,总结出重要特征;只有约10%的工作是电脑运行的数值优化算法深度学习是表征学习...

2018-10-10 21:17:11

开窗函数

一、什么是开窗函数,开窗函数有什么作用,特征是什么?所谓开窗函数就是定义一个行为列,简单讲,就是在你查询的结果上,直接多出一列值(可以是聚合值或是排序号),特征就是带有over()。二、开窗函数分类根据使用的目的,开窗函数可以分为两类:聚合开窗函数和排序开窗函数。下面主要解析四种常用的排序开窗函数:1、ROW_NUMBER()OVER();2、RANK(...

2018-10-08 23:16:30

自然语言处理之序列模型 | Seq2Seq\BeamSearch\Attention

Seq2Seqe为单词,从1到N相对于朴素贝叶斯,多出来了1到M主要参数在embedding主要运算在outputembeddingBeamSearchAttention

2018-10-04 21:48:16

自然语言处理之序列模型 | 一个RNNLM实例

run.py建立模型inputembedding是随机生成的,跟word2vec没关系inputplaceholder查表转换为向量celloutput

2018-10-01 19:27:47

自然语言处理之序列模型 |RNN和LSTM

RNNLSTM

2018-09-30 23:18:32

查看更多

勋章 我的勋章
  • 持之以恒
    持之以恒
    授予每个自然月内发布4篇或4篇以上原创或翻译IT博文的用户。不积跬步无以至千里,不积小流无以成江海,程序人生的精彩需要坚持不懈地积累!