8 Qin_bf

尚未进行身份认证

我的微信公众号:深度学习与神经网络 我的Github:https://github.com/Qinbf

等级
TA的排名 8w+

独家连载 | 使用BP网络解决异或问题

4.7使用BP网络解决异或问题代码4-1:BP神经网络解决异或问题importnumpyasnpimportmatplotlib.pyplotasplt#输入数据X=np.array([[0,0],[0,1],[1,0],[1,1]])#标签T=np.array([[0],[1],[1],[0]])#定义一个2层的神经网络:2-10-1#输入层2个...

2019-01-11 11:14:11

独家连载 | 梯度消失和梯度爆炸

4.6梯度消失与梯度爆炸4.6.1梯度消失根据上文BP算法中的推导,我们从公式4.44,4.45,4.46中可以知道,权值的调整ΔW是跟学习信号δ相关的。同时我们从4.41,4.42,4.43中可以知道在学习信号δ表达式中存在f’(x)。也就是说激活函数的导数会影响学习信号δ的值,而学习信号δ的值会影响权值调整ΔW的值。那么激活函数的值越大,ΔW的值就越大;激活函数的值越小,ΔW的值也...

2019-01-11 11:11:51

独家连载 | 误差反向传播算法推导

4.5BP网络模型和公式推导4.5.1BP网络模型假设我们有一个2层(统计神经网络层数的时候一般输入层忽略不计)的神经网络如图4.17所示:该网络的输入向量为X=(x1,x2,…,xi,…,xn),图中x0=1表示输入层偏置值。隐藏层输出向量为Y1=(y11,y21,…,yj1,…,ym1)Y^1=(y_1^1,y_2^1,\ldots,y_j^1,\ldots,y_m^...

2019-01-11 11:08:58

独家连载 | 单层感知器与线性神经网络(续)!

前言:让我们基于上次没有讲完的单层感知器与线性神经网络继续。3.2.6学习率学习率是人为设定的一个值,主要是在训练阶段用来控制模型参数调整的快慢。关于学习率主要有3个要点需要注意:1.η取值一般取0-1之间;2.太大容易造成权值调整不稳定;3.学习率太小,模型参数调整太慢,迭代次数太多。你可以想象一下在洗热水澡的时候:如果每次调节的幅度很大,那水温要不就是太热,要不就是太冷,很难得到一...

2019-01-07 18:41:36

独家连载 | 常用激活函数讲解

4.4常用激活函数讲解神经网络的激活函数其实有很多种,在前面的章节中我们介绍过两种激活函数,sign函数和purelin函数。sign函数也称为符号函数,因为sign(x)中x>0,函数结果为1;sign(x)中x<0,函数结果为-1。purelin函数也称为线性函数,表达式为y=x。这两种激活函数在处理复杂非线性问题的时候都不能得到很好的结果,线性函数的分类边界也是线性的,所以不能区别非线性...

2019-01-07 18:39:54

独家连载 | 理解梯度下降法

4.3.2梯度下降法(GradientDescent)二维例子4.2.1中我们已经知道了代价函数的定义,代价函数的值越小,说明模型的预测值越接近真实标签的值。代价函数中的预测值y是跟神经网络中的参数w和b相关的。我们可以先考虑一个简单的情况,假如神经网络只有一个参数w,参数w与代价函数loss的关系如图4.2所示:假设w的初始值是-3,我们需要使用梯度下降法来不断优化w的取值,使得los...

2019-01-04 18:49:36

独家连载 | BP网络介绍和代价函数介绍

4.1BP神经网络介绍及发展背景BP(backpropagation)神经网络是1986年由Rumelhart和McClelland为首的科学家提出的概念,他们在《ParallelDistributedProcessing》一书中对BP神经网络进行了详细的分析。BP神经网络是一种按照误差逆向传播算法训练的多层前馈神经网络,它是20世纪末期神经网络算法的核心,也是如今深度学习算法的基础。...

2019-01-03 12:20:10

独家连载 | 线性神经网络应用

3.3线性神经网络3.3.1线性神经网络介绍线性神经网络跟单层感知器非常类似,只是把单层感知器的sign激活函数改成了purelin函数:y=x#(3.5)purelin函数也称为线性函数,函数图像为图3.8:3.3.2线性神经网络分类案例参考3.2.9中的案例,我们这次使用线性神经网络来完成相同的任务。线性神经网络的程序跟单层感知器的程序非常相似,大家可以思考一下需要修改哪些地方。...

2019-01-03 12:15:41

独家连载 | 超详细!带你走进单层感知器与线性神经网络

第03章-单层感知器与线性神经网络3.1生物神经网络人工神经网络ANN的设计实际上是从生物体的神经网络结构获得的灵感。生物神经网络一般是指生物的大脑神经元,细胞,触电等组成的网络,用于产生生物的意识,帮助生物进行思考和行动。神经细胞构是构成神经系统的基本单元,简称为神经元。神经元主要由三部分构成:①细胞体;②轴突;③树突。如3-1图所示每个神经元伸出的突起分2种,树突和轴突。树突分支比较...

2019-01-02 11:46:48

独家连载 | Python环境的搭建

第02章-Python编程环境安装2.1Python介绍Python是一种面向对象的解释型计算机程序设计语言,由荷兰人GuidovanRossum于1989年发明。Python具有丰富强大的库,常被称为“胶水语言”,因为它能够把其他语言(尤其是C/C++)制作各种模块轻松联结在一起。Python的主要优点是开发效率高,可移植性强,可拓展性强,应用广泛等,主要的缺点是程序运行效率相比C/...

2019-01-02 11:29:31

实战 | 快速上手Pandas

pandas是python数据分析中非常常用的一个模块,pandas中功能较多学起来有一定难度,本片文章通过一些简单例子带大家快速上手pandas。我们要用的森林植被的数据,文件名为parks.csv。首先先载入pandas:importpandasaspd然后用pandas读入数据,把公园编号’ParkCode’设置为indexdf=pd.read_csv('parks....

2018-12-27 10:40:37

实战 | 教你用Python画各种版本的圣诞树

项目介绍大家好呀,这是一份迟到的圣诞节Python专辑项目。我们一起看看如何用Python做出超级炫酷的圣诞树吧~1.入门版本height=5stars=1foriinrange(height):print((''*(height-i))+('*'*stars))stars+=2print((''*height)+'|...

2018-12-27 10:30:51

独家连载 | 深度学习“四大天王”,你知道几个?

前言:大家好,我是覃秉丰,又在周二和大家见面了。继我们上周介绍的①机器学习;②人工智能,机器学习,神经网络以及深度学习之间的关系;③深度学习应用;④神经网络发展史这四小节内容后,今天我们要介绍的是深度学习领域的几个重要人物,你可以称他们为深度学习界的“四大天王”。1.5深度学习领域重要人物深度学习领域有很多做出过卓越贡献的大师,下面简单介绍几位。GeoffreyHinton:英国出生的计...

2018-12-18 16:46:03

Python实战项目:详解银行用户流失预测

项目介绍这次我们要学习的是银行用户流失预测项目,首先先来看看数据,数据分别存放在两个文件中,’Churn-Modelling.csv’里面是训练数据,’Churn-Modelling-Test-Data.csv’里面是测试数据。下面是数据内容:数据来源于国外匿名化处理后的真实数据RowNumber:行号CustomerID:用户编号Surname:用户姓名CreditScore:信用...

2018-12-14 11:36:15

独家连载 | 覃秉丰深度学习重磅新书首发抢读!!!(2)

前言:大家好,我是覃秉丰,又和大家见面了。之前我发布了关于我的《深度学习从0到1》的新书首读。鉴于大家的反响都比较热烈,所以我决定继续连载,希望给每个深度学习的践行者带来一点小小的帮助和启发。1.3深度学习应用深度学习最早兴起于图像识别,在最近几年可以说是已经深入各行各业。深度学习在计算机视觉,语音识别,自然语言处理,机器人控制,生物信息,医疗,法律,金融,推荐系统,搜索引擎,电脑游戏,娱乐等...

2018-12-13 15:25:06

实战| 一行命令对你的图像视频进行风格迁移

1.项目介绍今天我们要做的是一个快速图像风格迁移的程序。那么,什么是图像风格迁移?图像风格迁移就是把一种图像风格转变为另一种图像风格。例如,原图为:加上不同风格的图像可以得到如下不同的结果:2.使用训练好的模型来生成图像2.1环境PythonTensorflow2.2模型下载训练好的模型有7个,表示7种类型的风格,模型文件的百度云:模型的百度云地址密码:35pg2.3使...

2018-12-13 15:03:57

OpenCV和Zbar两个Python模块实现二维码和条形码识别

在我们的日常生活中,处处可见条形码和二维码。在以前,我们去逛书店时,或者你现在随手拿起你身边的一本书,你肯定能看到书本的封页后面印有一排黑色线条组成的标签,也就是条形码;你去你们学校的自助机上借书还书时识别的也是条形码;哦,对了,你还记得每次大型考试答题卡上都会贴上监考老师分发给你的那个标签吗?还是条形码;甚至现在你随随便便逛个超市或便利店,收银员或者自助机也都是通过扫商品条形码给你计价的。条形...

2018-12-07 15:58:35

独家连载 | 覃秉丰深度学习重磅新书首发抢读!!!(1)

前言:在很早以前我就跟电子工业出版社签约,要出版一本深度学习相关的入门书籍,书籍的内容会从深度学习基础开始讲解,面向0基础读者,尽量通俗易懂,讲解清晰。书中代码是使用python,深度学习框架tensorflow。本着认真负责的态度,这本书写了很久(其实是懒)。如今内容已经写了一些,估计2019年年后新书会出版,所以打算先做一些书籍内容的连载。以后每周二会在我的各个平台同步更新,觉...

2018-12-06 15:54:08

实战 | 一行命令训练你的图像分类模型

1.项目介绍这次给大家介绍一个很方便的训练自己图像识别模型的一个程序。可以通过一行命令实现训练自己的图像识别模型,并且训练的速度很快,效果也不错。图像分类有三种训练方式:构建一个新的模型并从头开始训练,称为scrach。在已经训练好的模型基础上,修改模型的最后的全连接层,并重新训练全连接层称为bottleneck。在已经训练好的模型基础上,修改模型的最后的全连接层,并重新训练...

2018-12-06 12:38:17

实战 | 一行命令实现看图说话(Google的im2txt模型)

一行命令实现看图说话|Google的im2txt模型1.项目介绍这次给大家介绍一个google的深度学习模型im2txt,这个模型的作用跟它的名字一样,image-to-text,把图像转为文字,也就是图片描述。这个模型是使用2015MSCOCOImageCaptioningChallenge的数据集训练出来的论文链接项目参考我对原始googel的项目做了很多简化,减少了...

2018-12-05 10:04:17

查看更多

勋章 我的勋章
  • 持之以恒
    持之以恒
    授予每个自然月内发布4篇或4篇以上原创或翻译IT博文的用户。不积跬步无以至千里,不积小流无以成江海,程序人生的精彩需要坚持不懈地积累!