- 博客(40)
- 收藏
- 关注
RSS订阅原创 独家连载 | 使用BP网络解决异或问题
4.7 使用BP网络解决异或问题代码4-1：BP神经网络解决异或问题import numpy as npimport matplotlib.pyplot as plt# 输入数据X = np.array([[0,0],[0,1], [1,0],[1,1]])# 标签T = np.array([[0],[1],[1],[0]])# 定义一个2层的神经网络：2-10-1# 输入层2个...
2019-01-11 11:14:11
882
2
原创 独家连载 | 梯度消失和梯度爆炸
4.6 梯度消失与梯度爆炸4.6.1 梯度消失根据上文BP算法中的推导，我们从公式4.44,4.45,4.46中可以知道，权值的调整ΔW是跟学习信号δ相关的。同时我们从4.41,4.42,4.43中可以知道在学习信号δ表达式中存在f ’ (x)。也就是说激活函数的导数会影响学习信号δ的值，而学习信号δ的值会影响权值调整ΔW的值。那么激活函数的值越大，ΔW的值就越大；激活函数的值越小，ΔW的值也...
2019-01-11 11:11:51
362
原创 独家连载 | 误差反向传播算法推导
4.5 BP网络模型和公式推导4.5.1BP网络模型假设我们有一个2层(统计神经网络层数的时候一般输入层忽略不计)的神经网络如图4.17所示：该网络的输入向量为X = （x1，x2，…，xi，…，xn），图中x0 = 1表示输入层偏置值。隐藏层输出向量为Y1=(y11,y21,…,yj1,…,ym1)Y^1=( y_1^1,y_2^1,\ldots,y_j^1,\ldots,y_m^...
2019-01-11 11:08:58
636
原创 独家连载 | 单层感知器与线性神经网络（续）！
前言：让我们基于上次没有讲完的单层感知器与线性神经网络继续。3.2.6学习率学习率是人为设定的一个值，主要是在训练阶段用来控制模型参数调整的快慢。关于学习率主要有3个要点需要注意：1.η取值一般取0-1之间；2.太大容易造成权值调整不稳定；3.学习率太小，模型参数调整太慢，迭代次数太多。你可以想象一下在洗热水澡的时候：如果每次调节的幅度很大，那水温要不就是太热，要不就是太冷，很难得到一...
2019-01-07 18:41:36
388
原创 独家连载 | 常用激活函数讲解
4.4 常用激活函数讲解神经网络的激活函数其实有很多种，在前面的章节中我们介绍过两种激活函数，sign函数和purelin函数。sign函数也称为符号函数，因为sign(x)中x＞0，函数结果为1；sign(x)中x＜0，函数结果为-1。purelin函数也称为线性函数，表达式为y=x。这两种激活函数在处理复杂非线性问题的时候都不能得到很好的结果，线性函数的分类边界也是线性的，所以不能区别非线性...
2019-01-07 18:39:54
2687
3
原创 独家连载 | 理解梯度下降法
4.3.2 梯度下降法(Gradient Descent)二维例子4.2.1中我们已经知道了代价函数的定义，代价函数的值越小，说明模型的预测值越接近真实标签的值。代价函数中的预测值y是跟神经网络中的参数w和b相关的。我们可以先考虑一个简单的情况，假如神经网络只有一个参数w，参数w与代价函数loss的关系如图4.2所示：假设w的初始值是-3，我们需要使用梯度下降法来不断优化w的取值，使得los...
2019-01-04 18:49:36
352
原创 独家连载 | BP网络介绍和代价函数介绍
4.1 BP神经网络介绍及发展背景BP(back propagation)神经网络是1986年由Rumelhart和McClelland为首的科学家提出的概念，他们在《Parallel Distributed Processing》一书中对BP神经网络进行了详细的分析。BP神经网络是一种按照误差逆向传播算法训练的多层前馈神经网络，它是20世纪末期神经网络算法的核心，也是如今深度学习算法的基础。...
2019-01-03 12:20:10
668
1
原创 独家连载 | 线性神经网络应用
3.3线性神经网络3.3.1线性神经网络介绍线性神经网络跟单层感知器非常类似，只是把单层感知器的sign激活函数改成了purelin函数: y=x#(3.5)purelin函数也称为线性函数，函数图像为图3.8：3.3.2线性神经网络分类案例参考3.2.9中的案例，我们这次使用线性神经网络来完成相同的任务。线性神经网络的程序跟单层感知器的程序非常相似，大家可以思考一下需要修改哪些地方。...
2019-01-03 12:15:41
374
原创 独家连载 | 超详细！带你走进单层感知器与线性神经网络
第03章-单层感知器与线性神经网络3.1生物神经网络人工神经网络ANN的设计实际上是从生物体的神经网络结构获得的灵感。生物神经网络一般是指生物的大脑神经元，细胞，触电等组成的网络，用于产生生物的意识，帮助生物进行思考和行动。神经细胞构是构成神经系统的基本单元，简称为神经元。神经元主要由三部分构成：①细胞体；②轴突；③树突。如3-1图所示每个神经元伸出的突起分2种，树突和轴突。树突分支比较...
2019-01-02 11:46:48
609
原创 独家连载 | Python环境的搭建
第02章-Python编程环境安装2.1 Python介绍Python是一种面向对象的解释型计算机程序设计语言，由荷兰人Guido van Rossum于1989年发明。Python具有丰富强大的库，常被称为“胶水语言”，因为它能够把其他语言(尤其是C/C++)制作各种模块轻松联结在一起。Python的主要优点是开发效率高，可移植性强，可拓展性强，应用广泛等，主要的缺点是程序运行效率相比C/...
2019-01-02 11:29:31
197
原创 实战 | 快速上手Pandas
pandas是python数据分析中非常常用的一个模块，pandas中功能较多学起来有一定难度，本片文章通过一些简单例子带大家快速上手pandas。我们要用的森林植被的数据，文件名为parks.csv。首先先载入pandas：import pandas as pd然后用pandas读入数据，把公园编号’Park Code’设置为indexdf = pd.read_csv('parks....
2018-12-27 10:40:37
261
原创 实战 | 教你用Python画各种版本的圣诞树
项目介绍大家好呀，这是一份迟到的圣诞节Python专辑项目。我们一起看看如何用Python做出超级炫酷的圣诞树吧~1.入门版本height = 5stars = 1for i in range(height): print((' ' * (height - i)) + ('*' * stars)) stars += 2print((' ' * height) + '|...
2018-12-27 10:30:51
6142
1
原创 独家连载 | 深度学习“四大天王”，你知道几个？
前言：大家好，我是覃秉丰，又在周二和大家见面了。继我们上周介绍的①机器学习；②人工智能，机器学习，神经网络以及深度学习之间的关系；③深度学习应用；④神经网络发展史这四小节内容后，今天我们要介绍的是深度学习领域的几个重要人物，你可以称他们为深度学习界的“四大天王”。1.5深度学习领域重要人物深度学习领域有很多做出过卓越贡献的大师，下面简单介绍几位。Geoffrey Hinton：英国出生的计...
2018-12-18 16:46:03
1717
原创 Python实战项目：详解银行用户流失预测
项目介绍这次我们要学习的是银行用户流失预测项目，首先先来看看数据，数据分别存放在两个文件中，’Churn-Modelling.csv’里面是训练数据，’Churn-Modelling-Test-Data.csv’里面是测试数据。下面是数据内容：数据来源于国外匿名化处理后的真实数据RowNumber：行号CustomerID：用户编号Surname：用户姓名CreditScore：信用...
2018-12-14 11:36:15
4615
1
原创 独家连载 | 覃秉丰深度学习重磅新书首发抢读！！！（2）
前言：大家好，我是覃秉丰，又和大家见面了。之前我发布了关于我的《深度学习从0到1》的新书首读。鉴于大家的反响都比较热烈，所以我决定继续连载，希望给每个深度学习的践行者带来一点小小的帮助和启发。1.3深度学习应用深度学习最早兴起于图像识别，在最近几年可以说是已经深入各行各业。深度学习在计算机视觉，语音识别，自然语言处理，机器人控制，生物信息，医疗，法律，金融，推荐系统，搜索引擎，电脑游戏，娱乐等...
2018-12-13 15:25:06
734
1
原创 实战| 一行命令对你的图像视频进行风格迁移
1.项目介绍今天我们要做的是一个快速图像风格迁移的程序。那么，什么是图像风格迁移？图像风格迁移就是把一种图像风格转变为另一种图像风格。例如，原图为：加上不同风格的图像可以得到如下不同的结果：2.使用训练好的模型来生成图像2.1环境PythonTensorflow2.2模型下载训练好的模型有7个，表示7种类型的风格，模型文件的百度云：模型的百度云地址密码:35pg2.3使...
2018-12-13 15:03:57
2205
4
原创 OpenCV和Zbar两个Python模块实现二维码和条形码识别
在我们的日常生活中，处处可见条形码和二维码。在以前，我们去逛书店时，或者你现在随手拿起你身边的一本书，你肯定能看到书本的封页后面印有一排黑色线条组成的标签，也就是条形码；你去你们学校的自助机上借书还书时识别的也是条形码；哦，对了，你还记得每次大型考试答题卡上都会贴上监考老师分发给你的那个标签吗？还是条形码；甚至现在你随随便便逛个超市或便利店，收银员或者自助机也都是通过扫商品条形码给你计价的。条形...
2018-12-07 15:58:35
1453
原创 独家连载 | 覃秉丰深度学习重磅新书首发抢读！！！（1）
前言：在很早以前我就跟电子工业出版社签约，要出版一本深度学习相关的入门书籍，书籍的内容会从深度学习基础开始讲解，面向0基础读者，尽量通俗易懂，讲解清晰。书中代码是使用python，深度学习框架tensorflow。本着认真负责的态度，这本书写了很久（其实是懒）。如今内容已经写了一些，估计2019年年后新书会出版，所以打算先做一些书籍内容的连载。以后每周二会在我的各个平台同步更新，觉...
2018-12-06 15:54:08
445
原创 实战 | 一行命令训练你的图像分类模型
1.项目介绍这次给大家介绍一个很方便的训练自己图像识别模型的一个程序。可以通过一行命令实现训练自己的图像识别模型，并且训练的速度很快，效果也不错。图像分类有三种训练方式：构建一个新的模型并从头开始训练，称为scrach。在已经训练好的模型基础上，修改模型的最后的全连接层，并重新训练全连接层称为bottleneck。在已经训练好的模型基础上，修改模型的最后的全连接层，并重新训练...
2018-12-06 12:38:17
600
1
原创 实战 | 一行命令实现看图说话（Google的im2txt模型）
一行命令实现看图说话|Google的im2txt模型1.项目介绍这次给大家介绍一个google的深度学习模型im2txt，这个模型的作用跟它的名字一样，image-to-text，把图像转为文字，也就是图片描述。这个模型是使用 2015 MSCOCO Image Captioning Challenge 的数据集训练出来的论文链接项目参考我对原始googel的项目做了很多简化，减少了...
2018-12-05 10:04:17
1908
5
原创 数据增强项目 | 一招让你的mao（猫）片十倍增长
我们知道深度学习模型训练时通常都需要大量的训练集，我们在做图像相关的应用时同样需要进行图像数据增加，下面我将给大家总结10种图像数据增强常用的方式，并给出keras的实现方法。一． 水平翻转随机的对图片进行水平翻转，这个参数适用于水平翻转不影响图片语义的时候。二． 竖直翻转随机的对图片进行竖直翻转，这个参数适用于竖直翻转不影响图片语义的时候。三． 随机旋转角度设置一个0~180的度...
2018-12-04 10:22:50
430
原创 糖尿病预测项目详解
这次我们要学习的项目是糖尿病的预测，数据保存在diabetes.csv文件中。数据一共有8个特征和1个标签：Pregnancies：怀孕次数Glucose：葡萄糖测试值BloodPressure：血压SkinThickness：皮肤厚度Insulin：胰岛素BMI：身体质量指数DiabetesPedigreeFunction：糖尿病遗传函数Age：年龄Outcome：糖尿病标签...
2018-12-03 13:45:23
6421
1
原创 实战 | 抖音百万点赞：视频的字符化
1.项目介绍在聊视频的字符化处理之前，我们先看一下图像的字符化处理。什么是图像的字符化，我们可以先看一下下面的两幅图，原图和字符化之后的图像：2.pillow模块介绍想要完成这个应用我们需要安装一个python工具包，pillow。安装方式为：pip install pillowpillow是python中一个常用的图像处理工具包，一些pillow的基本操作如下：# 导入模块...
2018-12-03 10:01:26
1570
原创 实战 | 你知道如何用python获取股票交易数据吗？
项目介绍看到标题大家的第一反应估计是怎么用爬虫来获取股票交易数据，要获取股票交易数据确实是需要用爬虫没错，不过还有比使用爬虫更加方便的方式。今天要给大家介绍的是一个专门用来获取国内股票交易数据的开源工具Tushare。Tushare是一个免费、开源的python财经数据接口包。主要实现对股票等金融数据从数据采集、清洗加工 到 数据存储的过程，能够为金融分析人员提供快速、整洁、和多样的便于分析的...
2018-11-30 15:26:47
13422
1
原创 深度学习框架-Keras基础入门系列-覃秉丰-专题视频课程
Keras是一种高度模块化，使用简单上手快，合适深度学习初学者使用的深度学习框架。Keras由纯Python编写而成并以Tensorflow、Theano以及CNTK为后端。Keras为支持实验而生，能够把你的idea迅速转换为结果。 对于深度学习的初学者，或者觉得Tensorflow,Caffe等框架学习困难难以上手的人，可以考虑学习Keras。...
2017-09-28 08:47:21
788
原创 1天搞定Python进阶课程-Matplotlib绘图-覃秉丰-专题视频课程
matplotlib是python中非常常用的绘图工具包，可用于查看显示数据分析的结果，查看程序运行流程等等。本课程会讲解到matplotlib中常用的一些知识点，包括绘制基本图形，散点图，直方图，等高线图，3D图，动态图等等。同时还是涉及到legend图例，标注，多figure，subplot，设置坐标轴等一些内容。...
2017-07-31 09:34:47
497
原创 1天搞定Python进阶课程-数据分析库Pandas-覃秉丰-专题视频课程
pandas是python中非常常用的数据分析库，在数据分析，机器学习，深度学习等领域经常被使用。本课程会讲解到pandas中核心的一些知识点，包括Series以及DataFrame的构建，赋值，操作，选择数据，合并等等，以及使用pandas对文件进行读取和写入，使用pandas绘图等等。...
2017-07-31 09:34:35
213
1
原创 1天搞定Python进阶课程-科学计算库Numpy-覃秉丰-专题视频课程
numpy是python基本常用的科学计算库，在数据分析，机器学习，深度学习等领域经常被使用，可以说是学习python的一个库。本课程会讲解到numpy中核心的一些知识点，包括numpy的属性，创建array，numpy的运算，矩阵运算，随机数生成，numpy的索引，array的合并与分割，numpy的浅拷贝深拷贝等内容。帮助大家掌握numpy的使用。...
2017-07-31 09:34:23
197
原创 3天搞定机器学习深度学习基础-Python入门系列-覃秉丰-专题视频课程
本课程内容经过精心设计和挑选，只保留精华的python入门知识点。包括：Anaconda的安装使用，print，input用法，运算符和变量，while循环和for循环，列表，元组，if条件，字典，函数，模块，类，文件读写，异常处理，数据存储等等。PS:本课程不会涉及到机器学习深度学习相关知识。只不过python已经成为深度学习使用广泛的编程语言，所以学习深度学习之前好先学会python。...
2017-07-27 17:54:23
938
原创 5天搞定深度学习框架-Caffe入门系列-覃秉丰-专题视频课程
本课程是在windows环境下的caffe课程，主要使用的是python的接口。 首先带着大家完成一个MNIST手写数字识别的项目，让大家了解caffe训练模型的大致流程。然后会讲到caffe中的一些重要文件和配置，使用python绘图。后的部分会使用GoogleNet实现图像识别。...
2017-07-27 17:54:10
543
原创 5天搞定深度学习进阶系列教程-覃秉丰-专题视频课程
这门课程是“深度学习入门系列培训教程”的后续内容，深度学习进阶系列培训课程概况：在深度学习入门系列的课程中，我们基本掌握了一些基础知识，在这门课程中我们将进一步学习深度学习原理、核心内容。包括深度置信网络DBN学习，卷积神经网络CNN入门到精通，深度残差网络RES和长短时记忆网络LSTM的构建以及使用。后一部分我们也会稍微讲解一些人工智能前沿的发展强化学习RL，迁移学习TL和生成式对抗...
2017-07-27 17:53:59
489
原创 Tensorflow基础入门系列-覃秉丰-专题视频课程
本课程上半部分会从Tensorflow基础的框架开始介绍，从Tensorflow的安装开始，一步一步仔细讲解Tensorflow中的各种技术细节。让大家上手编写神经网络。同时也会补充一些深度学习相关的理论知识，如交叉熵，Softmax函数，深度学习中各种优化器的算法和应用等内容。下半部分会从头开始详细讲解几个深度学习的项目，如图像识别，验证码识别，word2vec，文本分类，语音分类等。...
2017-07-26 09:22:14
316
原创 Tensorflow进阶项目系列-覃秉丰-专题视频课程
本课程上半部分会从Tensorflow基础的框架开始介绍，从Tensorflow的安装开始，一步一步仔细讲解Tensorflow中的各种技术细节。让大家上手编写神经网络。同时也会补充一些深度学习相关的理论知识，如交叉熵，Softmax函数，深度学习中各种优化器的算法和应用等内容。下半部分会从头开始详细讲解几个深度学习的项目，如图像识别，验证码识别，word2vec，文本分类，语音分类等。...
2017-07-26 09:21:57
326
原创 5天搞定深度学习入门系列-覃秉丰-专题视频课程
我们这门课程是面向0基础学员，从上世纪60年代基础的的单层感知器开始学习，从基础的知识开始，进行体系化的学习。课程会包含神经网络领域大多数重要分支，并通过这些分支延伸到如今热门的的深度置信网络DBN，卷积神经网络CNN，深度残差网络RES和长短时记忆网络LSTM。帮助大家从人工智能神经网络的新手变成高手。...
2017-07-25 08:44:20
656
1
转载 faster RCNN python 安装
原文转自http://blog.csdn.net/u011635764/article/details/52831167这篇博客主要是记录如何安装 python版的faster-RCNN ,因为之前已经安装过caffe了, Ubuntu16.04系统,显卡GTX1060以各种依赖,cuda8.0, cudnn, MKL, opencv3.1.0, 都已经安装过了,p
2016-11-23 11:11:57
4533
1
原创 Ubuntu16.04+cuda8.0+opencv3.1+caffe+anaconda安装，双显卡
最近为了研究深度学习所以需要安装一个深度学习的环境，弄了一个星期，重装了10次电脑总算是弄好了，虽然还有很多不明白的地方，不过整个流程基本上是熟悉了。安装过程中看了很多网上的教程，没有一个是可以正常安装好的。其实我第一次安装就成功了，测试程序也跑起来了，GPU运算速度很快，但是一重启就懵逼了。。。。。。因为我使用的电脑是双显卡intel核显以及Nvidia GEFORCE GTX960
2016-11-21 14:06:55
12186
5
原创 Ubuntu16.04使用Remastersys打包ISO
有时候我们需要把我们的系统打包为ISO镜像文件发布或者备份，我之前看了网上很多资料，没有找到一个是从头到尾按照步骤安装之后能用的。而且Remastersys项目已经停止，很多博客给出的下载地址都已经失效。下面开始安装首先找到一个文件夹存放要下载的包，我就直接下载到Document下面了cd ~/Documentwget ftp://ftp.gwdg.de/pub/linux
2016-11-21 12:22:34
18696
8
原创 caffe的googlenet模型使用
首先从网上下载imagenet训练好的模型，模型下载地址http://dl.caffe.berkeleyvision.org/bvlc_googlenet.caffemodel可以把模型放入/caffe-master/models/bvlc_googlenet/目录下bvlc_googlenet目录就是官方提供的googlenet模型，可以训练或者直接使用googlenet模型。可
2016-10-16 23:32:42
16243
2
原创 pycaffe配置
首先先用cmake把caffe安装好，这里就省略了这一步。然后:sudo apt-get updatesudo apt-get install python-pip python-dev python-numpysudo apt-get install gfortran graphvizsudo apt-get install python-numpy python-sci
2016-10-14 23:43:06
696
原创 Python的运行版本
问题描述：Ubuntu 12中默认就自带了Python的2.7版本，我自己安装了一个python3.2的版本，可是如果你不设置环境变量，那么在终端中运行的python都是系统默认的版本，这样就会导致3.2的程序在终端下无法运行，没有办法必须要将默认的python版本换到3.2.问题分析：其实在linux系统中多个python版本是可以共存的，只不过在终端中运行的时候，输入
2016-10-13 17:53:03
407
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人