lianzhng-CSDN博客

原创模型的保存和加载（方法二）

import globimport os.pathimport numpy as npimport tensorflow as tfimport randomfrom tensorflow.python.platform import gfilefrom tensorflow.python.framework import graph_util#保存模型v1=tf.Variab...

2018-07-30 05:44:35 431

全连接层的推导全连接层的每一个结点都与上一层的所有结点相连，用来把前边提取到的特征综合起来。由于其全相连的特性，一般全连接层的参数也是最多的。全连接层的前向计算下图中连线最密集的2个地方就是全连接层，这很明显的可以看出全连接层的参数的确很多。在前向计算过程，也就是一个线性的加权求和的过程，全连接层的每一个输出都可以看成前一层的每一个结点乘以一个权重系数W，最后加上一个偏置值b得到，即。如下图中第...

2018-06-11 15:20:09 54771

转载 LVQ网络

在竞争网络结构的基础上，学习向量化（learning vector quantization，LVQ）网络被提出来，融合竞争学习思想和有监督学习算法的特点，通过教师信号对输入样本的分配类别进行规定，从而克服自组织网络采用无监督学习算法带来的缺乏分类信息的弱点。1. 向量量化向量量化的思路是，将高维输入空间分成若干不同的区域，对每个区域确定一个中心向量作为聚类的中心，与其处于同一区域的输入向量...

2018-06-05 10:00:56 3221

原创 numpy中的np.clip()函数和TensorFlow中的tf.clip_by_value（）函数用法

Numpy 中clip函数的使用numpy.clip(a, a_min, a_max, out=None)[source]其中a是一个数组，后面两个参数分别表示最小和最大值，怎么用呢，老规矩，我们看代码：import numpy as npx=np.array([1,2,3,5,6,7,8,9])np.clip(x,3,8)Out[88]:array([3, 3, 3, 5, 6, 7, ...

2018-05-21 16:03:42 9403 2

转载学习率的改变

import tensorflow as tf; import numpy as np; import matplotlib.pyplot as plt; learning_rate = 0.1 decay_rate = 0.96 global_steps = 1000 decay_steps = 100 global_ = tf.Variable(tf.constant(0...

2018-05-16 09:57:14 1667

原创 tf.argmax的使用

tf.argmax(vector, 1)：返回的是vector中的最大值的索引号，如果vector是一个向量，那就返回一个值，如果是一个矩阵，那就返回一个向量，这个向量的每一个维度都是相对应矩阵行的最大值元素的索引号。import tensorflow as tf import numpy as np A = [[1,3,4,5,6]] B = [[1,3,4], [2,4,1]] ...

2018-05-15 16:34:54 170

转载 MNIST介绍

MNIST这个教程的目标读者是对机器学习和TensorFlow都不太了解的新手。如果你已经了解MNIST和softmax回归(softmax regression)的相关知识，你可以阅读这个快速上手教程。当我们开始学习编程的时候，第一件事往往是学习打印"Hello World"。就好比编程入门有Hello World，机器学习入门有MNIST。MNIST是一个入门级的计算机视觉数据集，它包含各种手...

2018-05-15 10:39:37 38413 6

原创 softmax函数

这几天学习了一下softmax激活函数，以及它的梯度求导过程，整理一下便于分享和交流。softmax函数softmax用于多分类过程中，它将多个神经元的输出，映射到（0,1）区间内，可以看成概率来理解，从而来进行多分类！假设我们有一个数组，V，Vi表示V中的第i个元素，那么这个元素的softmax值就是&amp;lt;img src=&quot;https://pic3.zhimg...

2018-05-12 14:43:33 244

转载 numpy.random.RandomState函数用法

numpy.random.RandomState函数用法本文出处：http://www.cnblogs.com/lutingting/p/5185408.html，源于：http://scikit-learn.org/stable/auto_examples/classification/plot_classifier_comparison.html#sphx-glr-auto-examples-...

2018-05-10 17:15:49 2133 1

原创迭代器和生成器

一、可迭代对象和迭代器1.迭代的概念上一次输出的结果为下一次输入的初始值，重复的过程称为迭代,每次重复即一次迭代，并且每次迭代的结果是下一次迭代的初始值注：循环不是迭代while True: #只满足重复，因而不是迭代 print('====>') 2.可迭代的对象内置__iter__方法的，都是可迭代的对象。list是可迭代对象，dict是可迭代对象，set也是可迭代对象。[1,...

2018-04-27 12:17:30 152

lianzhng的博客