3 supe_king

尚未进行身份认证

装作没有梦想...qq:383154935

等级
博文 13
排名 10w+

《深度学习训练日志》

2019-3-2020:17问题:在训练YOLO-V2的目标检测模型时,使用resnet18的主网络架构,并利用其预训练权重,在训练的一段时间后,网络出现NAN值?解决:经各方面验证发现,网络经过几次迭代之后,发生梯度爆炸,导致梯度更新之后,出现NAN值。网上查询了几种梯度爆炸的解决方式,例如什么减小学习率,残差网络,relu激活,bn层等。显然,这些方式,本模型中已经具备。还有一种方式...

2019-05-21 14:02:37

clion破解教程

尝试了很多C++编辑器,不是太老,就是太复杂。直到有天用到了clion,才感受到简约之美。难受的是cion并不免费,仿佛是在证明好货不贵的道理,只能免费用30天。ok,尝试了很多破解教程,直到用了以下方法,一次性成功,现在记录下来,以便后用。1下载clion地址:https://www.jetbrains.com/clion/download/#section=windows,下载后直接...

2019-03-06 16:19:46

Tensorflow 中的模型保存及权重迁移

先从简单的说起,tf.train.import_meta_graph()保存方式:默认保存方式,固化模型的保存方式pb文件获取操作名称graph=tf.get_default_graph()graph.get_operations()需要的操作加入进去tf.add_to_collection(name,value)得到需要的操作名tf.get_collec

2018-09-20 16:35:38

ubuntu下caffe的FCN8模型训练

第一次写博客,仅此纪念所趟过的坑。话不多说我们直入主题。玩caffe的人想必都训练过最初始的教程mnist——手写字符识别。很easy,网上教程多如牛毛,这里我就废话不说。但是关于FCN可能就是有点模糊,因为我玩的时候就是,可能写的比较好的当属一个ID叫做“隐匿人海”的博客,我从小白到跑通FCN,也是从他那里偷师学艺过。之所以别人已经写过了,为什么我还要再写一篇,那么要算就算我是个纠结于情怀的人吧...

2018-02-08 09:34:53

windows下tensorflow-GPU版本安装

随着tensorflow的更新的,windows下的GPU版本也可以愉快的安装了,以前只能安装cpu。其实网上这方面的教程很多,但是搜索出来的基本都是16年的博客,安装步骤繁琐。在现在看来根本不需要那么麻烦,下面我就介绍一下大致流程,以前自己用的比较nice的网址。第一步:下载anaconda这个不用说了吧,很简单直接百度anaconda,下载官网发布的最新版本的anaconda,根据教程

2018-02-05 10:36:06

tensorflow中正则化防止过拟合以及Batch Normalization

一、正则化正则化原理这里就不介绍了,网上资源有很多,详情可以点击这里(https://zhuanlan.zhihu.com/p/29297934)但是网上大多数关于正则化的教程太乱,而且有很多代码不能试用。这里说一个可以用的:首先在权值初始话的时候,对权值进行正则化计算,利用函数:tf.contrib.layers.l1_regularizer(lambda1)

2017-10-25 20:57:26

Tensorflow的梯度异步更新

Tensorflow的梯度异步更新背景:先说一下应用吧,一般我们进行网络训练时,都有一个batchsize设置,也就是一个batch一个batch的更新梯度,能有这个batch的前提是这个batch中所有的图片的大小一致,这样才能组成一个placeholder。那么若一个网络对图片的输入没有要求,任意尺寸的都可以,但是我们又想一个batch一个batch的更新梯度怎么办呢?操作如下:先计算梯度:#

2017-09-18 11:36:04

tensorflow知识点小总结2

1梯度更新正常的梯度更新:optm=tf.train.AdamOptimizer(learning_rate).minimize(loss)实际上tf.train.AdamOptimizer进行了两部运算,第一步计算梯度,第二步更新梯度。另一种更新方式就是先计算梯度,再更新我们需要更新的变量。如下,第一种方式,一步计算:t_vars=tf.trainable_var

2017-08-01 08:39:14

linux下opencv与cuda8.0冲突问题

linux下,在配置caffe,或者其他环境时,经常会出现opencv编译错位的问题。其中个人感觉最麻烦的就是opencv2.4.8以及opencv3...以上版本与cuda8.0的冲突。经过不断尝试,解决方法如下:用opencv-2.4.13代替其他本版本的openv,这个版本网上很多,这里就不给出链接。首先安装一些必要的依赖库:sudoapt-getinstall-y--

2017-06-29 11:20:57

初试tensorflow

tensorflow的使用

2017-05-18 19:47:08

简述新笔记本安装ubuntu卡在登陆界面等问题解决方式

第一个问题:用U盘制作好系统之后,进行装机时,卡在logo登陆界面,或者根本进不去卡着黑屏解决方式:在装机开始时,会有一个界面上面有几个英文选项,什么安装、试用等,在这个界面时,按e键,进入grub的编辑模式,在--前面加入这样一条命令:acpi_osi=linuxnomodeset然后F10保存继续,即可。第二个问题:进入之后,字体界面巨大,很多选项看不见,无法进行操作

2017-03-18 09:21:02

caffe下fcn数据集制作的简化

前面一直跑caffe下的fcn,同时上一篇博客,也说明了关于fcn的数据集的制作。但是过程还是显的很复杂,因为我们都是模仿作者的数据集而作,而作者为了完成多任务,数据集制作的略显复杂,比如还需用到.mat文件。但其实我们跑fcn有了python这个接口,数据的输入完全可以是一张张图片,并不要转成其他格式。下面我就来具体说明一下,怎么更改几个caffe的fcn的文件,就可以实现数据集的简化制作。

2017-02-27 15:55:02

caffe下fcn数据集的制作

看过我上篇博客的人,想必已经跑通了作者的fcn数据集,现在就就是制作自己的数据集并进行训练。其实不难,首先我们分析一下作者的数据集voc。根据他的数据集,模仿一个即可。首先我们看作者训练时需要的两个数据集voc和dataset(这里我的voc,我自己改了名字叫做voc2016):这两个数据集分别有什么用呢?其中dataset存放的是训练时所用的数据,voc2016存放的则是测试所用的数

2017-02-18 10:47:42
奖章
    暂无奖章