3 SilenceDXY

尚未进行身份认证

暂无相关描述

等级
博文 39
排名 12w+

深度学习:调参技巧

1.梯度下降算法随机梯度下降随机梯度下降(SGD)是一种简单但又非常高效的方法,主要用于凸损失函数下线性分类器的判别式学习,例如(线性)支持向量机和Logistic回归。尽管SGD在机器学习社区已经存在了很长时间,但是最近在large-scalelearning(大规模学习)方面SGD获得了相当大的关注。(随机梯度下降法)的优势:高效。易于实现(有...

2019-06-21 17:03:37

深度学习之编程笔记

torch.max(input,dim,keepdim=False,out=None)->(Tensor,LongTensor)max函数需要注意的是,它是一个过载函数,函数参数不同函数的功能和返回值也不同。当max函数中有维数参数的时候,它的返回值为两个,一个为最大值,另一个为最大值的索引a=torch.randn(4,4)a0.06920.3142...

2019-06-14 10:06:49

深度学习之笔记本高温预警大作战

在这炎炎的夏日,当你写好一个神经网络准备跃跃欲试时。看着一步一步的训练,心里充满了欣慰。就在这时,笔记本突然发出高温报警,风扇也在飞速的旋转似乎要起飞了一样。这时,我突然想起前两天同学的电脑因为高温把显卡烧坏了。吓得我赶紧把程序关掉,手往键盘上一摸。烫skr人,基本可以煎鸡蛋了。Try1:由于现在还在家放假,用不了学校的公共服务器,我开始尝试使用谷歌的云计算服务器。首先把自己的数...

2019-06-11 11:09:20

深度学习:选择性搜索(Selective Search)

在目标检测时,为了定位到目标的具体位置,通常会把图像分成许多子块,然后把子块作为输入,送到目标识别的模型中。分子块的最直接方法叫滑动窗口法。滑动窗口的方法就是按照子块的大小在整幅图像上穷举所有子图像块。和滑动窗口法相对的是另外一类基于区域(regionproposal)的方法。selectivesearch就是其中之一!候选区域算法用分割不同区域的办法来识别潜在的物体。在分割的时候,我们要...

2019-05-13 13:58:32

深度学习:多目标检测之anchor box

无论是基于滑动窗口,还是基于网格YOLO的目标检测算法,都有可能存在同一个问题:有可能一个BOX中有多个目标,如下图所示:这样的图中,行人和车同时存在,并且他们的中心位置都位于同一个网格中。这种情况下,传统检测方法的输出,就无法胜任了。怎么解决这个问题呢?对于这个例子,我们引入AnchorBox,如下图所示,我们这里只用两个AnchorBox,说明同一个网格中最多可能存在两类物体。Anc...

2019-04-10 17:35:28

深度学习:卷积实现滑动窗口(Convolutional implementation of sliding windows)

一、FC网络在有全连接层的网络中,第一个FC是将上一层5516的多维数据拉成一行,转化为11400,在通过一个变换矩阵,变成第二个FC,然后经过softmax输出预测结果。二、全卷积网络在全卷积网络中,我们通过卷积替换掉全连接,具体做法是:1.在第一个FC处,使用400个5516的卷积核对上一层layer进行处理,得到的输出是11400。这样,输出中每一个值都包含了一个5516的卷积核。...

2019-04-10 10:44:34

深度学习: 数据增强(Data Augmentation)

数据扩充(dataaugmentation),又名数据增强/数据增广。在深度学习中,当数据量不大时可能会导致过拟合,使得训练误差很小,但测试误差却特别大。怎么办呢,你又没钱买数据?显然最好的办法(之一,其他方法请参看“当数据量不够大的时候”)就是自己“造”数据——人工增加训练集的大小,也就是DataAugmentationTransformation。不同的任务背景下,通常我们可以...

2019-04-09 17:07:33

深度学习:迁移学习(Transfer learning)

深度学习中,最强大的理念之一就是迁移学习,有的时候神经网络可以从一个任务中习得知识,并将这些知识应用到另一个独立的任务中。所以例如,也许你已经训练好一个神经网络,能够识别像猫这样的对象,然后使用那些知识,或者部分习得的知识去帮助您更好地阅读x射线扫描图,这就是所谓的迁移学习。具体来说,在第一阶段训练过程中,当你进行图像识别任务训练时,你可以训练神经网络的所有常用参数,所有的权重,所有的层,然...

2019-04-09 16:25:33

深度学习:Inception网络

构建CNN时,你要决定卷积核的大小,是1x3合适,还是3x3合适,还是5x5合适?要不要添加pooling层?做这些决定(很可能是通过gridsearch)很麻烦,对吧?Inception网络的优点,就是能代替你做决定。Inception层的基本思想Inception层是Inception网络中的基本结构。Inception层的基本原理如下图:Inception层中,有多个卷积层结构(...

2019-04-08 15:39:29

深度学习:ResNet(残差网络)

ResNet在ILSVRC2015竞赛中惊艳亮相,一下子将网络深度提升到152层,将错误率降到了3.57,在图像识别错误率和网络深度方面,比往届比赛有了非常大的提升,ResNet毫无悬念地夺得了ILSVRC2015的第一名。如下图所示:一说起“深度学习”,自然就联想到它非常显著的特点“深”,通过很深层次的网络实现准确率非常高的图像识别、语音识别等能力。因此,我们自然很容易就想到:深的网络一般会...

2019-04-08 14:39:52

深度学习:局部响应值归一化(Local Response Normalization,LRN)

LocalResponseNormalization(LRN)技术主要是深度学习训练时的一种提高准确度的技术方法。LRN一般是在激活、池化函数后的一种方法。在ALexNet中,提出了LRN层,对局部神经元的活动创建竞争机制,LRN仿造生物学上活跃的神经元对相邻神经元的抑制现象(侧抑制)。Hinton在2012年的Alexnet网络中给出其具体的计算公式如下:公式看上去比较复杂,但理...

2019-04-02 15:20:23

浙江工业大学计算机复试经验

2019年的考研终于告一段落了,现在也开始忙着做毕业设计。今天准备写写博客,记录一下自己考研阶段的一些经历。选择浙江工业大学是一件比较艰难的事,我知道每个考研的同学都希望自己能去一个211或985学校,但是考虑到自己的一些其他因素,最终还是选择了工大。其实现在感觉也还好,研究生最重要的还是有一个好的导师和环境,当然更好的学校有更多的好导师,但是不代表普通学校就没有好导师。另外,一个好的就业环...

2019-04-02 13:09:56

Mask R-CNN学习笔记

推荐:机器之心,gluon,mxnet(b站)

2019-03-28 18:23:50

logistic逻辑回归算法推导

逻辑回归:解决分类问题在线性回归的基础上,通过激活函数sigmod转换为0-1概率值大小。损失函数越靠近0,1,cost越大。为凸函数,可以通过梯度下降方法求得最小值。函数图如下:梯度下降法求最低值函数求导前半部分的导数后半部分的导数相加结果:求导总结:...

2019-03-09 19:19:34

我的大学待续

马上就要研究生复试了,回忆起以前自己做的项目似乎已经有些淡忘了。今天准备写下自己过去所经历过的实习、比赛等项目经历。2015年大一上代码恐惧进入到计量大学的我,心里充满对学术的憧憬,想尽快能在某个领域学到一身技术。然而刚刚大一什么也不懂,一开始连代码是什么都没有一点概念。自己对计算机科学的概念还停留在初高中的计算机上课,以为只是学学软件应用,就是传说的计算机大神了。结果第一节C语言课就把...

2019-03-04 15:53:06

OJ中过不去的坑

曾经跟室友一起参加过许多次的OJ比赛,每次都感觉明明自己没有错,为什么最后OJ一直不通过。以前练习的OJ平台一直不给不通过的提示信息,今天我在小米OJ的练习题目中,终于找到了,那个让我们曾经头疼的原因。int的取值范围为:-231——231-1,即-2147483648——2147483647只有把int换成long类型,所有的测试案例就能通过了。这个一直解不开的迷,现在总算是解开了。...

2019-02-26 16:25:28

研究生复试之专业问答

比较TCP与UDPTCP与UDP都是传输层的协议,且都用端口号标识数据所达的进程。TCP提供的是面向连接服务,提供可靠交付。且具有流量控制和拥塞控制。可用于可靠要求高的场合如:SMTP,FTP,HTTP等。UDP提供的是无连接服务,提供不可靠交付,且无确认机制。主要用于即时强的场合如:视频聊天,语音电话等。网络协议的三个核心要素,及概念.各起...

2019-02-26 11:42:38

hibernate一对多映射配置

在客户实体类中set联系人的对象//表示所有的联系人 privateSet<LinkMan>setLinkMan=newHashSet<LinkMan>(); publicSet<LinkMan>getSetLinkMan(){ returnsetLinkMan; } publicvoidsetSetLinkMan(Set&...

2019-02-25 14:55:49

毕业设计之外文翻译(工具篇)

外文翻译的步骤(借助工具)一、外文文献检索:可以借助学校图书馆资源Google学术一些免费的外文网站二、下载pdf外文资源三、将pdf文件直接进行文档翻译https://www.onlinedoctranslator.com/1.上传文档,我们将立即翻译它,同时保持其原有排版。文档中的文本将被小心提取,以保持各个部分原本的格式和式样。2.DocTranslator使用强...

2019-02-25 14:34:31

比特币技术原理

https://weibo.com/tv/v/HgaNTlNgG?fid=1034:4338546413377740一、比特币2008年11月1日中本聪《白皮书》去中心化的电子记账系统3.记账奖励1.手续费2.打包奖励4.以谁为准:工作量证明二、挖矿原理1、哈希函数:sha56正向算容易,反向算困难2、原理字符串:前块头部+账单+时间+随机hash=sha256(sh...

2019-02-22 20:03:17
奖章
  • 持之以恒
    持之以恒
    授予每个自然月内发布4篇或4篇以上原创或翻译IT博文的用户。不积跬步无以至千里,不积小流无以成江海,程序人生的精彩需要坚持不懈地积累!
  • 勤写标兵Lv1
    勤写标兵Lv1
    授予每个自然周发布1篇到3篇原创IT博文的用户。本勋章将于次周上午根据用户上周的博文发布情况由系统自动颁发。