自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(6)
  • 收藏
  • 关注

原创 (笔记)细颗粒度的三值网络Ternary Neural Networks with Fine-Grained Quantization

原文链接摘要方法实验效果原文链接https://arxiv.org/abs/1705.01462摘要提出一种三值化方法,激活函数是8/4bit的,不需要训练,对N个权重量化到三值 ,N=2,4,8,16等等。当N=4时,ResNet-101和ResNet-50的Top1准确率分别下降3.7%和4.2%。方法目的:不训练地,把32bit浮点权重W...

2018-06-02 16:15:16 2102

原创 (笔记)网络压缩量化,训练三值量化TRAINED TERNARY QUANTIZATION

原文链接:摘要方法实验效果讨论原文链接:https://arxiv.org/abs/1612.01064摘要提供一个三值网络的训练方法。对AlexNet在ImageNet的表现,相比32全精度的提升0.3%。方法对于每一层网络,三个值是32bit浮点的{−Wnl,0,Wpl}{−Wln,0,Wlp}\{-W^n_l, 0 , W^p_l\},...

2018-05-20 16:14:38 3614 1

原创 (笔记)脉冲深度残差网络Spiking Deep Residual Network

原文链接摘要方法一方法二实验原文链接https://arxiv.org/abs/1805.01352摘要本文提供一种有效的把ResNet转成脉冲神经网络(SNN)的方法。主要提出两个方法。 一,针对残差结构的归一化,把连续激活函数值转成发射频率(firerate)。 二,分层的误差补偿。方法一针对残差结构的归一化,把连续激活函数值转成发射频率(f...

2018-05-13 17:04:53 1643

原创 (笔记)通过知识蒸馏和量化进行模型压缩MODEL COMPRESSION VIA DISTILLATION AND QUANTIZATION

(笔记)Model Compression via Distillation and Quantization(笔记)Model Compression via Distillation and Quantization原文链接:https://arxiv.org/abs/1802.05668代码: https://github.com/antspy/quantized_distill...

2018-05-06 11:43:00 3706

原创 (笔记)神经网络压缩,Ristretto: Hardware-Oriented Approximation of Convolutional Neural Networks(一)

目录目录原文简要介绍摘要原文paper: http://lepsucd.com/wp-content/uploads/2015/08/Thesis_Philipp_Gysel.pdf code: https://github.com/MichalBusta/Ristretto-caffe/commit/55c64c202fc8fca875e108b48c13993b7fdd0f63 20

2017-10-14 10:52:32 2699 1

翻译 (摘要)ICLR 2017 神经网络压缩,Incremental Network Quantization: Towards Lossless CNNs with Low-Precision Weig

目录目录原文摘要原文原文:https://arxiv.org/abs/1702.03044 代码:https://github.com/Zhouaojun/Incremental-Network-Quantization摘要Incremental Network Quantization(INQ)是一种神经网络压缩方法。它以已训练的任意全精度网络作为输入,输出权值为0或2的整数次幂的网络

2017-10-08 10:59:38 1808

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除