deep_learninger-CSDN博客

原创 Feature Transfer Learning for Deep Face Recognition with Long-Tail Data 论文阅读笔记

问题：训练人脸模型需要依赖大规模数据，比如 MsCeleb1M,deepglint, WebFace 等，但这些大规模数据存在严重的long-tail 问题。简单说，20%人占了80%数据。这个问题普遍存在，也有不少paper解决该问题。比如range loss 等。本文idea：将GAN 网络方法融合到主流的人脸识别模型中，在特征领域进行迁移学习。本文方法比较...

2019-05-31 17:02:36 2098 1

转载神经网络推理加速：合并卷积和BN层运算原理及实验

1. 为什么要合并BN层在训练深度网络模型时，BN（Batch Normalization）层能够加速网络收敛，并且能够控制过拟合，一般放在卷积层之后。BN 层将数据归一化后，能够有效解决梯度消失与梯度爆炸问题。虽然 BN 层在训练时起到了积极作用，然而，在网络前向推断时多了一些层的运算，影响了模型的性能，且占用了更多的内存或者显存空间。目前，很多先进的网络模型（ResNet，MobileN...

2019-05-29 09:35:13 2465 1

原创迁移学习之Domain Adaptation

读：域适应是迁移学习中最常见的问题之一，域不同但任务相同，且源域数据有标签，目标域数据没有标签或者很少数据有标签，本文主要介绍了几篇基于卷积神经网络来处理域适应这个问题的文章。前一篇文章中的图2给出了迁移学习中几种常见的问题，其中一个比较重要的是域适应问题domain adaptation，域不同但任务相同，且源域数据有标签，目标域数据没有标签或者很少数据有标签。例如下图四个数据集，它们从不同...

2018-09-26 08:45:08 4552

原创 LeNet、AlexNet、GoogLeNet、VGG、ResNetInception-ResNet-v2、FractalNet、DenseNet

2006年Hinton他们的Science Paper再次引起人工神经网络的热潮，当时提到，2006年虽然Deep Learning的概念被提出来了，但是学术界的大家还是表示不服。当时有流传的段子是Hinton的学生在台上讲paper时，台下的机器学习大牛们不屑一顾，质问你们的东西有理论推导吗？有数学基础吗？搞得过SVM之类吗？回头来看，就算是真的，大牛们也确实不算无理取闹，是骡子是马拉出来遛遛，

2016-12-28 09:49:46 18328 1

原创 SqueezeNet模型参数降低50倍，压缩461倍

DenseNetCNN网络从Lenet，Alexnet，Googlenet，VGG，Deep Residual Learning，FractalNet，DenseNet。网络越来越深，越来越宽。参数越来越大。12G的显存都不够。在保存精度的同时，尽量减少参数很重要。这里有很多方法，模型剪枝等，这里从网络设计上介绍。本文讲一下最新由UC Berkeley和Stanford

2016-12-28 09:28:06 2712

原创 caffe 里面GPU 选择设置，通过配置文件读取GPU 的编号。

caffe 里面GPU 选择设置，通过配置文件读取GPU 的编号。// Parse GPU ids or use all available devicesstatic void get_gpus(vector* gpus) { if (FLAGS_gpu == "all") { int count = 0;#ifndef CPU_ONLY CUDA_CHECK(c

2016-10-10 13:43:53 8359

转载人脸验证算法Joint Bayesian详解及实现（Python版）

人脸验证算法Joint Bayesian详解及实现（Python版）Tags： JointBayesian DeepLearning Python本博客仅为作者记录笔记之用，不免有很多细节不对之处。还望各位看官能够见谅，欢迎批评指正。博客虽水，然亦博主之苦劳也。如需转载，请附上本文链接，不甚感激！Bayesian Face Revisited: A Jo

2016-09-19 13:27:02 1370 1

原创深入浅出——网络模型中Inceptionv1到 v4 的作用与结构全解析

深入浅出——网络模型中Inception的作用与结构全解析转载地址http://blog.csdn.net/u010402786目录(?)[+]一论文下载　　本文涉及到的网络模型的相关论文以及下载地址：　　 [v1] Going Deeper with Convolutions, 6.67% test error

2016-09-19 11:03:22 42127 1

转载神经网络架构演进史：全面回顾从LeNet5到Googlenet，resnet，fractalnet,ENet十余种架构

转载于：http://www.open-open.com/lib/view/open1473213789568.html LeNet5LeNet5 诞生于 1994 年，是最早的卷积神经网络之一，并且推动了深度学习领域的发展。自从 1988 年开始，在许多次成功的迭代后，这项由 Yann LeCun 完成的开拓性成果被命名为 LeNet5（参见：Gradient-Based Lea

2016-09-19 10:11:49 9296

转载 Batch Normalization 总结

最近做人脸项目，打算用Batch Normalization 优化网络模型，看到大神博客写的特别好，先转载一下。本文转载于：http://blog.csdn.net/shuzfan/article/details/50723877 目录目录1-Motivation2-Normalization via Mini-Batch Sta

2016-08-23 17:20:25 11807 1

原创 google batchnorm 资料总结

训练webface 李子青提出的大网络，总是出现过拟合，效果差。尝试使用batchnorm。参考博客： http://blog.csdn.net/malefactor/article/details/51549771 cnn 和rnn 中如何引入batchnormhttp://blog.csdn.net/happynear/article/details/44238541 Google

2016-06-29 10:49:28 7134

原创人脸识别总结

目前单模型最好，好像是VGGface。light CNN 模型较好，单模型达到了98%http://m.blog.csdn.net/article/details?id=50401101 介绍Light CNN http://blog.csdn.net/shixiangyun2/article/details/51366710 LINGT cnn 。有caffe实现

2016-06-24 20:56:41 5106

转载从专访DeepID发明者孙祎：关于深度学习与人脸算法的深层思考总结

今天看到DeepID发明者孙祎介绍，研发心得，人脸识别应用的现状、难点与未来，深度学习的实践经验等问题。回到的很好。专访DeepID发明者孙祎：关于深度学习与人脸算法的深层思考发表于2015-11-18 09:51|8283次阅读| 来源CSDN|17 条评论| 作者周建丁CNN卷积神经网络DeepID人脸算法深度学习孙祎Linkface摘要：DeepID人脸算

2016-06-13 17:04:27 2743

原创 window system（）函数的使用总结

window 下用vs　控制台程序编程时，经常用system（）函数，比如我常用的是system("pause");程序运行完时，停止在控制台界面你，方便查看程序的运行结果systetm函数，就是可以调用DOS命令，还有其他的一些其他常用的DOS命令system函数是可以调用一些DOS命令,比如system("cls");//清屏,等于在DOS上使用cls命令下面列出常用的DOS

2016-05-13 15:44:37 3158

原创 vs2010使用boost库，安装

今天抽时间学习了一下boost库，用c++ 做算法，自己再去造轮子实在是浪费时间，学习boost未来工作能直接上手。比如caffe就直接使用了boost库，这里边常用的对于时间操作，字符串操作，文件操作，智能指针等，熟练使用这些能大大的加速算法的开发时间。一、参考资料： 1、 http://download.csdn.net/detail/nuoshueihe/5344

2016-05-13 14:44:07 6388

原创 python常用工具让你提高工作效率--常用操作编写，方便自己操作

python常用工具让你提高工作效率背景把一些常用的操作归并到一起形成一套自己的库函数会极大地提高效率，比如linux的命令cd，ls，cp,mv等在python中不容易使用，常常记不住，因此我们可以手动封装这些函数，作为以后使用的基础。细节新建tools.py,先引入如下的库1234567import

2016-05-12 14:41:11 5157

原创 COM口大于9 连接不上问题总结

今天调试单片机控制舵机程序，昨天刚调试完，没问题。今天再去调试总是不行，用串口助手就没问题。错误提示的返回值为2, 即为打开串口失败，找了好久发现，上次我用的串口是COM8，这次的串口COM11,后来发现当串口大约9时容易出现问题。整理一下。程序调试时发现，使用CreateFile()打开COM4时正常，打开COM10时却总是失败。这两个端口均为虚拟COM口，通过蓝牙仿真串口完成数据

2016-04-24 22:41:43 4177

原创串口通信代码

#include#include using namespace std; int main(){ HANDLE hcom; hcom = CreateFile("COM1",GENERIC_READ | GENERIC_WRITE,0,NULL,OPEN_EXISTING ,FILE_ATTRIBUT

2016-04-22 11:08:27 1678

原创 VC 串口通信实现方式

利用师姐QT2440开发板控制机械臂，串口通信出现问题，找到usb转串口后，任然找不到相应的驱动。初步打算用单片机实现。1.基于Active控件的方式(MSComm) 优点是：直接利用控件，在串口有数据到达时，会促发相应的事件响应函数，然后你可以在实践响应函数里，进行数据的读取。缺点是：数据在发送和接受的过程中VARIANT、

2016-04-21 15:32:00 2692

原创 adaboost python 实例

# -*- coding: utf-8 -*- ''' 集成方法(ensemble method)或者元算法(meta-algorithm)是将不同的分类器组合起来。使用集成方法时会有多种形式: 可以是不同算法的集成, 也可以是

2016-04-18 13:37:05 6175

原创 MFC 多线程实现，传参等问题

创建一个基于对话框的工程，工程名为CreateThreadRect 在CreateThreadRect.cpp中增加一个ThreadProc函数，代码如下工作者线程的函数必须是全局函数或静态成员函数，不能是普通的成员函数 DWORD WINAPI ThreadProc(LPVOID pParam){ CDC* pdc; //

2016-04-14 23:01:45 7171 1

原创 Ubuntu : GPG签名验证错误解决之道sudo apt-key adv --recv-keys --keyserver keyserver.ubuntu.com 6DFBCBAE

Ubuntu : GPG签名验证错误解决之道转载▼sudo apt-key adv –keyserver keyserver.ubuntu.com –recv-keys $KeyWhere $key == the gpg key id. The key id is shown in the error message you get when running apt-ge

2016-04-14 11:54:10 24200 1

原创 MFC 用于多个对话框的全局变量如何定义

一、通过extern 实现，定义为，可以定义一个头文件，比如inforsubject.h ,在这里定义类或变量，这里不用加载其他的头文件struct InfoSubject{ CString name; int age; int Times;};对话框的程序使用extern InfoSubject infomation;//实验者的信息InfoSubject i

2016-04-14 10:40:58 2307

原创多通道(比如RGB三通道)卷积过程

今天一个同学问卷积过程好像是对一个通道的图像进行卷积，比如10个卷积核，得到10个feature map，那么输入图像为RGB三个通道呢，输出就为 30个feature map 吗，答案肯定不是的，输出的个数依然是卷积核的个数。可以查看常用模型，比如lenet 手写体，Alex imagenet 模型，每一层输出feature map 个数就是该层卷积核的个数。1、

2016-04-11 22:04:20 107747 23

原创 matlab自带各种分类器的使用示例

目前了解到的MATLAB中分类器有：K近邻分类器，随机森林分类器，朴素贝叶斯，集成学习方法，鉴别分析分类器，支持向量机。现将其主要函数使用方法总结如下，更多细节需参考MATLAB 帮助文件。设　　训练样本：train_data % 矩阵，每行一个样本，每列一个特征　　训练样本标签：train_label % 列向量　　测试样本：test_da

2016-04-05 18:50:19 45931 16

原创 lib 和 dll 的区别与使用，没有头文件改如何使用

1.生成lib文件　　首先，我们先建立一个控制台工程(新建->工程->控制台程序)，添加add.cpp以及add.h文件。//sub.h#ifndef _SUB_H#define _SUB_Hvoid sub(int a,int b);#endif//sub.cpp#include "sub.h"#include void sub(int a,int b)

2016-03-29 21:59:20 4855

原创函数何时值传递，何时指针，何时引用传递总结

编程中定义函数，一般三种传递方法，看是简单，想灵活合理选择，还需要大量的编程经验和技巧。故在这里特意总结一下这三种传递的方法。根本区别：函数值传递不改变变量值，如果想改变变量值，需要返回值，然后用变量接收一下这个返回值。而指针传递和引用传递都可以在函数内改变变量值，不需要通过返回值的形式改变。应用场合：当想通过这个函数，改变好几个变量的值，多个变量都通过函数返回值来改变变量值

2016-03-29 17:01:15 4481 2

原创机器学习深度学习计算机视觉开源代码总结

持续跟新可以看看这个 http://blog.csdn.net/workerwu/article/details/46537849场景识别： SegNet: A Deep Convolutional Encoder-Decoder Architecture for Robust Semantic Pixel-Wise Labelling https://github.c

2016-03-29 15:39:58 2346

原创机器学习深度学习计算机视觉资料汇总

Deep Learning（深度学习）ufldl的2个教程(这个没得说，入门绝对的好教程，Ng的，逻辑清晰有练习)：一ufldl的2个教程(这个没得说，入门绝对的好教程，Ng的，逻辑清晰有练习)：二Bengio团队的deep learning教程，用的theano库，主要是rbm系列，搞python的可以参考，很不错。deeplearning.net主页，里面包含的

2016-03-29 15:37:02 2028 1

原创 caffe adaboost

https://github.com/terrychenism/NeuralNetTests/blob/master/caffe_utils/cnn_adaboost.py 参考代码，今天在caffe上实现adaboost算法，先训练弱分类器，用弱分类器的模型即可，如果把caffe训练好的模型当弱分类器，只需要调用caffe，使用该模型即可，不需要重新训练该弱分类器。

2016-03-29 13:57:47 1740 3

原创 Liux常用命令和caffe 常用命令

Linux部分：配置 cuda 环境变量 export LD_LIBRARY_PATH=/usr/local/cuda/lib64:./build/lib:$LD_LIBRARY_PATH查看当前环境变量:echo $PATH设置: 方法一：export PATH=PATH:/XXX 但是登出后就失效方法二：修改~/.bashrc或~/.bash_profile或系统级

2016-03-29 10:49:22 3401

原创 C++处理JSON数据和在face++ 调用中的使用

使用C++处理JSON数据交换格式一、摘要 JSON的全称为：JavaScript Object Notation，顾名思义，JSON是用于标记Javascript对象的，JSON官方的解释为：JSON是一种轻量级的数据传输格式。本文并不详细介绍JSON本身的细节，旨在讨论如何使用C++语言来处理JSON。关于JSON更具体的信息，可参见JSON官网：http://www.json.

2016-03-28 17:29:34 3798 2

原创 error RC2108: expected numerical dialog constant

在我们用图形控件Picture Control在对话框上添加图片是，经常会出现error RC2108: expected numerical dialog constant解决方法：双击error rc2018...打开文件在如图所示的位置增加“Static”, SS_BITMAP

2016-03-26 22:18:48 2935

原创 github 使用，

Linux下如何从github上下载程序，1 Linux下Git和GitHub环境的搭建第一步：安装Git，使用命令 “sudo apt-get install git”第二步：创建GitHub帐号第三步：生成ssh key，使用命令 “ssh-keygen -t rsa -C "[email protected]"”，your_email是

2016-03-24 09:28:57 632

原创 bagging和boosting 总结，较全

原文地址：http://blog.csdn.net/ice110956/article/details/10077717作为集成学习的二个方法，其实bagging和boosting的实现比较容易理解，但是理论证明比较费力。下面首先介绍这两种方法。所谓的集成学习，就是用多重或多个弱分类器结合为一个强分类器，从而达到提升分类方法效果。严格来说，集成学习并不算是一种分类器

2016-03-21 17:19:18 45283

原创论文查重资料总结

http://wenku.baidu.com/link?url=inRFwieQTTCgerKtDPElCR97Qa8Szog9uq_SdUOpW-BC-6N-V2_4yNGQHD56MXTVi5BQZGUfMBYClsSTSN7y3mwSbLVMm4ZDgSdlFvs7vZu 免费查重资料http://jingyan.baidu.com/article/9989c746

2016-03-21 15:26:30 1976

原创 MFC 点击一个确认按钮，调到另一个对话框。

一、 MFC 点击一个确认按钮，调到另一个对话框。资源视图-->Dialog-->右键-->添加资源-->新建-->对话框-->对话框按右键--添加类。例如：添加CMyNewDlg类,在所要调的代码中(按钮点击方法中),先加头文件#include "CMyNewDlg.h ",之后在按钮点击方法中:void COnclickDlg::OnBnClickedOk(

2016-03-21 14:42:39 12154

原创 MFC编个对话框，能够实时显示摄像头捕捉的镜头，点击确定，保存当前图像。

MFC编个对话框，能够实时显示摄像头捕捉的镜头，点击确定，保存当前图像。然后点击检测按钮(调用face++ 人脸识别接口识别人脸的性别年龄情绪等)现在在vc上采集视频常用的方法有三：vfw，directshow，opencv 你是要进行图像处理的话推荐opencv（具体参考：于仕琪，opencv教程基础篇中的例3-6，稍作修改，估计就能用于你的工程）下面贴出我自己编

2016-03-18 16:29:21 3714

原创 OCR 文本方向和语种识别总结

https://www.researchgate.net/profile/Lluis_Gomez2/publications Lluis Gomez 介绍，从icdar2013 到 icdar 2015 , 主要做文本方向和语种识别，这里边有他最近的论文，可以看他的论文，跟进他的研究成果。http://arxiv.org/pdf/1602.07480.pdf 论文：Boosti

2016-03-17 16:15:30 4635

原创 LBP基本原理与特征分析

转自：http://blog.csdn.net/songzitea/article/details/17686135背景介绍局部二值模式(Local binary patterns,LBP)是机器视觉领域中用于描述图像局部纹理特征的算子,具有旋转不变性和灰度不变性等显著的优点。它是由T. Ojala, M.Pietikäinen, 和 D. Harwood [1][2]在199

2016-03-17 14:37:32 23560

Soft-Boundary Label Relaxation with class placement constraints

VNC-Viewer

最经典的设计模式

空空如也