lansatiankong-CSDN博客

原创优化方法介绍一

优化方法介绍一梯度下降变种批梯度下降（Batch gradient descent）基本都是参考文献1梯度下降变种有三种梯度下降变种，区别在于使用多少训练数据批梯度下降（Batch gradient descent）使用整个数据进行计算Vanilla gradient descent, aka batch gradient descentθ=θ−η∗∇J(θ)\theta=\theta-\eta *\nabla J(\theta)θ=θ−η∗∇J(θ)for i in range(nb_

2021-03-16 20:34:43 220

原创 windows TensorFlow安装

安装下载NVIDIA驱动程序，GTX1060需要Geforce 10series http://www.geforce.cn/drivers，或者下载GeForce Experience安装驱动程序安装visual studio（cuda安装过程需要）。https://www.visualstudio.com/zh-hans/安装cuda 注意cuda和TensorFlow版本需要保持...

2018-04-09 01:36:36 345

原创 MAC，IDEA快捷键

代码补全 https://www.cnblogs.com/winner-0715/p/5247086.html https://blog.csdn.net/shijiebei2009/article/details/44726433 IDEA https://blog.csdn.net/alik20/article/details/54881003 MAC快捷键https://jingy...

2018-04-08 13:47:52 329

原创 git 一些用法

git忽略特殊文件主要是gitignore和git update-index –assume-unchaned git在项目根目录有一个.gitignore文件，表示忽略文件的一些配置，注意智能用于untracked文件。对于已经track的文件，使用 git update-index –assume-unchaned 文件路径注意文件路径只能单个文件，可以git status 看...

2018-04-07 22:57:42 287

原创 Distributed TensorFlow(分布式Tensorflow)

This document shows how to create a cluster of TensorFlow servers, and how to distribute a computation graph across that cluster. We assume that you are familiar with the basic concepts of writing Ten

2018-01-07 17:54:13 546

原创 Flask（Jinja2）服务端模板注入漏洞

其实我根本没用过flask模板，但是最近在学习python，研究下划线，莫名其妙地就学习到这里了。首先搭建一个flask环境。在github上下一个docker https://github.com/vulhub/vulhub/tree/master/flask/ssti 然后运行docker先来看一下代码：由此，在浏览器中输入 http://your-ip/?name=leaf会出

2017-12-10 14:30:17 6424

原创 ABCNN代码注释

来源 https://github.com/galsang/ABCNN/edit/master/ABCNN.py#!/usr/bin/env python# encoding: utf-8import tensorflow as tfimport numpy as npclass ABCNN(): def __init__(self, s, w, l2_reg, model_typ

2017-12-09 00:16:26 1864 3

原创 Python的下划线

近期研究Flask（Jinja2）服务端模板注入漏洞，顺便查了点资料解决python中的下划线问题。“_”单个下划线查了一些资料，Python中不存在真正的私有方法。为了实现类似于c++中私有方法，可以在类的方法或属性前加一个“_”单下划线。_xxx如果是个变量，那么这是一个protected变量，在原则上不允许直接访问，如果是个定义_xxx()的方法，也表明这个方法原则上不能直接访问。不过都

2017-12-06 14:02:38 606

原创强化学习资料

[1]http://www.cnblogs.com/skykill/p/6786629.html

2017-12-05 00:24:53 208

原创 Tensorflow API 使用

1.构建词典 tf.contrib.learn.preprocessing.VocabularyProcessor http://blog.csdn.net/u013713117/article/details/69261769 2.expand_dims http://blog.csdn.net/jasonzzj/article/details/60811035 3.卷积实现 tf.n

2017-11-28 21:49:36 412

原创 [Paper Reading]EFFICIENT VECTOR REPRESENTATION FOR DOCUMENTS THROUGH CORRUPTION

EFFICIENT VECTOR REPRESENTATION FOR DOCUMENTS THROUGH CORRUPTION[1]https://openreview.net/pdf?id=B1Igu2ogg [2]https://zhuanlan.zhihu.com/p/31483622?utm_source=wechat_session&utm_medium=social&from=sin

2017-11-28 21:15:06 254

原创 Tensorflow使用记录，API使用报错处理

1.Cannot interpret feed_dict key as Tensor: The name ‘x’ refers to an operation, not a Tensor. Tensor names must be of the form “:”. sess.run(y, {tf.get_default_graph().get_operation_by_name(‘x’).out

2017-11-26 17:30:24 2609

原创强化学习相关资料

学习材料Book Reinforcement Learning: An Introduction随书figure代码随书示例代码课程视频课程rl相关代码，paper

2017-11-25 19:25:08 206

原创 TensorFlow在线预测

TensorFlow java在线预测[1]http://blog.csdn.net/lyg5623/article/details/72781405 [2]https://github.com/tensorflow/tensorflow/blob/master/tensorflow/java/src/main/java/org/tensorflow/examples/LabelImage.jav

2017-11-25 14:17:58 2363

原创 Hanlp使用Bug记录

Hanlp使用Bug记录最近一直比较忙，好多私信也没时间回复。以后要完全从CV转NLP，所以博客内容可能要作调整了。 Hanlp是最近学习的一个自然语言处理包，本篇文章将一些使用过程之中遇到的bug放到这里做一个备忘记录，有时间一并联系作者更改。 -Predefine类的好多预定义tag没有在核心词典中。

2016-09-09 00:16:03 957

原创 array_name和&array_name的异同

看到http://blog.csdn.net/zhghost/article/details/5286271关于这两个的介绍，以前没注意到这个问题。char a[MAX]; /*array of MAX characters*/char *p = a; /*p为指向数组的指针*/ char *pa = &a; /*该语句是不正确的，pa的类型为'

2015-12-17 16:40:54 750

原创 CNN反向求导推导

本文主要是借助参考文献1《Notes on Convolutional Neural Networks》的内容，还博客【2】和【3】里面的内容，对卷积神经网络的推导做个梳理。输出层求导激活函数logistic function σ(x)=11+e−x\sigma(x)=\frac{1}{1+e^{-x}} hyperbolic tangent tanh(x)=e2x−1e2x+1tanh(x)=\

2015-11-05 22:48:29 6876 1

原创 Caffe 代码阅读

Caffe代码阅读—卷积部分Caffe卷积部分首先是将图像转换成一个列矩阵，然后把相应的卷积操作转换成了矩阵乘法。 CNN操作分为两步份，一部分是Forward操作，另一个是BP过程，要看懂BP首先得了解一下普通neural network的求导过程，还有在看一下《Notes on convolution networks 》看一下对于卷积网络的求导过程。首先看一下forward过程。卷积网络

2015-10-05 23:39:04 2671

原创 C++ Boost Thread 编程指南

0 前言标准C++线程即将到来。CUJ预言它将衍生自Boost线程库，现在就由Bill带领我们探索一下Boost线程库。就在几年前，用多线程执行程序还是一件非比寻常的事。然而今天互联网应用服务程序普遍使用多线程来提高与多客户链接时的效率；为了达到最大的吞吐量，事务服务器在单独的线程上运行服务程序；GUI应用程序将那些费时，复杂的处理以线程的形式单独运行，以此来保证用户界面能够及时响应用户的操作。

2015-10-02 16:03:26 510

原创 Caffe-----ProtoBuffer ,How to use protobuffer in Ubuntu

Download Protobuffer$wget http://protobuf.googlecode.com/files/protobuf-2.5.0.tar.gz unzip$tar xvzf protobuf-2.5.0.tar.gz intstall$./configure$make$make check$make install$

2015-10-01 23:18:31 699

原创 Caffe安装 Ubuntu14.04

Caffe安装基本参考 http://www.linuxidc.com/Linux/2015-07/120449.htm1. 安装开发依赖包sudo apt-get install build-essentialsudo apt-get install vim cmake gitsudo apt-get install libprotobuf-dev libleveldb-

2015-09-23 23:29:59 554

原创 2015秋季校园招聘 IT公司笔试题

1.奇虎360 9.151.因数分解#include#include#includeint Num=1000;int zhishu[1000];int calculateZhishu(){// zhishu=(int*)malloc(sizeof(int)*Num); Num=1; zhishu[0]=2; for(int i=3;i<1000;i++){ b

2015-09-15 22:08:03 852

原创整理——Some basic questions about caffe and deep learning

Rectified Linear Units 摘自http://www.douban.com/note/348196265/ sigmoid 和 tanh 作为神经网络的激活函数已经很熟悉，今天看了一下 ReLU 这种线性激活函数。很显然，线性激活函数的计算开销又大大降低。而且很多工作显示 ReLU 有助于提升效果[1]. sigmoid: g(x) = 1 /(1+exp(-1)).

2015-07-15 23:33:50 980

原创优化中的subgradient方法

哎，刚刚submit上paper比较心虚啊，无心学习，还是好好码码文字吧。 subgradient中文名叫次梯度，和梯度一样，完全可以多放梯度使用，至于为什么叫子梯度，是因为有一些凸函数是不可导的，没法用梯度，所以subgradient就在这里使用了。注意到，子梯度也是求解凸函数的，只是凸函数不是处处可导。f:X→Rf: \mathcal{X}\rightarrow \mathbb{R}是一个凸函

2015-06-06 11:03:15 18396

原创百度历年笔试面试题

摘自七月算法 http://ask.julyedu.com/question/456 1、用C语言实现一个revert函数，它的功能是将输入的字符串在原串上倒序后返回。2、用C语言实现函数void * memmove(void *dest, const void *src, size_t n)。memmove 函数的功能是拷贝src所指的内存内容前n个字节到dest所指的地址上。分析：由于

2015-05-28 15:27:29 2418

原创 CVPR 2015 paper 下载

cvpr2015列表已经出来提供下载，文件太多可以用迅雷或者wget直接下载 http://www.cv-foundation.org/openaccess/CVPR2015.py 但是这样全部下载还得一个一个翻看，于是乎写了个小程序专门选则自己方向的论文。需要htmlparser解析网页代码，下载地址http://sourceforge.net/projects/htmlparser/fi

2015-05-25 23:24:04 5783

原创 Latex 各种处理论文操作-插图、插表格

Latex插入图片%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% 如何做到自己控制图片在latex中的位置？在 \begin{figure} 后面加参数 [h!] 即 \begin{figure}[h!] % Requires \includegraphics[width=]{}\\ \caption{}\label

2015-05-25 00:19:52 15059 2

原创无约束最优化方法——牛顿法、拟牛顿法、BFGS、LBFGS

好久没写博客了，今天打开一看csdn终于可以用latex，不用到处去粘贴标签，方便了许多。且先试试效果如何。先讲讲一些优化方法。最速下降法牛顿法拟牛顿法SR1BFGSDFPLBFGS【最速下降法】无约束最优化方法不涉及约束条件，所以都是介绍如何寻找搜索方向以及搜索步长。无约束最优化问题的目标函数： minx∈Rnf(x)\min_{x\in R^n}\q

2015-05-20 17:44:32 9790 3

原创 EM算法原理详解与高斯混合模型

借助于machine learning cs229和文章【1】中的内容把EM算法的过程顺一遍，加深一下印象。关于EM公式的推导，一般会有两个证明，一个是利用Jesen不等式，另一个是将其分解成KL距离和L函数，本质是类似的。下面介绍Jensen EM的整个推导过程。Jensen不等式回顾优化理论中的一些概念。设f是定义域为实数的函数，如果对于所有的实数x，f′′(x)≥0f^{''}(x)\g

2015-05-11 18:35:03 6827 3

原创 Belief Propagation 解决计算机视觉问题

Belief Propagtion在计算机视觉视觉中有相当广泛的应用，当然这一切离不开MRF、CRF等图模型的使用。很多视觉问题可以表述成一个能量函数的形式，例如，图像的语义分割或者叫做image parsing问题可以表述成一个能量函数的形式：\begin{equation}E(f)=\sum_{p\in \mathcal{P}}D_p(f_p)+\sum_{(p,q)\in \mathca

2015-05-09 00:51:52 4946 3

原创概率图模型推断之Belief Propagation

初步打算把概率图模型中推断方法都介绍一下，包括Belief Propagation，变分方法，MCMC，以及像是Graph cut也做一些说明。关于Belief Propagation是什么? Belief Propagation是一种信息传递方法，一般用来解关于概率图模型中的推断问题，在这些问题中，单纯地通过公式推导或者MC模拟是很难得到准确答案的，这就需要BP，能够很有效地求解一些特定问题

2015-05-08 02:08:02 5312

转载格式塔心理学--产生和基本观点

格式塔心理学的产生和基本观点格式塔学派（德语:Gestalt theorie）是心理学重要流派之一，兴起于20世纪初的德国，由魏特海默(M．Wetheimer，1880~1943)、苛勒(W．kohler，1887~1967)和考夫卡(K．Koffka，1886~1941)三位德国心理学家在研究似动现象的基础上创立。格式塔是德文Gestalt的译音，意即”模式、形状、形式”。Configuratio

2015-04-26 11:16:13 6503

原创矩阵求导——Numerator Layout & Denominator Layout

突然想起这个问题了，刚刚看到有人在问相关的公式，自己闷头想了想居然都忘了，于是乎稍微整理一下供以后参考。其实，关于矩阵求导讲的最详细的还是wiki上的页面面http://en.wikipedia.org/wiki/Matrix_calculus#Layout_conventions 关于矩阵求导，很多地方会有不同的表现形式，说到底是这么一回事，一个m维的向量y\mathbf{y}对n维的向量x

2015-04-11 09:24:00 11114

原创 wavelet feature 128D 小波特征

function f=WTF(I);% compute the 128-D wavelet transform feature of image I% Input:% I: the input image% Output:% f:128-D feature%%warning:normalization must be performed after all the features a

2014-12-07 22:47:01 1834

原创 Matlab中的类定义 classdef

Matlab也可以写面向对象的代码，首先表现在可以定义类，以及可以继承，使用类（class）有很多好处，其中一个重要的好处便是解决变量名冲突和让函数、对象的结构清晰。class的static function可以在不定义类的实例直接调用类的成员函数，比如定义classdef tools < handle methods (Static = true) functio

2014-12-05 16:01:07 14599 1

原创 CRF 条件随机场

条件随机场模型是Lafferty于2001年，在最大熵模型和隐马尔科夫模型的基础上，提出的一种判别式概率无向图学习模型，是一种用于标注和切分有序数据的条件概率模型。CRF最早是针对序列数据分析提出的，现已成功应用于自然语言处理(Natural Language Processing，NLP）、生物信息学、机器视觉及网络智能等领域。1.序列标注的例子标注（实体命名识别）：任命

2014-12-03 14:48:09 1616

原创修复 grub

用ubuntu9.10以上（9.10以下的就是修复grub1（如不会，在我博客另一章里有介绍））的系统盘，启动光盘选择“试用而不安装”，进入后打开终端：（注意命令间的空格，特别是mnt前面有空格）补充/首先应该sudo fdisk -l 找到id=83的选项，如，我的是：Disk /dev/sda: 320.1 GB, 320072933376 bytes255 h

2014-12-03 14:46:35 670

原创 C语言可变参数

转自http://www.cnblogs.com/wangyonghui/archive/2010/07/12/1776068.html，稍有改动一、是什么我们学习C语言时最经常使用printf()函数，但我们很少了解其原型。其实pri

2014-12-03 14:45:15 878

原创 LBFGS公式推导

LBFGS 公式推导

2014-08-24 22:41:13 2932 5

转载佛祖保佑，永无BUG

/* _ooOoo_ o8888888o 88" . "88 (| -_- |) O\ = /O ____/`---'\____ .' \\| |// `. / \\||| : |||// \ / _||||| -:- |||||- \ | | \\\ - /// | | | \_| ''\---/'' | | \ .-\__ `-` ___/-. / ___`. .' /--.--\ `. .

2014-08-22 07:51:33 875

Daphne Koller_Probabilistic Graphical Models

空空如也