• 等级
  • 28809 访问
  • 64 原创
  • 4 转发
  • 77175 排名
  • 22 评论
  • 4 获赞

梯度下降算法小结

梯度下降一类算法小结标签(空格分隔):梯度下降以下内容为*Anoverviewofgradientdescentoptimizationalgorithms*读后笔记梯度下降算法变种算法概览最经典的梯度下降算法有:1.梯度下降(Batchgradientdescent)2.随机梯度下降(Batchgradientdescent)3.m...

2018-07-07 18:48:32

SVRG&Lissa&NewSamp实现

SVRG,NewSamp&Lissa实现具体实现参见Github,算法分析可以参我的一篇二阶算法博客SVRG,NewSamp&Lissa这是基于python实现的SVRG,NewSamp,Lissa的baseline数据集采用的是Mnist49(手写数据集中的4和9)SVRG算法分析SVRG(StochasticVaria...

2018-07-07 18:48:18

二阶随机优化算法小结

二阶随机优化算法标签(空格分隔):L-BFGSNewSampleLissa最近看了几篇二阶优化算法,现在总结一下,以便日后查阅二阶算法二阶优化算法又称为牛顿法,牛顿法是微积分学中,通过迭代以求解可微函数f的零点的一种算法,而在最优化中,牛顿法通常被运用于求解一个二次可微函数f的一阶导数f’的零点x,同时也是f的驻点。因此从另一个角度而言,应用于最优化中的牛顿法...

2018-07-07 18:48:10

牛顿法及拟牛顿法笔记

牛顿法二阶优化算法又称为牛顿法,牛顿法是微积分学中,通过迭代以求解可微函数f的零点的一种算法,而在最优化中,牛顿法通常被运用于求解一个二次可微函数f的一阶导数f’的零点x,同时也是f的驻点。因此从另一个角度而言,应用于最优化中的牛顿法是求解函数f(x)的最小值或最大值的一种算法。考虑无约束最优化问题minx∈Rnf(x)minx∈Rnf(x)min_{x\inR...

2018-07-07 18:47:58

矩阵微分

矩阵微分标签(空格分隔):矩阵微分在学习机器学习算法时,发现对矩阵求导很不熟悉,去看了张贤达的矩阵分析,发现标量对矩阵求导的问题说的很清楚重要的事情说三遍损失函数是标量函数!!!损失函数是标量函数!!!损失函数是标量函数!!!主要介绍实值函数相对于实向量变量或者矩阵变量的偏导.这里首先对变元和函数符号做统一的规定以便后面介绍.xx=[x1,...,xm]T∈R...

2018-07-07 18:47:44

基于python 实现对图片进行SVD

实现对图片进行SVD之前在学习截断式SVD的时候,不知道为什么截断式SVD后能够近似原矩阵?或者说奇异值究竟有什么含义?看了以下知乎的答案后,有了很形象的理解奇异值的物理意义是什么?-郑宁的回答-知乎这里参考基于Python查看SVD压缩图片的效果这篇博客后实现了截断式SVDfromPILimportImageimportnumpyasnpim...

2018-05-20 20:31:36

Markdown中显示矩阵运算过程

发现这个神奇的用法,以后写博客就可以很好的演示矩阵乘法了原文知乎jupyter显示矩阵标签(空格分隔):未分类fromIPython.displayimportdisplay,Latex,Math%matplotlibinlineimportnumpyasnpfromIPython.core.interactiveshellimportInt...

2018-05-18 21:20:28

线性收敛的随机L-BFGS算法

线性收敛的随机L-BFGS算法以下皆为翻译ALinearly-ConvergentStochasticL-BFGSAlgorithm原文链接六级没过,莫怪概要我们提出了一个新的随机L-BFGS算法,并证明其对强凸连续函数可以达到线性收敛.我们的算法很大程度上基于最近在Byrd(2014)提出的L-BFGS算法的随机变种,以及Johnson和Zhang最近所提出的对于随...

2018-04-27 21:28:38

Ubuntu 使用笔记

Ubuntu使用笔记Ubuntu初始化1.安装无线驱动和更新系统以及语言2.安装新立得和gdebisudoapt-getinstallsynaptic3.安装软件sudoapt-getinstallgitvimvim-gnomevim-gtkugetariac这里用synaptic安装特别方便还不容易出事故...

2018-04-16 17:10:16

Webbench学习

开源代码学习标签(空格分隔):linux开源无聊至极,学习一下一些简单的开源项目WebbenchWebbench是一个在linux下使用的非常简单的网站压测工具。它使用fork()模拟多个客户端同时访问我们设定的URL,测试网站在压力下工作的性能,最多可以模拟3万个并发连接去测试网站的负载能力。Webbench使用C语言编写,代码实在太简洁,源码加起来不到600...

2018-04-16 16:34:56

Pandas 数据整合

Pandas数据整合标签(空格分隔):pythonpandas合并数数据集pandas.merge可以根据一个或者多个键将不同DataFrame合并起来pandas.contact可以沿着一个轴将多个对象叠到一起combine_first可以将数据编接到一起,用一个对象中的值填充另一个值数据库风格DataFrame合并pd.mer...

2018-04-16 16:25:00

Python 时间的处理

Python时间的处理标签(空格分隔):python数据分析日期以及时间数据类型日期data,时间timedatatime是包含data以及time的数据类型timedelta两个datatime之间的差值字符串和datatime的转化datetime转换成字符串stamp=datetime(2011,1,3)str(st...

2018-04-16 16:23:35

数据挖掘笔记

数据挖掘笔记标签(空格分隔):特征提取实习期间参加了CCF大数据比赛,总结期间用到的一些数据提取想法数据提取方法One-hotEncodingAlter变更有11种类型,将变更类型进行One-hotEncoding编码,再统计每个类型的总量。时间窗口特征统计时间区间内行为累积,比如统计某个企业[2,5,8,13,21,35]个月内的变更...

2018-04-16 16:21:04

Pandas 读取文本数据

Pandas读取文本数据标签(空格分隔):pythonpandasPandas读取文本数据pandas解析函数如果原始数据是有标题的read_csv调用read_table这里可以指定seq=’\s+’等正则表达式来当分割符如果列名比数据行数量少1,read_table会推断第一列是DataFrame的索引指定列名如果没有标题,那...

2018-04-16 16:15:23

Python 数据分析画图

Python数据分析画图&one-hot编码标签(空格分隔):pythonMatplotlib画图fig,axes=plt.subplots(2,2)#axes是一个数组fig=plt.figure()fig.set(alpha=0.2)#把图分为2行3列,当前在(0,0)位置画图plt.subplot2grid((2,3),...

2018-04-16 16:14:02

C语言学习笔记

C语言学习小记标签(空格分隔):c语言在github上面看到别人一个很不错的学习笔记,记录一下其中的知识点笔记byqyuhen记录一下学习c语言遇到的一些知识点数据类型字符串字符常量默认是⼀个int整数,但编译器可以⾃⾏决定将其解释为char或int。size('a')=4浮点数float:32位4字节...

2018-04-16 16:09:17

大小尾端&转换

大小尾端标签(空格分隔):计算机基础大小尾端提到体系结构时,经常遇到大小尾端的概念,这里做个总结。bigendian:大尾端,也称大端(高位)优先存储。littleendian:小尾端,也称小端(低位)优先存储。如下00000000000000000000000000000001的存储大尾端:0000000000000000...

2018-04-16 16:07:40

Java对象转换成JSON String格式

JSON格式转换成Java对象标签(空格分隔):Javajsckson源代码添加依赖到pom.xmldependency>groupId>com.fasterxml.jackson.coregroupId>artifactId>jackson-databindartifactId>version>2.6.3version>dependen

2018-01-24 18:58:14

单元测试与Spring框架

单元测试与Spring框架参考博客源代码当进行单元测试的时候,需要给对象的依赖一个mock对象但是对于Spring项目对象的私有成员,我们无法访问给他一个mock对象.这个时候我们就需要ReflectionTestUtils,他能够像Spring一样注入filed,通过手动给私有成员一个mock对象publicclassObjectA{privateStrin

2018-01-24 18:55:59

Java 模拟58登录(二) 实现

Java模拟58登录(二)实现标签(空格分隔):Java实习期间需要做一个模拟58登录然后爬取简历,之前已经写了一篇分析,现在具体实现过程有关过程的分析,可以参考我的另一篇博客Java模拟58登录(一)分析实现流程根据之前的分析可以得出58登录的大致流程如下发送Get请求(data?),获取token发送Get请求(ge...

2018-01-18 17:44:54

Vanguard-xf

有些梦想虽然遥不可及,但不是不可能实现,只要我足够强!
关注
  • 计算机软件/学生
  • 中国 安徽省 六安市
奖章
  • 持之以恒