2 xinxiang7

尚未进行身份认证

推荐算法工程师 推断行为

等级
TA的排名 25w+

神经网络中的两种正则化---Batch Normalization和Weight Normalization

Batch Normalization待续Weight Normalization理论:WN是将权重进行归一化,这个明显区别于BN对数据进行归一化的方式。BN将miniBatch的局部归一化作为全局归一化,进而引入噪声,而WN则没有这个问题,因此WN除了可以应用于CNN,还可以应用于RNN、生成网络和深度强化学习等对噪声敏感的学习中。一个神经网络节点:y=ϕ(wx+b)y =\phi(...

2019-12-06 14:51:37

Ctrl+z, Ctrl+c, Ctrl+D的区别,以及Ctrl+z后的启动

Ctrl+z中断程序,将程序挂起。就像是电影看到一半,按了暂停键;如果有多个程序执行了上述过程,就需要利用命令jobs查看暂停的程序;通过bg % N可以使第N个程序在后台运行;后者通过fg % N可以使第N个程序在前台运行;当在解压文件或者进行读写操作时,又需要做其他的,可以使用上述命令暂停,之后再调回执行。Ctrl+c终止正在执行的程序。就想手机上看视频,看到一半强制退出了。...

2019-11-19 21:31:10

Ubuntu18.04安装各种版本的opencv的两种方式

两种方式—Linux命令行和conda虚拟环境利用Linux命令安装下载指定版本的opencvopencv4.1.2或者官网下载。首先找到通常放置用户软件的地方/usr/local/可使用命令:wget https://github.com/opencv/opencv/archive/4.1.2.zip解压文件unzip opencv-4.1.2.zip编译挤压后,进入op...

2019-11-14 21:48:01

每日一算 Leetcode 977. 有序数组的平方

// C++/*给定一个按非递减顺序排序的整数数组 A,返回每个数字的平方组成的新数组,要求也按非递减顺序排序。eg1:输入:[-4,-1,0,3,10]输出:[0,1,9,16,100]eg2:输入:[-7,-3,2,3,11]输出:[4,9,9,49,121]提示:1 <= A.length <= 10000-10000 <= A[i] <= 10...

2019-10-25 17:46:44

每日一算 Leetcode 104.二叉树的最大深度

有两种方法:递归迭代-利用队列// C++/* 给定一个二叉树,找出其最大深度。二叉树的深度为根节点到最远叶子节点的最长路径上的节点数。说明: 叶子节点是指没有子节点的节点。示例:给定二叉树 [3,9,20,null,null,15,7], 3 / \ 9 20 / \ 15 7返回它的最大深度 3 。*/ // 1. 利用递归...

2019-10-24 21:25:31

每日一算 Leetcode 1051

// C++/* 学校在拍年度纪念照时,一般要求学生按照 非递减 的高度顺序排列。请你返回至少有多少个学生没有站在正确位置数量。该人数指的是:能让所有学生以 非递减 高度排列的必要移动人数。示例输入:[1,1,4,2,1,3]输出:3解释:高度为 4、3 和最后一个 1 的学生,没有站在正确的位置。*/// 解题思路:先复制,后排序,再对比,不同加1.可在排序上优化空间和时间。...

2019-10-24 17:17:13

ValueError: Dimensions must be equal, but are 1024 and 821

问题:原代码:rnn_cell=tf.nn.rnn_cell.BasicLSTMCell(num_units=512,state_is_tuple=True)#添加dropoutlayer,一般只设置output_keep_prob#lstm_cell=tf.nn.rnn_cell.DropoutWrapper(cell=lstm_cell,input_keep_prob...

2019-07-30 21:27:46

Temporal Relational Reasoning in Videos

Temporal Relational Reasoning in Videos框架TRN(Temporal Relation Networks)公式:T2(V)=hϕ(∑i<jgθ(fi,fj))T_{2}(V)=h_{\phi}\left(\sum_{i<j} g_{\theta}\left(f_{i}, f_{j}\right)\right)T2​(V...

2019-07-23 21:42:13

two-stream fusion network

Two-stream network文章:Convolutional Two-Stream Network Fusion for Video Action Recognition网络融合:Conv fusionyconv=fconv(xa,xb)\mathbf{y}^{\mathrm{conv}}=f^{\mathrm{conv}}\left(\mathbf{x}^{a}, \math...

2019-07-23 21:36:15

Long-term Recurrent Convolutional Networks for Visual Recognition and Description

Long-term Recurrent Convolutional Networks for Visual Recognition and Description概要视频识别,利用并行的CNN网络训练具有一定序列的图片,得到对应的图形特征的提取,作为输入,导入LSTM网络中,最终获得输出,对应于相应的描述。LRCN(Long-term Recurrent Convolutional Netw...

2019-07-23 15:33:36

Superhuman AI for multiplayer poker

[Superhuman AI for multiplayer poker][https://science.sciencemag.org/content/early/2019/07/10/science.aay2400.full]概要以纳什均衡+追寻对方弱点的原理,利用蒙特卡洛+反事实遗憾值最小化的方法,进行自博弈,进而得到可以同时跟多人PK的智能体。非完备信息游戏的两个难点:对手策略的...

2019-07-23 15:22:33

Show and Tell: A Neural Image Caption Generator

[Show and Tell: A Neural Image Caption Generator][https://arxiv.org/pdf/1411.4555v1.pdf]概要本文介绍了NIC算法,将CNN与LSTM结合,做了一件什么事呢。就是小学时的看图说话,利用CNN提取图片特征,并作为t−1t_{-1}t−1​输入LSTM中,将描述性词汇转化为独热编码,利用嵌入模型做为StS_tSt...

2019-07-23 15:20:02

tf.conv3d的用法

c3d在计算机视觉的视频领域经常使用。3d卷积是在2d的基础上添加了一维——深度,其他不变。所以在计算过程中,过滤器的输入通道数必须保证和输入样本的通道数一致,这一点与2d没有差别。卷积过程中,也就是对长度、宽度和深度进行卷积。具体可以看文章Learning Spatiotemporal Features with 3D Convolutional Networks以下是实现的方式:im...

2019-07-23 11:53:14

NIC文献阅读

文章:Show and Tell: A Neural Image Caption Generator目的:看图说话,即图片标注实现方式:cnn+lstm如下图所示:模型框架:损失函数:扩展:lstm是在rnn的基础上进行的改进,主要是为了解决梯度消失的情况,其框架如下图所示:按照时间序列展开后:lstm在rnn的基础上添加了遗忘门,输入门,输出门。具体的操作如上...

2019-07-11 18:19:21

R-CNN系列文献阅读

Rich feature hierarchies for accurate object detection and semantic segmentationR-CNN目的:目标检测实现方式:获取图片,利用selective search方法,提取2k左右的候选区域(region proposals)利用CNN对候选区域进行提取特征利用SVM对上述特征进行分类利用回归器对特定类的...

2019-07-11 18:12:31

GAN

Generative Adversarial Nets(https://arxiv.org/pdf/1406.2661v1.pdf)是Ian大神在14年发明的新算法,后续很多算法都是在这个算法的基础上变化的。Ian利用两套神经模型—生成模型G和鉴别模型D,前者是用于获取数据的分布,后者是用于鉴别样本是来自于训练集而不是模型G生成的。如下图所示:采用的估计方法也是最大似然估计。损失为:该...

2019-07-11 18:02:17

中国计算机学会推荐国际学术会议和期刊目录---人工智能

原网址:https://www.ccf.org.cn/xspj/rgzn/中国计算机学会推荐国际学术刊物(人工智能)A类 序号 刊物名称 刊物全称 出版社 地址 1 AI Artificial Intelligence EIsevier http://dblp.uni-trier.de/db/journals/ai/...

2019-07-09 14:10:33

模型训练时损失出现Nan,解决方案

1.问题如下图所示:2.损失为nan的原因1.学习率过大,导致当然还有其他原因,目前可以参考警惕!损失Loss为Nan或者超级大的原因3.解决方式降低学习率...

2019-06-24 10:50:11

tensorflow命令行参数---tf.app.flags

tensorflow命令行参数源码github上已经给出:https://github.com/abseil/abseil-py/blob/master/absl/flags/_defines.py#L319以下是写的demo:import tensorflow as tfflags = tf.app.flagsFLAGS = flags.FLAGS# Settin...

2019-06-24 10:48:32

tf.nn.moments()的使用

tf.nn.moments()是用于计算均值和方差。参数(x, axes, shift=None, name=None, keep_dim=False)x: 输入axes: 需要进行求均值/方差的维度,以列表的形式表示,如[0,1,2]表示求第0,1,2三个维度的均值/方差。shift: 当前情况下不使用name: 节点名称keep_dim: 是否与输入保持一致实例:...

2019-06-18 20:40:23

查看更多

勋章 我的勋章
  • 持之以恒
    持之以恒
    授予每个自然月内发布4篇或4篇以上原创或翻译IT博文的用户。不积跬步无以至千里,不积小流无以成江海,程序人生的精彩需要坚持不懈地积累!
  • 1024勋章
    1024勋章
    #1024程序员节#活动勋章,当日发布原创博客即可获得
  • 勤写标兵Lv1
    勤写标兵Lv1
    授予每个自然周发布1篇到3篇原创IT博文的用户。本勋章将于次周周三上午根据用户上周的博文发布情况由系统自动颁发。