15 张俊林博客

尚未进行身份认证

中科院软件所博士学位,研究领域:搜索引擎,自然语言处理,社交挖掘,推荐系统与机器学习。现在从事相关的开发与研究。

等级
TA的排名 2k+

放弃幻想,全面拥抱Transformer:自然语言处理三大特征抽取器(CNN/RNN/TF)比较

                                         author:张俊林                                 /*可以转载,转载请标明作者及知乎的出处*/如果看不清图片,请转到:放弃幻想,全面拥抱Transformer:自然语言处理三大特征抽取器(CNN/RNN/TF)比较 在辞旧迎新的时刻,大家都在忙着回顾过去一年的成...

2019-01-15 22:39:40

从Word Embedding到Bert模型—自然语言处理中的预训练技术发展史

                                    本文可以任意转载,转载时请标明作者和出处。                                                         张俊林2018-11-11(如果图片浏览有问题可以转至:知乎版本)Bert最近很火,应该是最近最火爆的AI进展,网上的评价很高,那么Be...

2018-11-11 20:24:32

深度学习中的Normalization模型

            /*本文可以随便转载,转载时请注明作者及文章出处*/                       作者:新浪微博 张俊林  BatchNormalization(简称BN)自从提出之后,因为效果特别好,很快被作为深度学习的标准工具应用在了各种场合。BN大法虽然好,但是也存在一些局限和问题,诸...

2018-08-28 21:33:05

深度学习枕边书

            /*本文可以随便转载,转载时请注明作者及文章出处*/                       作者:新浪微博 张俊林   所谓“深度学习枕边书”,我的目的是希望能够找到初学者能够了解深度学习的最小知识集合,也就是介绍那些最重要必须要了解的技术点。目标一个方面是知识最小集,以节省入门者的时...

2018-08-25 15:50:12

社交搜索Graph Search技术解析

 Facebook是目前世界上最著名的社交网站,月活跃用户已超过10亿,每日登陆网站的用户超过6亿。如果从数据抽象的角度来看,Facebook的社交图不仅包括好友之间的关系,还包括人和实体以及实体之间的关系,每个用户,每个页面,每张图片,每个应用,每个地点以及每个评论都可以作为独立实体,用户喜欢某个页面则建立了用户和页面之间的关系,用户在某个地点签到则建立了用户和地点之间的关系……如果将每个实体...

2018-07-15 09:54:10

深度学习在CTR预估任务中的应用

/* 版权声明:可以任意转载,转载时请标明文章原始出处和作者信息 .*/                                                                    张俊林                                     (本文是2017年底Archsummit全球架构师峰会演讲内...

2018-05-11 22:57:08

2017年AI技术盘点:关键进展与趋势

/* 版权声明:可以任意转载,转载时请标明文章原始出处和作者信息 .*/                                                                    张俊林                                                                  (本文20

2018-02-04 18:01:15

通过不断重置学习率来逃离局部极值点

本文提出了一种利用不断调大学习率的方法试图跳出SGD优化过程中的局部极小值或者鞍点的方法,并提出了两种具体的方法:随机漫步起跳法和历史最优起跳法,实验证明相对常规优化方法有一定性能提升。

2017-12-10 22:46:56

深度学习中的注意力机制(2017版)

/* 版权声明:可以任意转载,转载时请标明文章原始出处和作者信息 .*/                                                                    张俊林                                                                  (...

2017-12-10 21:57:17

机器码农:深度学习自动编程

/* 版权声明:可以任意转载,转载时请标明文章原始出处和作者信息 .*/                                                                    张俊林                                                                  (...

2017-06-03 19:03:10

极深网络(ResNet/DenseNet): Skip Connection为何有效及其它

ResidualNetwork通过引入SkipConnection到CNN网络结构中,使得网络深度达到了千层的规模,并且其对于CNN的性能有明显的提升,但是为何这个新结构会发生作用?这个问题其实是个挺重要的问题。本PPT归纳了极深网络相关的工作,包括ResNet为何有效以及目前的一些可能下的结论。

2017-03-28 16:06:39

NeuralFinder:集成人工生命和遗传算法自动发现神经网络最优结构

如何让机器自动针对问题设计出好的神经网络结构?本文介绍了一种利用人工生命和遗传算法自动发现深度学习中神经网络最优结构的方法,实验结果表明,这种方法通过少量计算可以自动发现和人类手工设计出较好的神经网络结构相近性能的神经网络。

2017-03-18 10:04:01

微博环境下利用综合策略构建推荐引擎

本文内容是2012年在新浪微博的工作,是关于微群综合推荐系统的PPT,曾在QCON2013上海分享过。

2016-11-22 20:27:38

AlphaGo:人工智能与深度学习

本文介绍了Alphago里使用到的关键技术,包括蒙特卡洛搜索树和深度学习算法。

2016-10-31 19:53:02

深度学习解决机器阅读理解任务的研究进展

本文是对深度学习在机器阅读理解领域最近进展的综述文章。

2016-10-16 19:05:36

机器阅读理解中文章和问题的深度学习表示方法

文本归纳了机器阅读理解任务中文章和问题的常见神经网络表示方法。

2016-09-21 18:38:22

序列标注问题中将分类标签引入RNN网络结构的尝试

本文讲了讲我们在解决序列标注问题中将分类标签引入RNN网络结构的一次不成功的尝试。

2016-09-06 19:32:29

我爱计算机:张俊林专访

一篇专访,谈谈关于人工智能的行业经验及一些看法。

2016-08-18 18:55:57

聊天机器人中对话模板的高效匹配方法

本文介绍了聊天机器人中一种简单高效的模板管理与匹配系统。

2016-08-11 19:38:29

深度学习在搜索和推荐领域的应用

 /* 版权声明:可以任意转载,转载时请标明文章原始出处和作者信息 .*/                                author: 张俊林                         深度学习在搜索和推荐领域的应用             (想更系统地学习深度学习知识?请...

2016-07-27 20:02:02

查看更多

CSDN身份
  • 博客专家
勋章 我的勋章
  • 持之以恒
    持之以恒
    授予每个自然月内发布4篇或4篇以上原创或翻译IT博文的用户。不积跬步无以至千里,不积小流无以成江海,程序人生的精彩需要坚持不懈地积累!