11 cskywit

尚未进行身份认证

专注AI,热爱生活和文学

等级
TA的排名 9k+

【论文阅读笔记】诗歌生成的四篇论文

ChinesePoetryGenerationwithPlanningbasedNeuralNetworkCOLING2016源码方法:两阶段生成诗词:Step1:生成诗词主题根据人输入的关键词或句子,提取诗词关键词,根据待生成句子的数量,生成对应数量的关键词。使用TextRank算法结合word2Vec词向量对关键词重要性排列,取最重要的关键词。如果能提取的关...

2019-08-12 09:07:30

【问题解决】Win10 VScode中激活虚环境提示“Your shell has not been properly configured to use 'conda activate'.”

在win10VScodepowershellcomdline中使用condaactivate激活虚环境时候提示ommandNotFoundError:Yourshellhasnotbeenproperlyconfiguredtouse'condaactivate'.确保在环境变量中已经加入了Anaconda路径后,问题依旧。在VScodepowershell...

2019-08-11 16:27:25

【论文阅读笔记】 Inverse Cooking: Recipe Generation from Food Images

本文是Facebook AI Research发表在CVPR2019,是一篇很有意思的论文。人们喜欢美食摄影是因为他们欣赏美食。每顿饭的背后都有一个复杂的食谱描述的故事,不幸的是,仅仅看一个食物的图片,我们无法了解它的制作过程,在本文中介绍了一个逆向烹饪系统,它可以重建给定食物图像的烹饪食谱。通过一种新颖的体系结构来预测食材的组合,在不引入任何顺序的情况下对其依赖关系进行建模,然后通过同时处理图...

2019-08-07 11:11:15

Ubuntu18.04下深度学习环境搭建及问题解决(双系统+2080Ti显卡)

本文使用的是SSD+机械安装双系统,先安装Win10,然后是Ubuntu18.04,显卡是Nvidia2080TI1.Win10,Ubuntu18.04双系统安装见我另一篇博客2.安装显卡驱动如果只想在Windows下玩深度环境的可以看我另外一篇博客删除系统自带的不适配的NVIDIA驱动sudoapt-getpurgenvidia-*安装完毕后,通过命令行方式禁用自带...

2019-07-25 10:02:24

【问题解决】/dev/sda6:clean ***/*** files, ***/***blocks

换了显卡,启动Ubuntu时候发现黑屏上提示一行字/dev/sda6:clean***/***files,***/***blocks,一直卡在这里,按照网上帖子所说的使用fcsk命令等试过无效。最终琢磨出的解决方案如下:重新安装Ubuntu18.04安装2080TI驱动1.删除系统自带的不适配的NVIDIA驱动sudoapt-getpurgenvidia-*2.安装完毕后,通过...

2019-07-24 17:20:29

Google BERT最全资源收集

本文资源均收集自网络,方便大家研究和使用GoogleBERT模型BERT论文:BERT:Pre-trainingofDeepBidirectionalTransformersforLanguageUnderstanding论文解读:站在BERT肩膀上的NLP新秀们(PARTI)站在BERT肩膀上的NLP新秀们(PARTII)如何可视化BERT?BERT相关论文...

2019-07-17 18:05:32

【论文阅读笔记】Using the Output Embedding to Improve Language Model

设Word2Vec等词向量训练模型的输入词向量为U,输出词向量为V,通常模型训练完成后,只是用U作为预训练词向量给其他上游模型使用,V通常忽略,本文探讨了U和V使用的效果,已经联合使用U和V的想过,得出以下结论:1、在Word2Vec Skipgram模型中,输出词向量与输入词向量的效果相比稍差。2、在基于RNN的语言模型中,输入词向量比输入词向量想过更好。3、通过...

2019-07-06 22:18:30

【论文阅读笔记】Character-level Convolutional Networks for Text Classification

Char-CNN论文:Character-levelConvolutionalNetworksforTextClassification论文解读:  *简书论文翻译  *《Character-levelconvolutionalnetworksfortextclassification》论文网络结构解读论文源码:  *基于字符的卷积神经网络实现文本分类(cha...

2019-06-28 10:38:50

【论文代码调测】Convolutional Neural Networks for Sentence Classification

TextCNN论文地址:ConvolutionalNeuralNetworksforSentenceClassification论文解读:ASensitivityAnalysisof(andPractitioners’Guideto)ConvolutionalNeuralNetworksforSentenceClassification这是一篇使用Tex...

2019-06-26 09:54:47

多种方法使用GloVe

本文的写作参考可网上很多博客,再次感谢,参考到的博文列在下面,本文对Glove原理,纯Python实现,Pytorch实现,官方C语言方式编译,以及简单方式使用进行记录,方便后面学习的童鞋。论文地址:GloVe: Global Vectors for Word Representation论文解读:GloVe模型的理解及实践GloVe详解论文分享–>GloVe: Global V...

2019-06-23 21:05:30

Anaconda中构建深度学习开发环境记录(Win10下测试)

有人问我Win10下深度学习环境的构建,个人觉得应该和Win7差不多,但出于负责还是亲自尝试记录一下。下面所说的命令都是亲测可用的。我的平台是:Python3.6(Anaconda4.3)+CUDA10.0+windows10,提前去NVIDIA官网下载CUDA和cuDNN,配置见我的另一篇博客,这里不再赘述设置源2019年6月5日Anaconda清华源又恢复使用了,很好!!在anna...

2019-06-22 16:32:29

【避免入坑】混合硬盘上安装Win10+Ubuntu18.04双系统需要注意的细节

因为系统崩溃且之前使用Win7分区不合理,所以直接重装,这里改用Win10,我的电脑配置是512GSSD+4T机械+32GB内存+Nvdia2080ti显卡,本文只是将安装中需要注意的细节说明,不重复所有细节,具体完整的安装网上已经有很多教程。##一.安装Win10使用U盘安装,比较简单,下载老毛桃装机工具,将网上下载的Win10写入即可,这方面网上教程很多,不赘述,值得注意的几...

2019-06-22 09:55:45

【论文阅读笔记】A Sensitivity Analysis of (and Practitioner Guide to) Convolutional Neural Networks for Sent

本文对TextCNN(原论文:Convolutional Neural Networks for Sentence Classification)做了大量调参实验,给出了很多使用TextCNN进行文本分类的具体建议。TextCNN的论文解析在网上有很多已有的博客可以参考,这里只是简述。TextCNN结构如图:网络原理简述:网络输入是句子,其中的每个单词已经通过one-hot、...

2019-06-21 10:41:43

【论文代码调测】A Convolutional Neural Network for Modelling Sentences

本论文使用Dynamic K-max pooling和宽卷积提升句子建模精度,在NLP中,当卷积核的长度相对于输入向量的长度比较大,需要使用宽卷积,在TensorFlow的CNN实现中,padding='SAME'表示宽卷积,padding='VALID'实现的是窄卷积,关于宽窄卷积的说明可以参考这篇博客。本文在github源码Python2.7基础上迁移到Python3.6.8进行调...

2019-06-01 21:39:24

[学习笔记]Pytorch迁移学习实例

本文参考Pytorch官方教程,个人觉得代码结构写得非常好,很值得借鉴使用,所以转发分享,另外将调试中遇到的问题和解决一起说明一下。目前在CNN上的迁移学习的主要场景主要有两大类:1.CNN微调:使用预训练的CNN参数初始化网络,而不是随机初始化网络,如使用在imagenet上进行预训练的网络参数进行初始化;2.将CNN作为固定的特征提取方式:除了最后的全连接层,其余层全部冻结,最后的...

2019-05-19 09:04:23

【论文阅读笔记】RETAIN: An Interpretable Predictive Model for ealthcare using Reverse Time Attention Mechani

本文发布在NIPS2016,论文代码:https://github.com/mp2893/retain.本文核心模型如图:文章将事件序列建模为心力衰竭诊断的预测因子的方法表明,复杂模型可以提供更高的预测精度和更精确的解释能力。考虑到RNNs对序列数据分析的能力,文章提出了RETAIN,在保持RNN预测能力的同时允许更高程度的解释。RETAIN的核心思想是通过复杂的注意力生成过程提高预测...

2019-05-05 16:09:58

清华源失效后如何安装pytorch1.01

今天本想体验下最新版的pytorch1.01,结果发现condainstall时候HTTPerror了,查了一下原来从4月25日其国内的清华源、中科大源等陆续关停服务,无奈又只能恢复到Anaconda官网的原始源,我的心情拔凉拔凉的,只能这样啦,安装过程中如何提速记录分享一下。我的GPU是Nvidia2080ti,CUDA版本10.0,所以我在不同的虚环境中同时安装CPU版...

2019-04-28 22:05:56

【论文阅读笔记】Learning Hierarchical Representations of Electronic Health Records for Clinical Outcome

本文发布在arxiv 2019 基于电子病历(EHR)的临床结局预测对提高医疗质量起着至关重要的作用。传统的深度序列模型无法捕捉到长而不规则的临床事件序列中编码的丰富的时间模式。长时间尺度的临床事件表现出较强的时间模式,而短时间内的事件往往是无序的共现。因此,本文提出了不同时间尺度的临床事件模型的不同机制。本文提出的模型学习事件序列的层次表示,自适应地区分短期和长期事件,并准确...

2019-04-25 17:13:29

【论文阅读笔记】Linguistic Knowledge and Transferability of Contextual Representations

本文发布在arxiv 2019 preprint 通过十六种不同的探究任务来研究语境化知识和语境化词语表示的可迁移性。预训练的上下文相关词向量足以在广泛的NLP任务中实现高性能。对于需要特定信息但未被上下文单词表示捕获的任务,学习特定任务的上下文特征有助于在词向量中编码必要的知识。此外,对情境化层的可迁移性模式的分析表明,LSTM的最低层编码最具可迁移的特征,而Transofor...

2019-04-21 08:55:05

【论文阅读笔记】The Effectiveness of Multitask Learning for Phenotyping with Electronic Health Records Data

本文发布在arxiv 2019 电子表型分析的任务是通过分析其医疗记录来确定个人是否具有感兴趣的医学病症,并且是临床信息学的基础。电子表型越来越多地通过监督学习来完成。本文使用电子健康记录(EHR)数据研究多任务学习对表型分析的有效性。多任务学习旨在通过共同学习其他辅助任务来提高目标任务的模型性能,并已用于机器学习的不同领域。但是,它在应用于EHR数据时的效用尚未确定,之前的工作...

2019-04-20 15:51:00

查看更多

勋章 我的勋章
  • 持之以恒
    持之以恒
    授予每个自然月内发布4篇或4篇以上原创或翻译IT博文的用户。不积跬步无以至千里,不积小流无以成江海,程序人生的精彩需要坚持不懈地积累!
  • 勤写标兵Lv1
    勤写标兵Lv1
    授予每个自然周发布1篇到3篇原创IT博文的用户。本勋章将于次周周三上午根据用户上周的博文发布情况由系统自动颁发。