- 博客(11)
- 收藏
- 关注
RSS订阅原创 自回归、自编码语言模型在预训练模型中的应用
关于语言模型(自回归AR和自编码AE)如何结合特征提取器（LSTM和Transformer）的词表征模型（词向量的预训练模型），如ELMO、GPT、BERT、XLNET等，论文An introduction of Deep Learning Based WordRepresentation Applied to Natural LanguageProcessing做了完整的介绍。以下介绍自己...
2020-04-02 12:29:59
805
原创 Python中的类和函数、编译和执行过程、程序执行顺序、.py文件的相互调用
文本旨在介绍关于Python编程容易忽视的一些理论基础：一、Python面向对象编程一些基本概念以下链接中博主进行了很详细的介绍：一篇文章搞懂Python中的面向对象编程二、Python程序执行顺序关于python和C++程序执行顺序的不同，以及文件名称在调用该文件和使用该文件的不同，参考如下博客：Python程序执行顺序三、Python程序的编译和执行过程Python编译过程和执...
2020-03-15 23:21:31
1036
原创 自然语言处理中的常用术语、分词
在初步入门NLP过程中遇到很多摸不着头脑的英文术语，在这里做一个不完整的自我总结：一、传统NLP快速回顾在Natural Language Processing with PyTorch的第二个章节，作者对NLP中用到的一些术语做了简要介绍，包括Corpora（语料库）、Tokens（令牌）、Types（类型）、Ngram、subwords（子词）、词干和词根（stemmer、lemmas）。...
2020-02-23 00:32:18
1170
原创 Transformer中的Encoder、Decoder
一、Transformer博客推荐Transformer源于谷歌公司2017年发表的文章Attention is all you need,Jay Alammar在博客上对文章做了很好的总结：英文版：The Illustrated TransformerCSDN上又博主（于建民）对其进行了很好的中文翻译：中文版：The Illustrated Transformer【译】Google A...
2020-02-18 21:16:46
3247
原创 关于pip装包下载速度太慢的问题
一、pip装包问题使用Python的时候需要安装各种模块，而pip3或者pip（取决于python的版本）是很强大的模块安装工具，但是由于国外官方pypi经常被墙，导致不可用，所以我们最好是将自己使用的pip源更换一下，这样就能解决被墙导致的装不上库的烦恼，网上有很多可用的源。二、常用的pip源清华：https://pypi.tuna.tsinghua.edu.cn/simple阿里云：h...
2019-10-06 19:46:09
208
1
原创 UEFI版制作U盘启动盘重装系统
一、制作U盘启动盘可以使用大白菜UEFI版制作优盘启动盘，大白菜UEFI版下载链接如下：大白菜UEFI版下载链接准备一个8g以上的优盘，下载好Windows系统的.iso文件(Win10大概在4-5g）,按照下面步骤进行制作：http://www.dabaicai.pw/uefibqdzz.html这样USB启动盘就制作成功了二、重装系统在BIOS SETUP中的Boot设置U盘启动...
2019-07-03 20:27:41
3759
原创 文件的绝对路径和相对路径
绝对路径：是从盘符开始的路径相对路径：是从当前路径开始的路径接下来以.pkl文件的读取为例，进行简单介绍：如下所示若用/表示相对路径只需要./相对路径；绝对路径用则需要从盘符开始。若用\表示绝对路径，那么需要\才能输出\，否则\会与后面字符结合行程转义字符。import picklefr = open('./weights/online_test/wikihow_act_5_fold0....
2019-06-02 09:25:43
494
转载 模型参数与模型超参数
什么是模型参数？模型参数是模型内部的配置变量，其值可以根据数据进行估计。模型在进行预测时需要它们。它们的值定义了可使用的模型。他们是从数据估计或获悉的。它们通常不由编程者手动设置。他们通常被保存为学习模型的一部分。参数是机器学习算法的关键。它们通常由过去的训练数据中总结得出。在经典的机器学习文献中，我们可以将模型看作假设，将参数视为对特定数据集的量身打造的假设。最优化算法是估计模型参数的...
2019-05-29 23:52:54
8364
原创 常用搜索算法—盲目搜索和启发式搜索
搜索算法本文主要以一些概念对较为常见的搜索作简单介绍：一、盲目搜索对一个图进行搜索意味着按照某种特定的顺序依次访问其顶点。在所有搜索方式中，广度优先算法和深度优先搜索算法都十分重要，因为它们提供了一套系统地访问图数据结构的方法。我们着重讲解广度优先搜索算法。1.深度优先搜索深度优先搜索算法（简称DFS）是一种用于遍历或搜索树或图的算法。沿着树的深度遍历树的节点，尽可能深的搜索树的分支。当...
2019-05-25 00:51:39
33371
5
转载 那些年我们用过的显示器接口
高刷新率、高分辨率、甚至高色深的显示器现在普及的已经很全了，有时候可能我们刚换上最新的显示器，却被老线材脱了后腿，那么显示器线材该怎么选呢？一、古老的VGAVGA接口又叫D-sub，历史相当悠久，最早于1987年由IBM发布，它的接口有15针平均分成三排，分别传输R、G、B三色信号，直到今天依然有不少电脑还在用。它默认传输640x480的“标清”视频信号，其实也支持1080P以上分辨率，理论...
2019-05-21 22:00:19
8455
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人