大虾飞哥哥-CSDN博客

原创解决ubuntu20.04虚拟机无法上网的问题

@linux虚拟机无法正常上网前言刚建立好的linux虚拟机使用NAT方式可以连接外网，系统重启几次，系统无法上网，这是什么问题导致的呢？提示：以下是本篇文章正文内容，下面案例可供参考一、现象使用ifconfig命令查看系统ip相关参数，发现只有网卡lo，外网网卡找不到了。使用ifconfig -a 命令查看网卡相关信息，会看到ens33网卡的相关信息：使用命令sudo ifconfig ens33 up，在使用ifconfig查看网络配置，我们会发现，出现了ens33网络配置：这

2020-09-25 21:14:12 30897 33

原创 postgres数据库设置id自增

执行结果ng)

2023-09-01 10:37:04 315

原创 docker基本使用方法

Docker 可以让开发者打包他们的应用以及依赖包到一个轻量级、可移植的容器中，然后发布到任何流行的 Linux 机器上，也可以实现虚拟化。Docker 使您能够将应用程序与基础架构分开，从而可以快速交付软件。通过利用 Docker 的方法来快速交付，测试和部署代码，您可以大大减少编写代码和在生产环境中运行代码之间的延迟。

2023-08-10 09:16:56 801

原创量化交易-单因子分析-alphalens

alphalens单因子分析

2023-02-22 15:12:27 1439 2

原创量化交易-因子有效性分析

因子有效性分析

2023-01-20 14:44:02 1518 1

原创 NLP- 关键词提取 - 综述

TF-IDF算法，主要是通过统计方法，评估词对文档的重要性。一个基本思想是，一个词在文档中出现的次数越多，显然这个词会相对更具代表性，但是如果这个词在很多的文档中都有出现，那么他出现次数再多也不具备文档区分能力。所以他的另一个基本思想是如果一个词在越少的文档中多次出现，则其对文档的区分能力也就越强，而且也具有代表性。TextRank算法则可以脱离语料库的基础，仅对单篇文档进行分析就可以提取该文档的关键词。这也是TextRank算法的重要特点。TextRank算法的基本思想源于Google的PageRank

2022-06-01 15:53:50 1805

原创 NLP - 关键词提取 - TextRank

TextRank算法则可以脱离语料库的基础，仅对单篇文档进行分析就可以提取该文档的关键词。这也是TextRank算法的重要特点。TextRank算法的基本思想源于Google的PageRank算法。PageRank 算法是一种网页排名算法，其基本思想有两条：链接数量：一个网页被越多的其他网页链接，说明这个网页越重要。链接质量：一个网页被一个越高权值的网页链接，也能表明这个网页越重要。PageRank 考虑到不同网页之间，一般会通过超链接相连，B网页链接越多，说明 B网页的价值也就越大；权重是从某个

2022-06-01 14:49:11 3604

原创 NLP-RNN

NLP-RNN一、RNN引出二、RNN结构三、RNN 应用一、RNN引出卷积神经网络 – CNN 和普通的算法大部分都是输入和输出的一一对应，也就是一个输入得到一个输出。不同的输入之间是没有联系的。但是在某些场景中，一个输入就不够了！为了填好下面的空，取前面任何一个词都不合适，我们不但需要知道前面所有的词，还需要知道词之间的顺序。这种需要处理「序列数据 – 一串相互依赖的数据流」的场景就需要使用 RNN 来解决了。二、RNN结构传统神经网络的结构比较简单：输入层 – 隐藏层 – 输出层。每一

2022-05-31 17:25:17 370

原创 NLP-文本表示-词袋模型和TF-IDF

文本表示-词袋模型和TF-IDF一、文本表示的几种方式二、词袋模型BoW(Bag-of-words)1、在词或字的维度表示 -- one-hot编码2、在文本或段落的维度表示3、词袋模型编码特点以及缺点三、词袋模型BoW(Bag-of-words)一、文本表示的几种方式二、词袋模型BoW(Bag-of-words)词袋模型：一段文本不考虑语序和词法的信息，每个单词都是相互独立的，将词语放入一个“袋子”里，统计每个单词出现的频率。1、在词或字的维度表示 – one-hot编码构建过程：

2022-05-31 10:19:15 1954

原创 pytorch设置随机种子

pytorch设置随机种子 - 保证复现模型所有的训练过程在使用 PyTorch 时，如果希望通过设置随机数种子，在 GPU 或 CPU 上固定每一次的训练结果，则需要在程序执行的开始处添加以下代码：def seed_everything(): ''' 设置整个开发环境的seed :param seed: :param device: :return: ''' import os import random import nump

2022-05-27 10:59:18 3714

原创 CNN - nn.Conv1d使用

CNN - nn.Conv1d使用一、Conv1d 参数设定二、Conv1d 输入输出以及卷积核维度三、Conv1d 计算过程1. 测试一：in_channels=1, out_channels=12. 测试二：in_channels=1, out_channels=23. 测试三：in_channels=8, out_channels=13. 测试三：in_channels=8, out_channels=2四、Conv1d 在文本中的应用 -- TextCNN一、Conv1d 参数设定torch

2022-05-25 14:06:56 22613 10

原创优化器 - 梯度下降

优化器 - 梯度下降一、什么是梯度？二、梯度下降介绍三、梯度下降分类一、什么是梯度？关于梯度的引入，可以分为四个概念：1、导数: 当函数定义域和取值都在实数域中的时候，导数可以表示函数曲线上的切线斜率。2、偏导数：对于多元函数一个多变量的函数的偏导数，是关于其中一个变量的导数，而保持其他变量恒定。3、方向导数：函数在某一点上无数个切线的斜率。举例：定义在曲面 z = f(x, y) ，平面上一点 P(a,b) 以及单位向量 u =(cosθ,sinθ)。从点 P(a, b,

2022-05-18 16:17:24 877

原创 NLP-学习规划

一、岗位需求1、不同岗位方向的能力要求比例：知识图谱、信息抽取方向 70%对话系统、问答系统方向 40%文本分类、情感分析方向 20% 文本推荐方向 15%其中采样部分对话系统、推荐系统的搭建依赖于知识图谱、信息抽取技术。2、软技能：学习能力、解决问题能力 60%团队协作能力 40%表达沟通能力 20%3、加分项：高质量的论文 40%深度参与的实战算法项目 80%高质量的比赛和比赛名次 30%二、学习规划第

2022-05-17 10:56:02 245

原创 NLP-图解self-Attention

NLP-图解self-Attention一、self-Attention是什么？二、 self-Attention实现三、 Multi-Head Attention实现一、self-Attention是什么？假设以下句子是我们要翻译的输入句子：” The animal didn’t cross the street because it was too tired”这句话中的“它”指的是什么？它指的是街道还是动物？这对人类来说是一个简单的问题，但对算法来说却不是那么简单。当模型处理 “it” 这个

2022-05-11 11:27:33 391

原创 python 二叉树的序列化和反序列化

python 二叉树的序列化和反序列化一、leetcode 297二、为什么要反序列化？三、反序列化设计四、序列化设计五、leetcode 297题一、leetcode 297序列化是将一个数据结构或者对象转换为连续的比特位的操作，进而可以将转换后的数据存储在一个文件或者内存中，同时也可以通过网络传输到另一个计算机环境，采取相反方式重构得到原数据。请设计一个算法来实现二叉树的序列化与反序列化。这里不限定你的序列 / 反序列化算法执行逻辑，你只需要保证一个二叉树可以被序列化为一个字符串并且将这个字符串

2022-04-29 16:11:41 916

原创 NLP-tansformer

NLP-tansformer一、Transformer 整体结果二、Encoder 结构三、Decoder 结构1、第一种 decoder - Autoregressive(AT)2、tansformer - decoder结构（使用AT）3、Decoder Autoregressive 停止输出4、第二种 Decoder Non-autoregressive(NAT)6、Encoder - Decoder四、训练一、Transformer 整体结果Transformer源于2017年谷歌的一篇论文A

2022-04-14 22:01:39 646

原创 NLP-transformer-预备知识（self-Attention）

NLP-transformer-预备知识（self-Attention）一、自注意力机制在 transformer 中的应用二、self-Attention 引出三、self-Attention 单步计算过程四、self-Attention 向量计算过程五、多头自注意力机制计算过程六、self-Attention 需要配合位置信息一、自注意力机制在 transformer 中的应用下图是Transformer 的内部结构图，左侧为 Encoder block，右侧为 Decoder block。红色

2022-04-13 20:23:10 521 1

原创 NLP-LSTM

NLP-LSTM一、LSTM介绍二、LSTM拆解1、遗忘门、输入门、输出门2、候选记忆元3、记忆元4、隐藏状态三、总结一、LSTM介绍LSTM（Long Short-Term Memory）也称长短时记忆结构，它是传统RNN的变体，与经典RNN相比能够有效捕捉长序列之间的语义关联，缓解梯度消失或爆炸现象，同时LSTM的结构更复杂，它的核心结构可以分为四个部分：遗忘门、输入门、细胞状态、输出门。二、LSTM拆解1、遗忘门、输入门、输出门就如在 GRU 单元中⼀样，当前时间步的输⼊和前⼀个时间步

2022-04-12 11:12:49 1543

原创 NLP-GRU

NLP-GRU一、GRU概念二、分布拆解1、更新门、重置门2、候选隐藏状态3、隐藏状态三、总结一、GRU概念GRU（Gated Recurrent Unit）也称门控循环单元结构，它也是传统RNN的变体，能够有效捕捉长序列之间的语义关联，缓解梯度消失或爆炸现象。它的核心结构可以分为两个部分：更新门、重置门。更新门：能够关注的机制重置门：能够遗忘的机制二、分布拆解1、更新门、重置门下图描绘了门控循环单元中的重置⻔和更新⻔的输⼊，输⼊是由当前时间步的输⼊和前⼀时间步的隐状态给出。两个⻔的输出

2022-04-11 21:06:52 1637

原创 NLP-文本表示-词向量

NLP-词向量一、词嵌入概述二、词嵌入模型1、模型的输入输出2、词嵌入矩阵建立3、模型数据集的构建1）简单方式2）word2vec: CBOW3）word2vec: skip-gram4、负采样三、整体流程一、词嵌入概述词嵌入定义：词嵌入（word embedding）是一种词的类型表示，具有相似意义的词具有相似的表示，是将词汇映射到实数向量的方法总称。one-hot：它忽略了词之间的相关性，当词过多时，维度比较高。词嵌入：降低维度，使相似的词具有相似的向量表征。词嵌入生成的方法：二、词嵌

2022-04-11 11:49:04 1400

原创 pytorch使用-nn.RNN

pytorch使用-nn.RNN一、nn.RNN一、nn.RNNnn.RNN(input_size: int, hidden_size: int, num_layers: int = 1, bias: bool = True, batch_first: bool = False, dropout: float = 0., bidirectional: bool = False, proj_size: int = 0, device=None, dtype=No

2022-04-07 16:56:47 3496

原创 pytorch使用-Lenet实现

pytorch使用-Lenet实现一、Lenet实现网络图二、创建网络三、定义损失函数四、定义优化器一、Lenet实现网络图二、创建网络import torch.nn as nnimport torch.nn.functional as F# TODO: 构建神经网络class LeNet(nn.Module): def __init__(self): super(LeNet, self).__init__() self.conv1 = nn.

2022-04-03 17:26:24 1566

原创 pytorch使用-自动微分

pytorch使用-自动微分一、自动微分二、Tensor自动微分三、backward 反向传播一、自动微分在整个Pytorch框架中，所有的神经网络本质上都是一个autograd package（自动求导工具包），autograd package提供了一个对Tensors上所有的操作进行自动微分的功能.以前的pytorch使用Variable来作为自动求导的类型。但是较新版本将tensor和variable合并了，Tensor的数据结构如下：Tensor 主要包含三个属性:.data：保存T

2022-04-03 11:33:26 2550

原创 pytorch使用-tensor基本操作

pytorch使用-tensor基本操作一、tensor加减乘除二、tensor矩阵运算四、tensor切片操作五、tensor改变形状六、tensor 和 numpy.array相互转换七、tensor 转到GPU上一、tensor加减乘除加法操作import torchx = torch.randn(2, 3)y = torch.randn(2, 3)z = x + yprint(z)z = torch.add(x, y)print(z)y.add_(x)print(y)

2022-04-02 22:08:06 4037

原创 pytorch使用-tensor创建

pytorch使用-tensor创建一、导入包二、tensor创建方法三、tensor初始化和随机初始化四、tensor方法一、导入包import torch二、tensor创建方法x = torch.empty(2, 3)print(x)x = torch.Tensor(2, 3)print(x)x = torch.zeros(2, 3, dtype=torch.long)print(x)x = torch.ones(2, 3, dtype=torch.long)print

2022-04-02 21:07:07 1602

原创 NLP-条件随机场-实战

NLP-条件随机场-实战一、线性链式条件随机场二、数据的预处理1、语料分词和词性标注2、命名实体的标注3、提取特征一、线性链式条件随机场我们常用的是线性链式条件随机场，结构如下图所示：链式条件随机场主要包含两种关于标记变量的团：单个标记变量与 X 构成的团： {yi,Xy_i,Xyi,X}, i=1,2,...,ni =1,2,...,ni=1,2,...,n 。相邻标记变量与X 构成的团： {yi−1,yi,Xy_{i-1},y_i,Xyi−1,yi,X}, i=1,2,...

2022-03-30 18:14:14 1211

原创机器学习-SVM

机器学校-SVM一、SVM提出二、SVM最优化问题三、为什么要求对偶问题四、SVM转换为对偶问题五、核函数一、SVM提出这里有两个类别的数据， class1 与class2，要把这两类分开。我们可以找到很多条直线将它们分开，只要位于两类数据之间即可，然而, 我们的目的不只是为了区分现有的两类数据, 我们真正想要达到的目的是: 当模型在现有数据训练完成后, 将其应用到新的数据时,我们仍然可以很好的区分两类数据,达到预期的分类效果，即泛化(generalization) 能力。哪一条直线分类效果更好

2022-03-25 16:27:43 2334

原创机器学习-线性回归

机器学习-线性回归一、线性回归概念二、怎样求解回归系数三、最小二乘法四、多元线性回归五、岭回归六、Lasso回归一、线性回归概念首先举个例子，我们去市场买牛肉，一斤牛肉52块钱，两斤牛肉104块钱，三斤牛肉156块钱，以此类推。也是说牛肉的价格随着牛肉斤数的增加而有规律地增加，这种规律可以下图表示：可以看到上述规律可以用一条直线来表述，这就是一个线性模型。用 𝑦𝑦y 表示牛肉斤数，用 $𝑥 $表示价格，就得到方程： 𝑦=52𝑥𝑦=52𝑥y=52x。这个方程就叫做回归方程，52叫做回归系数，求解回归

2022-03-23 11:23:37 5942

原创 NLP-条件随机场

NLP-条件随机场一、无向图势函数二、CRF介绍三、线性链式条件随机场四、举例一、无向图势函数无向图上定义的概率分布可以表示为：势函数 ψC(XC)ψ_C(X_C)ψC(XC) 的作用是定量刻画变量集 XCX_CXC中变量之间的相关关系，它应该是非负函数，且在所偏好的变量取值上有较大函数值..例如，上图中的变量均为二值变量，若势函数为：则说明该模型偏好变量 xAx_AxA 与 xCx_CxC 拥有相同的取值，xBx_BxB 与 xCx_CxC 拥有不同的取值；换言之，在该模

2022-03-17 08:48:03 515

原创 NLP-条件随机场-概率图模型

NLP-条件随机场-概率图模型一、概率图模型二、为什么要用图模型三、有向图和无向图1.有向图（贝叶斯网络）2.无向图（马尔科夫网）3.团和极大团4.联合概率分布四、概率模型的三个问题一、概率图模型概率图模型（probabilistic graphical model）是一类用图来表达变量相关关系的概率模型，它以图为表示工具，最常见的是用一个结点表示一个或一组随机变量，结点之间的边表示变量间的概率相关关系，即“变量关系图”.根据边的性质不同，概率图模型可大致分为两类：第一类是使用有向无环图表示变量间的依

2022-03-10 16:59:36 873

原创 NLP-文本挖掘-综述

NLP-文本挖掘-综述一、什么是文本挖掘二、文本挖掘五个步骤三、7种文本挖掘的方法一、什么是文本挖掘文本挖掘的意义就是从数据中寻找有价值的信息，来发现或者解决一些实际问题。每到春节期间，买火车票和机票离开一线城市的人暴增——这是数据再匹配这些人的身份证信息，发现这些人都是从一线城市回到自己的老家——这是信息回老家跟家人团聚，一起过春节是中国的习俗——这是知识二、文本挖掘五个步骤数据收集、文本预处理、数据挖掘和可视化、搭建模型、模型评估。三、7种文本挖掘的方法关键词提取：对长文本的内

2022-03-10 10:33:49 6072

原创 NLP-词性标注-隐马尔可夫模型实现

NLP-词性标注-隐马尔可夫模型实现一、词性标注介绍任务二、HMM模型构建1. 模型状态集合2. 观察状态集合3.观察状态和状态序列4. 状态转移概率分布矩阵5. 观测状态概率矩阵(发射概率)6. 初始概率7. 目标三、语料库四.python代码实现1. 初始化类2. 决定是否重新训练3. 初始化参数4. 输入的句子做标注5. 训练6. 维特比算法标注，根据标注分词7. 测试8. 结果一、词性标注介绍词性标注是语料库语言学中将语料库内单词的词性按其含义和上下文内容进行标记的文本数据处理技术。

2022-03-08 10:28:04 1611 2

原创 NLP-统计分词-隐马尔可夫模型（维特比算法实现详解）

NLP-统计分词-隐马尔可夫模型（维特比算法实现详解）一、HMM模型1. 模型状态集合2. 观察状态集合3.观察状态和状态序列4. 状态转移概率分布矩阵5. 观测状态概率矩阵(发射概率)6. 初始概率7. 目标二、python实现一、HMM模型1. 模型状态集合QQQ = {BBB， MMM， EEE， SSS}，NNN = 42. 观察状态集合VVV = {我我我，爱爱爱， … } ，句子的集合。3.观察状态和状态序列观察序列：小明是中国人状态序列：B,E,S,B,M,EB,

2022-03-05 11:54:17 584

原创 NLP-统计分词-隐马尔可夫模型实现

NLP-统计分词-隐马尔可夫模型实现一、HMM分词思想二、HMM模型构建1. 模型状态集合2. 观察状态集合3.观察状态和状态序列4. 状态转移概率分布矩阵5. 观测状态概率矩阵(发射概率)6. 初始概率7. 目标三、根据语料库构建模型四、中文语句标注一、HMM分词思想HMM是将分词作为字在字串中的序列标注任务来实现的。其基本思路是：每个字在构造一个特定的词语时，都占据着一个确定的构词位置（即词位）。现规定每个字最多只有四个构词位置，即 BBB（词首）、MMM（词中）、EEE（词尾）和 SSS（单独

2022-03-03 20:38:24 1179 1

原创 NLP-统计分词隐马尔可夫模型介绍

NLP-统计分词隐马尔可夫模型介绍一、隐马尔可夫模型二、隐马尔可夫模型定义三、举例1.初始条件2.规则3.观测4.HMM模型5.观测序列的生成四、HMM模型的三个基本问题1.评估观察序列概率2.模型参数学习问题3.预测问题，也称为解码问题（分词关系的问题）一、隐马尔可夫模型隐马尔科夫模型（Hidden Markov Model，以下简称HMM）是比较经典的机器学习模型了，它在语言识别，自然语言处理，模式识别等领域得到广泛的应用。使用HMM模型时我们的问题一般有这两个特征：１）我们的问题是基于序列

2022-03-03 15:36:31 766

原创 NLP-统计分词综述

NLP-统计分词一、统计分词1.概念2.2.步骤二、语言模型一、统计分词1.概念基于统计的分词算法的主要核心是词是稳定的组合，因此在上下文中，相邻的字同时出现的次数越多，就越有可能构成一个词。因此字与字相邻出现的概率或频率能较好地反映成词的可信度。可以对训练文本中相邻出现的各个字的组合的频度进行统计，计算它们之间的互现信息。互现信息体现了汉字之间结合关系的紧密程度。当紧密程度高于某一个阈值时，便可以认为此字组可能构成了一个词。该方法又称为无字典分词。2.2.步骤1.构建语言模型2.对句子进行单

2022-03-02 15:57:27 1243

原创 NLP-词典分词

NLP-词典分词一、环境安装pyhanlp二、hanlp词典获取三、完全切分四、正向最大切分（两种方式）五、反向最大切分一、环境安装pyhanlpconda install -c conda-forge openjdk python=3.8 jpype1=0.7.0 -ypip install pyhanlp二、hanlp词典获取def load_dictionary(): """ 加载HanLP中的mini词库 :return: 一个set形式的词库 """

2022-02-28 21:44:32 504

原创 NLP-分词综述

NLP-分词综述一、什么是分词？二、为什么要分词1、将复杂问题转化为数学问题2. 词是⼀个⽐较合适的粒度3. 深度学习时代，部分任务中也可以「分字」三、中英⽂分词的3个典型区别1.分词⽅式不同，中⽂更难2.英⽂单词有多种形态3.中⽂分词需要考虑粒度问题四、中⽂分词的3⼤难点五、3种典型的分词⽅法六、分词⼯具1.中文分词⼯具2.英文分词⼯具一、什么是分词？分词是⾃然语⾔理解 - NLP 的重要步骤。分词就是将句⼦、段落、⽂章这种⻓⽂本，分解为以字词为单位的数据结构，⽅便后续的处理分析⼯作。二、为什

2022-02-27 09:59:15 3418