AngeloG-CSDN博客

原创【NLP】Word2Vec模型文本分类

自然语言处理之词向量模型聚类分析Word Embedding词嵌入向量(Word Embedding)是NLP里面一个重要的概念，我们可以利用Word Embedding一个单词固定长度向量的表示一种表示形式。Word Embedding矩阵给每个单词分配一个固定长度的向量表示，这个长度可以自行设定，这个长度相对于one hot模型的词典长度维数上要小很多，但是却可以表示更多的信息，因为Word Embedding向量中每个维度都有含义。Word2VecWord2Vec是生成Word Embedd

2021-05-23 16:51:07 4147 3

原创【NLP】主题模型文本分类

自然语言处理之主题模型文本分类LDA主题模型1.主题模型（Topic Model）主题模型是以非监督学习的方式对文集的隐含语义结构进行聚类的统计模型。主题模型主要被用于自然语言处理中的语义分析和文本挖掘问题，例如按主题对文本进行收集、分类和降维。隐含狄利克雷分布是常见的主题模型。2.隐含狄利克雷分布LDA（Latent Dirichlet Allocation）1）贝叶斯模型LDA模型基于贝叶斯模型，2）多项式分布多项分布，是二项分布扩展到多维的情况。多项分布是指单次试验中的随机变量的取

2021-05-23 16:50:01 4110

原创【数据结构】3.图、最小生成树

一、图的基本概念1.什么是图图表示一种多对多的关系。图包括：1）一组顶点：通常用 V (Vertex) 表示顶点集合2）一组边：通常用 E (Edge) 表示边的集合3）边是顶点对：(v, w) ∈\in∈ E ，其中 v, w ∈\in∈ V ；有向边 < v, w> 表示从v指向w的边（单行线）；不考虑重边和自回路。2.数据类型描述数据对象集：G(V,E)由一个非空的有限顶点集合V和一个有限边集合E组成。3.图的表示1）邻接矩阵2）邻接表邻接表：G[N]为指针数组，对

2021-05-21 22:00:51 380

原创【统计学习】混合高斯模型EM估计算法实现

自然语言处理之混合高斯模型EM估计公式推导模型理解1、仍然是一个概率模型，高斯混合模型是对高斯模型进行简单的扩展，GMM使用多个高斯分布的组合来刻画数据分布，每个高斯分模型就代表了一个类（一个Cluster），对样本中的数据分别在几个高斯模型上投影，就会分别得到在各个类上的概率；2、所有高斯分量的权重系数大于零，且和为1； 3、混合高斯模型中待求的参数θ包括每个分量的高斯分布均值和方差，各个分量权重；4、初始化GMM时，一般传入“混合高斯分布分量数”、“约定协方差矩阵属性（高斯分布的形状）”

2021-05-21 21:54:53 380

原创【NLP】中文平均信息熵

自然语言处理之中文平均信息熵课程大作业欢迎讨论信息熵1.信息熵定义[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-mpqE0SXy-1621346255418)(自然语言处理之中文平均信息熵.assets/shannon.png)]1948年，香农提出了信息熵的概念，解决了对信息的量化度量问题。如今熵 (Entropy)，信息熵，已经是机器学习中绕不开的一个概念。信息熵常被用来作为一个系统的信息含量的量化指标，从而可以进一步用来作为系统方程优化的目标或者参数选择的判

2021-05-20 20:23:57 1980 1

原创【数据结构】2.树：堆、哈夫曼树、集合

# 一、堆## 1.基本概念优先队列（Priority Queue）：特殊的“队列”，取出元素的顺序是依照元素的优先权（关键字）大小，而不是元素进入队列的先后顺序。堆是优先队列的完全二叉树组织形式。堆的两个特性：**结构性：用数组表示的完全二叉树；有序性：任一结点的关键字是其子树所有结点的最大值(或最小值)。**

2021-05-20 11:20:57 306

原创【数据结构】2.树：二叉树、二叉搜索树及其基本实现

一、树概述1.树定义树是个结点构成的有限集合。1）当n=0时，称为空树；2）对于任一棵非空树都有一个称为“根（Root）”的结点；其余结点可分为m(m>0)个互不相交的有限集，其中每个集合是原来树的子树。子树是不相交的；除了根结点外，每个结点有且仅有一个父结点；一棵N个结点的树有N-1条边。2.树的一些基本概念结点的度：结点的子树个数树的度：树的所有结点中最大的度数叶结点：度为0的结点父结点：有子树的结点是其子树的根结点的父结点子结点：若A结点是B结点的父结点，则称B结点是A

2021-05-20 11:19:43 209

原创【C++ STL】5.set/map

STL中提供的关联式容器，set和map（multiset和multimap），包括在C++ 11中新增的无序关联容器unordered_map、unordered_multimap、unordered_set 以及 unordered_multiset。一、关联式容器1.关联式容器在存储元素值的同时，还会为各元素额外再配备一个值（又称为“键”，其本质也是一个 C++ 基础数据类型或自定义类型的元素），它的功能是在使用关联式容器的过程中，如果已知目标元素的键的值，则直接通过该键就可以找到目标元素，而无需

2021-04-28 19:56:02 87

原创【C++ STL】4.stack/queue

STL中栈和队列：stack和queue一、容器适配器简单的理解容器适配器，其就是将不适用的序列式容器（包括 vector、deque 和 list）变得适用。通过封装某个序列式容器，并重新组合该容器中包含的成员函数，使其满足某些特定场景的需要。容器适配器本质上还是容器，只不过此容器模板类的实现，利用了大量其它基础容器模板类中已经写好的成员函数。当然，如果必要的话，容器适配器中也可以自创新的成员函数。STL 提供了 3 种容器适配器，分别为 stack 栈适配器、queue 队列适配器以及 prior

2021-04-26 17:38:16 130

原创【C++ STL】3.list

一、list基本概念list是STL中链表数据结构的类型，在物理结构上非连续，通过指针进行链接。STL中的链表是双向循环链表，末尾节点后向指针指向初始节点，初始节点前向指向末尾节点。list迭代器只支持双向迭代器，即只能++或者–与vector相比：优点：充分利用内存，插入删除方便，不需要移动大量元素。缺点：占用空间比较大，遍历时时间消耗比较多。二、list构造1）list<T> lst;默认无参list<int>L;2） list(beg,end);将[beg,

2021-04-26 17:13:09 147

原创【C++ STL】2.vector/deque

STL中类似数组的两个容器vector和deque一、vector1.基本概念vector与数组相仿，也成为单端数组，相比普通数组的静态空间，vector可以动态扩展，这种动态扩展并不是在原空间之后续接新空间，而是找更大的内存空间，然后将原数据拷贝新空间，释放原空间。在vector中有容量的概念，容量一般大于vector当前的大小。vector在尾部插入或删除元素，在常量时间内就可以完成，时间复杂度为O(1)；而对于在容器头部或者中部插入或删除元素，则花费时间要长一些（移动元素需要耗费时间），时间复

2021-04-26 16:38:51 230

原创【C++ STL】1.string/sstream

C++中关于字符串的操作，不是STL提供，但构造方式、函数比较相似。一、string基本概念string是C++中字符串的类型，本质上是一个类，在C中字符串常用char *，是一个指针变量，string的内部也是通过char *实现的，相较于char *，string可以管理所分配的内存，不会出现复制越界和取值越界等情况。二、string构造函数string类型变量有四种构造方式：1）string();创建空字符串string s;2）string(const char* s);使用字符串初

2021-04-26 15:36:18 232

原创【C++ STL】0.STL标准模板库

一、STL是什么？STL，英文全称 standard template library，中文可译为标准模板库或者泛型库，其包含有大量的模板类和模板函数，是 C++ 提供的一个基础模板的集合，用于完成诸如输入/输出、数学计算等功能。二、STL组成1.主要的六个组件容器、算法、迭代器、仿函数（函数对象）、适配器、内存分配器，比较常用的就是前4部分。2.各组件容器：一些封装数据结构的模板类，如vector、list、deque等等。算法：STL 提供了非常多（大约 100 个）的数据结构算法，它

2021-04-26 14:42:09 106

原创【机器学习】Pytorch实现CNN、FNN手写数字识别

Pytorch神经网络入门，使用MNIST数据集的手写数字识别，小白入门，尽量把每一步搞明白，记录遇到的问题。实现了一个卷积神经网络和前馈神经网络，

2021-03-30 20:22:25 1080

原创【人工智能】5.不确定性推理

一、不确定推理预备知识1.不确定性推理的含义2.不确定推理基本问题二、证据理论1.可信度方法2.证据理论预备知识3.D-S理论4.一种特殊的概率分配函数模型5.简单例子三、概率论预备知识1.概率统计2.贝叶斯公式四、贝叶斯网络概率推理1.贝叶斯网络概述2.预测和诊断推理...

2020-12-26 17:29:55 3928

原创【折腾】x86裸机Ubuntu/ROS安装中遇到的坑

手边有一个闲置的NUC，想先安上Ubuntu配置起来，以备以后可能使用，i7+128固态+4GB内存，比较老了，配置比较低。u盘启动盘8GB就够用，格式化、安系统、安ros，理论上十几二十分钟就搞定了。1.Ubuntu启动盘安装系统1）因为先前里面有个windows但是进不去了要先u盘里弄个diskgenius给格式化一下c盘，网上工具挺多的，参考：制作windows的启动盘，里面有diskgenius：Uqidong；开机进bios，选u盘启动，选diskgenius：diskgenius使用。

2020-11-30 21:48:26 778

原创【人工智能】4.知识图谱初步

# 一、什么是知识？## 1.知识1）**知识定义**：Feigenbaum: 知识是经过消减、塑造、解释和转换的信息Bernstein：知识是由特定领域的描述、关系和过程组成的。知识库的观点：知识是某领域中所涉及的各有关方面的一种符号表示。2）**知识分类**：事实性知识：又称为叙述性知识，是用来描述问题或事物的概念、属性、状态、环境及条件等情况的知识。过程性知识：描述做某件事的过程，问题解决所要进行的操作。行为性知识：不直接给出事实本身，只给出它在某方面的行为，表现。元知识：有关知

2020-11-28 11:18:42 1713

原创【路径规划】A*三维全局路径规划（附Python实现源码）

1.A*启发式搜索A*算法介绍：启发式搜索算法，除了wiki之外比较全的一个参考资料：A*启发式搜索算法详解人工智能。这里是用Python写了一个简单的路径规划例子供参考。2.Matplotlib库Python中的绘图神器，官网参考资料：Matplotlib官网，关于三维绘图资料要自己摸索一下，关于动态绘图：matplotlib动态图和视频保存。3.全局规划效果在一个10X10X10的三维空间，有一部分障碍物，从一端出发到另一端的最优路径。规定在水平方向可以走斜线，在竖直方向只能走直线。A*的启

2020-11-27 22:04:12 8271 9

原创【人工智能】3.谓词与机器推理

一、谓词逻辑表示法1.谓词逻辑表示法中的一些基本概念2.谓词公式3.变元4.谓词逻辑表示法描述二、谓词公式与子句集1.谓词演算：等价式和永真蕴含2.什么是子句集3.子句集的求取4.反证法、子句集的应用三、一阶谓词逻辑推理及应用1.归结原理2.归结反演3.归结过程中的策略四、简单例子以下通过一个很简单的经典例子理解归结推理：1）问题描述设A，B，C三人中有人从不说真话，也有人从不说假话，某人向三人分别提出一个问题：谁是说谎者？A答：“B和C都是说谎者”；B答：“A和C都是

2020-11-19 16:51:37 4316

原创【人工智能】2.博弈问题、博弈搜索策略

一、问题描述方法：问题归约1.问题归约描述问题归约法与之前提到的状态空间法都是对进行问题描述，转换为符合或者图，但是思路不同。有许多问题可以通过一系列变换而最终变为一个子问题集合；这些子问题的解可以直接得到，通过解决这些子问题，从而就解决了初始问题。这样一种解决问题的思路就称为是问题归约法。例如之前的汉诺塔问题，在状态空间描述中，表示的是ABC三个金片的状态 S=(i,j,k)（即位于什么位置），而在问题归约描述中，描述问题的思路是将这个复制问题拆分成几个子问题，子问题完成了，那么总的问题也就完成了。

2020-11-18 17:00:09 6297

原创【人工智能】十五数码问题：A*算法

应用A*算法解决十五数码问题（N数码），算法介绍：问题求解：启发式搜索算法，参考：Python实现A算法解决N数码问题 / A启发式搜索算法详解。完整代码：Python解决十五数码问题（程序、报告）1.问题描述在4×4的棋盘上，摆有十五个棋子，每个棋子上标有1至15的某一数字。棋盘中留有一个空格，空格用0来表示。空格周围的棋子可以移到空格中（即空格可以上下左右移动）。要求解的问题是：给出一种初始布局：[11, 9, 4, 15, 1, 3, 0, 12, 7, 5, 8, 6, 13, 2, 10, 1

2020-11-17 17:23:49 4280

原创【人工智能】八数码问题：广度搜索、深度搜索

1.八数码问题描述在3×3的棋盘上，摆有八个棋子，每个棋子上标有1至8的某一数字。棋盘中留有一个空格，空格用0来表示。空格周围的棋子可以移到空格中（空格上下左右移动）。要求解的问题是：给出一种初始布局（初始状态设为283104765）和目标布局（目标状态设为123804765），找到一种最少步骤的移动方法，实现从初始布局到目标布局的转变。2.广度优先搜索...

2020-11-17 16:39:53 3192 2

原创【人工智能】1.问题求解：启发式搜索算法

A* 算法是启发式搜索算法中的经典，经常应用于路径搜索和规划中。这里以八数码问题状态空间图的搜索为例，初步介绍以A*算法为代表的启发式搜索。# 一、启发性信息和估价函数## 1.启发性信息：启发式搜索是利用知识来引导搜索过程的，达到减少搜索范围的目标，使得尽量先走“最有希望的方向”，从而降低问题复杂度。**这里就是要根据知识，设计启发性信息（启发函数）**，启发性信息可以：1）帮助确定扩展节点的信息2）有效地帮助决定哪些后继节点应被生成3）能决定在扩展一个节点时哪些节点应从搜索树上被删除启发性

2020-11-04 21:41:04 6953

原创【数据结构】1.线性结构：堆栈、队列

一、堆栈1.什么是堆栈？1）堆栈是具有一定操作约束的线性表，这个操作约束就是只在栈顶（Top）位置做插入（入栈Push）和删除（出栈Pop）的操作，整个过程是后入先出的（LIFO）。2）堆栈的抽象数据类型描述：类型名称：堆栈（Stack）数据对象集：0个或多个元素的有穷线性表操作集：长度MaxSize的堆栈S，堆栈元素item任意数据类型ElementType①Stack CreateStack( int MaxSize )：生成空堆栈，其最大长度为MaxSize②int IsFull(

2020-10-23 13:57:52 280

原创【C/C++】C语言中关于结构体的内存空间、数组、指针变量参数等

关于这几个问题论坛上已经有比较详细的文章，这里主要描述一些遇到的问题，并附上链接。一、结构体内存对齐例如采用数组的形式顺序存储线性表时，以下两种表示都可以：typedef struct LNode *List;struct LNode{ ElementType Data[MAXSIZE]; int Last;};typedef struct LNode *List;struct LNode{ ElementType *Data; int last;

2020-10-21 18:07:51 520

原创【数据结构】1.线性结构：线性表

# 一、什么是线性表？线性表（Linear List）是一种由**同类型数据元素**构成的**有序序列**的线性结构。表中元素个数称为长度；无元素时称为空表；表的起始位置为表头，结束位置为表尾。

2020-10-21 12:58:14 798 1

原创【数据结构】0.数据结构基本概念

目录一、什么是数据结构1.定义2.抽象数据类型3.数据结构与算法二、什么是算法一、什么是数据结构1.定义对于数据结构是什么没有一个完全的定义，在Sartaj Sahni的《数据结构、算法与应用》中，给出了这样的定义：“数据结构是数据对象，以及存在于该对象的实例和组成实例的数据元素之间的各种联系。这些联系可以通过定义相关函数给出。”可以说，数据结构是数据对象在计算机中的组织方式，包括逻辑结构和物理存储结构；另外这些数据对象必定与一系列加在其上的操作相关联，这些操作所用的方法就是算法。2.抽象数据类

2020-10-15 21:56:28 358 1

原创【人工智能】1.问题求解：状态空间图和盲目搜索

什么是问题求解？问题求解可以理解为利用知识，尽可能有效的找到问题的解，或者最优解的过程，主要包括：1）问题描述方法：状态空间法，与或树表示法；2）搜索方法（搜索策略）：盲目搜索，启发式搜索。一、状态空间问题描述1.问题表示1）初始状态集合：当前所处的环境的集合。2）操作符集合：把一个问题从一个状态变换为另一个状态的动作集合。3）目标测试函数：确定一个状态是否是目标。4）路径费用函数：从一个状态到另一个状态的代价等。2.状态空间法状态空间法是以状态和算符为基础来表示和求解问题的。1）状态

2020-10-07 15:35:56 12533 2

原创【矩阵理论】0.线性空间引论（2）

一、内积空间1.内积空间定义设F是实数域或复数域, VVV是FFF上的线性空间, 若对VVV中任意两个向量α\alphaα和β\betaβ, 定义了一个数(α,β)∈F\left( \alpha ,\beta \right)\in F(α,β)∈F, 使得对任意向量x,y,z∈Fx,y,z\in Fx,y,z∈F和k∈Fk\in Fk∈F满足（1）共轭对称性:(x,y)=(y,x)‾\left( x,y \right)=\overline{\left( y,x \right)}(x,y)=(y,x)

2020-10-06 19:48:51 1131

原创【线性系统理论】0.线性系统基本概念（1）

1.线性系统理论是控制理论基础中的基础，主要是研究线性系统状态的运动规律和改变这种运动规律的可能性和方法，以建立和揭示系统结构、参数、行为和性能间的确定的和定量的关系。2.基本的研究方法和步骤：①建立描述物理系统状态的数学模型：通过实验、物理定律和数学方程等来得到模型。一般由微分方程、差分方程、偏分方程或代数方程等构成。②基于模型的系统分析：定性、定量的分析可控可观、稳定性等。③系统设计：通过设计控制器或改变控制律来改善系统的性能指标。④系统运行：→（3/2/1）3.控制系统的数学描述：输入/

2020-10-06 10:24:37 6845 3

原创【Python】5.面向对象的Python

Python是一种面向对象编程的语言，Python中几乎都是对象，简单数值类型，代码模块，可以说是万物皆对象。例如对于一个数值对象：>>> type(1)<class 'int'>>>> dir(1)['__abs__', '__add__', '__and__', '__bool__', '__ceil__', '__class__', '__delattr__', '__dir__', '__divmod__', '__doc__', '__eq_

2020-10-05 15:13:58 1131 2

原创【Python】4.函数和抽象

这里写目录标题一、函数的定义1.函数是一段代码的表示2.Python中函数的基本形式3.理解二、函数的使用和调用1.函数的参数2.函数的返回值3.局部变量和全局变量一、函数的定义1.函数是一段代码的表示函数是一段具有特定功能的、可重用的语句组，是一种功能的抽象，一般函数表达特定功能，可以降低编码难度，可以代码复用。2.Python中函数的基本形式def <函数名>(参数): <函数体> return<返回值>3.理解函数定义时，所指定的参数是一种占

2020-10-03 11:44:19 703

原创【Python】3.分支、循环和其它语句

这里写目录标题一、分支（条件）语句1.分支语句的基本形式2.条件判断运算符3.异常处理二、循环语句1.遍历循环2.无限循环3.循环控制保留字4.循环与else一、分支（条件）语句1.分支语句的基本形式1）根据判断条件结果不同而选择不同向前路径的运行方式：if-elif-else结构。if <条件1>: <语句块1>elif <条件2>: <语句块2>else: <语句块3>2）二分支结构的紧凑形式：如果条件=True，返

2020-10-01 21:25:25 238

原创【人工智能】0.引论

一、什么是人工智能1.从学科的角度计算机科学中涉及研究、设计和应用智能机器的一个分支。近期目标：研究用机器来模仿和执行人脑的某些智力功能，并开发相关理论和技术。2.从能力的角度智能机器所执行的通常与人工智能有关的功能，如判断、推理、证明、识别、感知、理解、设计、思考、规划、学习和问题求解等思维活动。人的智能与人工智能不同，对于当前对于人工智能的应用，目的是使计算机有智慧、更聪明、更有用，延伸人的智力。3.人工智能的三个要素“数据、算法、算力”这三点是人们常说的三要素，对于本世纪人工智能的算法框架

2020-09-29 10:31:12 351

原创【矩阵理论】0.线性空间引论（1）

一、线性空间1.定义概念1.向量空间:设????是????维实向量的非空集合，若????对向量的加法和数乘两种运算都封闭，即对于任意向量 ????, ???? ∈ ????和???? ∈ ℝ, 都有???? + ???? ∈ ????和???????? ∈ ????则称集合????为向量空间。（注意：这里是向量空间的定义）2.数域:设????是非空数集, 若????中任意两个数的和、差、积、商（除数不为0）仍在该数集, 即对四则运算封闭, 称该数集????为一个数域.例如: 实数集:ℝ、数集:ℂ、

2020-09-28 15:19:21 1370

原创【导航算法】无人机路径跟踪L1导航算法

L1导航算法是非常经典的非线性无人机路径跟随算法，最早由MIT于2004年提出，论文为《A New Nonlinear Guidance Logic for Trajectory Tracking》，其导航算法中是先选点，生成一段为L1的路径，最近学习了一下算法和代码，做一下总结。一、直线路径跟踪二、圆弧路径跟踪三、...

2020-09-23 21:10:34 8960

原创【MATLAB/Simulink】PX4/Rflysim基于模型设计的无人机开发

最近在进行固定翼的仿真和控制学习，从动力学建模到路径跟随，基于Pixhawk飞控的半实物仿真整个过程。之前也学习过多旋翼无人机的整个开发过程，现在总结一下。在整个无人机的开发过程中，主要使用了Pixhawk和Rflysim平台，Rflysim平台是一个用于无人系统开发的仿真平台。当然，个人对该领域理解深度也有限，部分说法也引用自Mathworks的大牛工程师，如有问题欢迎讨论指出。目录一、什么是基于模型设计1.宽泛的概念2.In-the-Loop测试流程二、基于模型设计的优势1.图形化设计2.代码生成3.

2020-09-18 16:27:54 4629 6

原创【Python】2.组合（容器）数据类型

目录一、集合类型与操作1.集合定义2.集合的操作3.集合操作方法二、序列类型与操作三、字典类型与操作一、集合类型与操作1.集合定义（1）集合是多个元素的无序组合，与数学中的集合概念一致，其中每个元素都是唯一的，不存在相同元素。（2）集合是不可变数据类型：元素放到集合中之后不能被修改，如整数、浮点数、复数、字符串类型、元组等都是不可变数据类型。（3）用{}表示，用逗号分隔。建立集合用{}或set()，建立空集合，只能用set()。2.集合的操作Python中提供了六种集合操作符：操作

2020-09-16 16:08:49 238

原创【Python】1.基本数据类型和字符串

很久之前就用过Python，但是一直没有系统的学习，现在重新学习一遍Python的基础知识，做一下笔记，后续再刷题巩固。主要参考资料《Python基础教程（第3版）》、北理工和北大Python网课。一、数字类型1.整数类型（1）范围：Python中整数的概念与数学中一样，可正可负，而且没有取值范围的限制。（2）进制：Python提供了4中进制的表示形式，十进制、二进制、八进制和十六进制。二进制前缀为0b 0B，八进制前缀为0o 0O，十六进制前缀为0x 0X。2.浮点数类型（1）范围：浮点数即小

2020-09-14 18:02:44 303

原创【Python】0.Python学习笔记

1. Python是一种解释型语言计算机是不能够识别高级语言的，所以当我们运行一个高级语言程序的时候，就需要一个“翻译机”来从事把高级语言转变成计算机能读懂的机器语言的过程。这个过程分成两类，第一种是编译，第二种是解释。（1）编译型语言在程序执行之前，先会通过编译器对程序执行一个编译的过程，把程序转变成机器语言，保存成二进制文件。运行时就不需要翻译，而直接执行就可以了。最典型的例子就是C语言。优点：编译器一般会有预编译的过程对代码进行优化。因为编译只做一次，运行时不需要编译，所以编译型语言的程序执行

2020-09-12 20:58:43 178

灭点法相机标定重建经典论文

Pytorch实现卷积神经网络mnist数据集手写识别

Astar3DSearch.rar

A*算法解决十五数码问题（Python程序、报告）

空空如也