- 博客(260)
- 收藏
- 关注
RSS订阅原创 CV笔记。
矩阵可视化：import matplotlib.pyplot as pltplt.matshow(search_image)plt.show()
2021-12-15 20:44:30
2503
原创 NLP-自注意模型
我们之前已经学过了注意力模型，但是那是基于RNN模型的。RNN模型的结构决定了它不能并行运算，只能按照时间步一步一步地进行计算。自注意模型解决了这个问题。 自注意模型引入了3个变量q,k,v。q是用来对其他的k进行匹配的，k是用来被其他q匹配的，这两个值用来计算注意力系数α\alphaα。v是抽取出的特征。图中的a是one-hot编码经过embedding后的值。...
2021-08-24 15:59:01
273
原创 论文笔记：Graph Attention Network with Memory Fusion for Aspect-levelSentiment Analysis
Graph Attention Network with Memory Fusion for Aspect-level Sentiment Analysis（方面级情感分析的带有记忆融合的图注意力网络）1 摘要 方面级情感分析（ASC）预测文本或评论中每个特定方面术语的情感极性。最近的研究使用基于注意力的方法能有效提升方面级情感分析的表现。这些方法忽略了方面和它相应的上下文单词之间的句法关系，导致模型错误地关注语法上不相关的单词。一个提出的解决方案，图卷积网络(GCN)，不能完全避免这个问题。但它的
2021-08-17 18:11:32
483
原创 NLP-Memory Network
Memory Network是Attention 的进阶版本。假如现在要让机器看一篇文章，然后问它一个问题，看机器是否能给出正确答案。像机器翻译需要进行word embedding一样，我们需要对文章进行sentence embedding。这样我们能得到一组向量，每一个向量代表一个句子。用一个向量q表示问题。然后用q和文章中所有句子向量进行匹配，得到一组向量。将其乘以对应的x向量并相加，得到的值丢到DNN里面，最终得到答案。还有另外一个更复杂的版本。抽取特征的句子向量和算匹配的..
2021-08-12 18:02:55
172
原创 NLP-注意力机制
我们以机器翻译为例。“机器学习”->“machine learning”传统的做法是这样的：我们先用RNN对“机器学习”进行编码（encoder），即把最后一个隐藏层的输出拿出来，作为输入丢进RNN生成器里面进行解码（decoder）。为了防止初始编码的影响力减弱，可以对每一个时间步都将初始编码作为一个输入。编码器和解码器是放在一起训练的。他们的参数可以是一样的，也可以是不一样的。在做聊天机器人的时候，我们通常要考虑之前...
2021-08-09 18:36:17
479
原创 NLP-Word Embedding
Word Embedding(字嵌入)：把一个单词转化为向量表示。最经典的做法是使用one-hot表示法。向量中只有一个1，其余全是0.字典有多少单词，向量就有多少维。它的特点是单词之间没有关联。 但是显然单词之间是有联系的，所以我们可以把单词之间相关联的一些特性量化并组合成向量。这样做的优点是可以缩小向量的维度。并且当数据集较小的时候，如果某个单词在训练集中没有出现过，但是我们仍然可以根据出现过的和它关联度较高的单词进行预测。这里通常结合迁移训练...
2021-08-04 17:56:36
133
原创 NLP-LSTM
LSTM（长短时记忆）和GRU非常像，事实上GRU是通过LSTM改造而来的。GRU只有一个记忆门，而LSTM有一个记忆门和一个遗忘门，还有一个输出门。a的计算以下图为准。
2021-07-17 15:50:05
123
原创 NLP-GRU
为了解决RNN梯度消失的问题，一个常用的方法是使用GRU（门控循环单元）。传统的循环单元门控循环单元即在循环单元中增加一个类似于门一样的控制变量，来控制当前单元是否被记住，以便后面的单元进行使用计算。例如在下面这个句子中：The cat, which already ate ... , was full.cat的单复数形式会对后面的was产生影响，显然cat是需要被记住的，而中间从句部分的单词就不需要被记住。那么怎么设置门的值呢？我们同样让机器自己学习。我们可以将门.
2021-07-15 17:55:59
152
原创 NLP-RNN
RNN（循环神经网络）相较于传统神经网络考虑了输入数据的时序性，训练当前时间步时会受到前面时间步信息的影响。例如我们要提取出句子中的人名。我们首先要对每个单词进行编码，一般使用one-hot编码。这样一个单词就可以表示为一个01向量。我们可以这样设计神经网络结构：问题可以转化为多个二分类问题，即单词是否是名字。损失函数可以使用交叉熵表示，输出层激活函数可以使用sigmoid，隐藏层激活函数通常使用tanh。...
2021-07-12 17:54:58
285
原创 深度学习-Inception网络
Inception网络名字来源于《盗梦空间》。inception网络代替人工确定卷积层中的过滤器类型，解决了计算量爆炸的问题，让网络变得更深。Inception模块：Inception网络由多个Inception模块连接而成。Inception模块使用多个过滤器类型以及最大化池堆叠而成，让机器自己学习使用哪些过滤器类型。结构如图所示：其中使用padding可以保证输出的维度相同。以5*5的卷积核为例，我们可以计算出它的计算量为1.2亿。这样巨大的计算量显然是无法接受的。.
2021-07-10 17:18:00
684
1
原创 深度学习-神经网络实战
红酒的质量预测：https://www.kaggle.com/uciml/red-wine-quality-cortez-et-al-2009/tasks?taskId=4684ActivateFuncs.pyimport pandas as pdimport osimport numpy as npdef ReLu(x): return np.maximum(0,x)def deriv_ReLu(x): ret = x ret[ret<=0]=0
2021-06-29 16:42:56
437
原创 深度学习-前向传播&后向传播
假设我们要更新w1的值。根据梯度下降法，我们需要计算一个偏导数. 其中C为你定义的Loss函数。再使用公式 更新w。此处w2不同于上图w2.那么我们怎么计算呢？根据链式求导法则：而可以很容易求出.即箭头前面的值。事实上，我们可以预先计算所有神经元的这个值。 (其中a为你选取的激活函数)其中可以很容易的计算出来。而我们无法直接计算出来。因为C我们是不知道的。可以使用这个公式向后传导。而输出层的C我们是知道的。...
2021-06-17 17:15:07
826
原创 机器学习-classification
我们以宝可梦为例，输入宝可梦的属性数值，输出宝可梦的类别（水，火...）。我们能不能用线性回归来解决这个问题呢？答案是不能。因为当样本分布比较复杂时，线性回归无法做到准确的分类。逻辑回归对异常值具有很好地稳定性。贝叶斯公式C1=class 1 C2=class 2公式解释：x属于class1的概率=（x在class1中出现的概率 * class1出现的概率）/ x出现的总概率那么我们只需要比较x属于class1和class2的概率的大小，就可以对x进行分类。未完待...
2021-05-05 18:01:00
487
原创 机器学习-gradient descent的思考
上节我们了解到在寻找minimal loss的时候可以用这样的方法计算下一步的位置：那对于两组或多组参数的情况，我们可以用向量求偏导：其中用来控制步长，也就是learning rate。如果过小，那么寻找minimal loss会很慢。如果过大，那么可能会跨过minimal loss。（当有多个参数的时候，你的loss可能会变大，因为在分量上的偏导变小并不代表在总向量上的导数变小）下面介绍几种计算的策略：（1）Popular & Simple idea: ...
2021-04-29 22:28:34
206
原创 机器学习-线性回归笔记
线性回归解决的问题的特点是输入多个参数，输出一个数值。通过一些方法找出最佳的一个函数。函数形式如： ---b:偏移量 w:权重 (1)或： (2)还可以写成更一般的形式： (3)那么我们该如何评价函数的好坏呢，这时候就需要定义一个Loss函数。通常，我们可以将Loss函数定义为 (4)即方差，...
2021-04-19 23:47:11
292
原创 leetcode-5632. 检查边长度限制的路径是否存在【离线+并查集】
给你一个 n 个点组成的无向图边集 edgeList ，其中 edgeList[i] = [ui, vi, disi] 表示点 ui 和点 vi 之间有一条长度为 disi 的边。请注意，两个点之间可能有 超过一条边 。给你一个查询数组queries ，其中 queries[j] = [pj, qj, limitj] ，你的任务是对于每个查询 queries[j] ，判断是否存在从 pj 到 qj 的路径，且这条路径上的每一条边都 严格小于 limitj 。请你返回一个 布尔数组 answer ，其中
2020-12-20 15:08:38
158
原创 leetcode-5128 执行操作后字典序最小的字符串【并查集】
5544. 执行操作后字典序最小的字符串给你一个字符串s以及两个整数a和b。其中，字符串s的长度为偶数，且仅由数字0到9组成。你可以在s上按任意顺序多次执行下面两个操作之一：累加：将a加到s中所有下标为奇数的元素上（下标从 0 开始）。数字一旦超过9就会变成0，如此循环往复。例如，s = "3456"且a = 5，则执行此操作后s变成"3951"。 轮转：将s向右轮转b位。例如，s = "3456"且b = 1，则执行此操作后...
2020-10-18 15:03:40
307
原创 leetcode 5294. 你能从盒子里获得的最大糖果数
给你n个盒子，每个盒子的格式为[status, candies, keys, containedBoxes]，其中：状态字status[i]：整数，如果box[i]是开的，那么是1，否则是0。 糖果数candies[i]: 整数，表示box[i]中糖果的数目。 钥匙keys[i]：数组，表示你打开box[i]后，可以得到一些盒子的钥匙，每个元素分别为该钥匙...
2019-12-22 14:09:44
338
原创 力扣 1278. 分割回文串 III【区间dp】
好久没写了。无聊写一篇。给你一个由小写字母组成的字符串 s，和一个整数 k。请你按下面的要求分割字符串： 首先，你可以将 s 中的部分字符修改为其他的小写英文字母。 接着，你需要把 s 分割成 k 个非空且不相交的子串，并且每个子串都是回文串。请返回以这种方式分割字符串所需修改的最少字符数。示例 1：输入：s = "abc", k = 2输出：1...
2019-12-07 15:58:06
336
原创 leetcode 周赛146
题目链接：https://leetcode-cn.com/contest/weekly-contest-146/5130.等价多米诺骨牌对的数量排序一下，相邻判断相等，然后用C(n,2)计算一下。class Solution { struct node { int u,v; bool operator <(const node&...
2019-07-21 18:32:58
271
原创 leetcode 1105. 填充书架【dp】
1105.填充书架显示英文描述我的提交返回竞赛用户通过次数49 用户尝试次数112 通过次数50 提交次数198 题目难度Medium附近的家居城促销，你买回了一直心仪的可调节书架，打算把自己的书都整理到新的书架上。你把要摆放的书books都整理好，叠成一摞：从上往下，第i本书的厚度为books[i][0]，高度为books[i][1]。按顺序将这...
2019-06-30 17:16:54
813
原创 leetcode 306. 累加数
题目链接：https://leetcode-cn.com/problems/additive-number/写了一坨什么东西。。int wei(long long num){ int cnt=0; while(num) { cnt++; num/=10; } return fmax(1,cnt);}int df...
2019-05-20 21:24:37
328
原创 leetcode 字母异位词分组
给定一个字符串数组，将字母异位词组合在一起。字母异位词指字母相同，但排列不同的字符串。示例:输入: ["eat", "tea", "tan", "ate", "nat", "bat"],输出:[ ["ate","eat","tea"], ["nat","tan"], ["bat"]]说明：所有输入均为小写字母。 不考虑答案输出的顺序。hash+map.一...
2019-05-19 17:52:43
122
原创 leetcode 最接近的三数之和
给定一个包括n个整数的数组nums和 一个目标值target。找出nums中的三个整数，使得它们的和与target最接近。返回这三个数的和。假定每组输入只存在唯一答案。例如，给定数组 nums = [-1，2，1，-4], 和 target = 1.与 target 最接近的三个数的和为 2. (-1 + 2 + 1 = 2).与三数之和类似，类似尺取法。cl...
2019-05-18 15:25:11
121
原创 leetcode 三数之和【2 point】
给定一个包含n个整数的数组nums，判断nums中是否存在三个元素a，b，c ，使得a + b + c =0 ？找出所有满足条件且不重复的三元组。注意：答案中不可以包含重复的三元组。例如, 给定数组 nums = [-1, 0, 1, 2, -1, -4]，满足要求的三元组集合为：[ [-1, 0, 1], [-1, -1, 2]]问题转化为找两个数，...
2019-05-16 15:57:44
104
原创 leetcode 通配符匹配【dp】
'?' 可以匹配任何单个字符。'*' 可以匹配任意字符串（包括空字符串）。两个字符串完全匹配才算匹配成功。说明:s可能为空，且只包含从a-z的小写字母。 p可能为空，且只包含从a-z的小写字母，以及字符?和*。dp[i][j]表示p串中i-1位置的字符可以匹配到s串中j-1位置的字符。last记录上一次匹配到的位置。bool isMatch(char ...
2019-05-11 20:45:48
350
原创 leetcode 无重复字符的最长子串【尺取法】
给定一个字符串，请你找出其中不含有重复字符的最长子串的长度。示例1:输入: "abcabcbb"输出: 3 解释: 因为无重复字符的最长子串是 "abc"，所以其长度为 3。示例 2:输入: "bbbbb"输出: 1解释: 因为无重复字符的最长子串是 "b"，所以其长度为 1。示例 3:输入: "pwwkew"输出: 3解释: 因为无重复字符的最...
2019-05-10 21:28:03
341
原创 leetcode 两数相加
给出两个非空的链表用来表示两个非负的整数。其中，它们各自的位数是按照逆序的方式存储的，并且它们的每个节点只能存储一位数字。如果，我们将这两个数相加起来，则会返回一个新的链表来表示它们的和。您可以假设除了数字 0 之外，这两个数都不会以 0开头。示例：输入：(2 -> 4 -> 3) + (5 -> 6 -> 4)输出：7 -> 0 -...
2019-05-10 19:07:10
109
原创 2017-2018 ACM-ICPC ECL-Final 2017 J. Straight Master【差分】
J. Straight Mastertime limit per test2.0 smemory limit per test256 MBinputstandard inputoutputstandard outputA straight is a poker hand containing five cards of sequential rank, not ...
2018-11-21 20:40:35
285
原创 2017-2018 ACM-ICPC ECL-Final 2017 A. Chat Group【组合数+逆元】
A. Chat Grouptime limit per test1.0 smemory limit per test256 MBinputstandard inputoutputstandard outputIt is said that a dormitory with 6 persons has 7 chat groups ^_^. But the numb...
2018-11-21 16:42:12
236
原创 牛客小白月赛9 A 签到【逆元】
时间限制：C/C++ 1秒，其他语言2秒空间限制：C/C++ 262144K，其他语言524288K64bit IO Format: %lld题目描述 你在一栋楼房下面，楼房一共有n层，第i层每秒有pi的概率会扔下一个东西并砸到你求第一秒内你被砸到的概率输入描述:第一行一个整数n之后有n行，第i+1行有两个整数ai,bi，表示输出描述:设答案为，你只需要找到一个...
2018-11-18 14:09:36
121
原创 牛客小白月赛9 C 红球进黑洞【线段树+模拟位运算】
时间限制：C/C++ 3秒，其他语言6秒空间限制：C/C++ 262144K，其他语言524288K64bit IO Format: %lld题目描述 在心理疏导室中有一种奇特的疏导工具，叫做红球。红球被提前分为了许多正方形小方格。每当有人来找ATB做心理疏导时，ATB就会让他去先玩红球，然后通过红球小格方的高度来判断一个人的压力程度的高低具体地讲，ATB会让该人对于一个序列执行以...
2018-11-17 22:00:05
262
原创 AYITOJ ROUND #1题解
自我感觉这一套题的难度梯度还是很科学的。我的预期是绝大部分人做出来简单题，少量人ac中等题。E题之前出过类似的题目，G题是一个明显的二分，如果这两道题都没思路，可以肝B题。做题情况还是不容乐观的。分析原因可能还是大家见题比较少，尤其是新题。不能只做专题，可以经常做一下牛客网的比赛或者codeforces锻炼一下思维。借助本次比赛修复了网站很多bug还是很好的。就在我写这篇博客的时候居然...
2018-10-27 18:00:14
382
原创 历届试题 对局匹配 【贪心】
历届试题 对局匹配 时间限制：1.0s 内存限制：256.0MB问题描述 小明喜欢在一个围棋网站上找别人在线对弈。这个网站上所有注册用户都有一个积分，代表他的围棋水平。 小明发现网站的自动对局系统在匹配对手时，只会将积分差恰好是K的两名用户匹配在一起。如果两人分差小于或大于K，系统都不会将他们匹配。 现在小明知道这个网站总共有N名用户，以及他们的积分分别...
2018-10-25 19:33:43
1832
9
原创 POJ - 2823 Sliding Window【单调队列优化dp && c++快读】
Sliding WindowTime Limit: 12000MS Memory Limit: 65536K Total Submissions: 72718 Accepted: 20659 Case Time Limit: 5000MS DescriptionAn array of size n ≤ 106 is given to you. T...
2018-10-03 10:47:08
264
原创 牛客国庆集训派对Day2 F 平衡二叉树【递推】
时间限制：C/C++ 1秒，其他语言2秒空间限制：C/C++ 1048576K，其他语言2097152K64bit IO Format: %lld题目描述 平衡二叉树，顾名思义就是一棵“平衡”的二叉树。在这道题中，“平衡”的定义为，对于树中任意一个节点，都满足左右子树的高度差不超过 d. 空树的高度定义为0，单个节点的高度为1，其他情况下树的高度定义为根节点左右子树高度最大值 + 1....
2018-10-02 17:08:22
390
原创 逆元【模板】
参考：https://blog.csdn.net/baidu_35643793/article/details/75268911费马小定理求逆元 O(logn)：const int mod = 1000000009;long long quickpow(long long a, long long b) { if (b < 0) return 0; long lo...
2018-09-29 19:49:55
1199
原创 Wannafly挑战赛25 A 因子
时间限制：C/C++ 1秒，其他语言2秒空间限制：C/C++ 262144K，其他语言524288K64bit IO Format: %lld题目描述 令 X = n!, 给定一大于1的正整数p 求一个k使得 p ^k | X 并且 p ^(k + 1) 不是X的因子。输入描述:两个数n, p (1e18>= n>= 10000 >= p >= 2)...
2018-09-29 10:14:25
245
2
原创 nyoj-1007 GCD【欧拉函数】
GCD时间限制：1000 ms | 内存限制：65535 KB难度：3输入The first line of input is an integer T(T<=100) representing the number of test cases. The following T lines each contains two numbers N and M (1<=...
2018-09-26 21:37:30
171
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人