- 博客(24)
- 收藏
- 关注
RSS订阅翻译 设计模式---延迟初始化Lazy initialization
参考https://devakimbo.com/lazy-initialization-design-pattern-python-for-web-developers/在实例化一个class的时候，并不直接生成其对象，而是等需要的时候，才进行里边参数的初始化，这样做可以节省带宽资源、数据库资源、RAM、CPU举个例子假设我们现在要做一个在线购物网站，有一个对象叫做Customer，每一个Customer对象都有一个订单列表（很长），如果没有使用Lazy loading技术，那么每当我们想要创建Cus
2020-09-21 09:43:46
604
原创 关于M0、M1、M2货币最近所学
M0 M1 M2M0货币（现金）就是在银行体系以外所流通的现金M1货币（狭义货币）就是现金+活期存款M2货币（广义货币）就是M1+定期存款那么M2货币代表了什么呢？我们先来看一看存款准备金率，存款准备金率说白了就是此时这个社会上所有的钱除以银行现有的钱，这个比值就是存款准备金率。举例来说，甲拥有100元现金，他把这100元存入银行，之后，乙可以去银行贷款，假如贷款了50元，那么现在他们的总M2货币就是150元，而此时银行的存款准备金率就是100/150=66%。因此说，M2货币量代表了金融化程
2020-06-04 22:43:34
487
原创 zipf定律 齐普夫定律
一个单词出现的频率与它在频率表里的排名成反比。齐普夫定律（Zipf’s Law）：一个词在一个有相当长度的语篇中的等级序号（该词在按出现次数排列的 词表中的位置，他称之为rank，简称r）与该词的出现次数（他称为frequency，简称f）的乘积几乎是一个常数（constant，简称C）。用公式表示，就是 r × f = C 。（此处的C一般认为取0.1）...
2020-05-25 22:20:51
1822
原创 对比两个图的相似度
方法一：weisfeiler-lehman算法：粗略来说就是，首先拿出要对比的两个图，利用哈希，给每个节点一个hash值，之后将节点的原始值替换为哈希之后的值，利用jaccard计算两个图的相似度，为了提高准确度，可以进行多次hash。方法二：gragh walk：利用在图中游走生成序列，之后使用cbow或者skip gram，进行类似word2vec那样的操作，将每个节点嵌入到低维度特征空间，之后对比相似度。...
2020-05-25 22:18:16
1409
原创 min-max相似度
又称weighted jaccard similarity，来自论文NodeSketchmin max相似度是一种很好的用于度量非负数的相似度衡量方法。当向量内只能是0或1的时候，就是jaccard相似度当向量内所有元素和为1的时候，就是标准化min max相似度：normalized min-max相似度...
2020-05-25 22:16:54
449
原创 word2vec原理
参考Xin Rong的论文 word2vec Parameter Learning Explained，写得真的很好输入的onehot是只有一个元素为1其他全为0的，因此，我们做一个矩阵乘法，相当于把矩阵W中的某一行全部取出而已！！！cbow版本是输入context，输出中心词skip gram版本是输入中心词，输出context其中，skipgram在大型语料库中的表现较好。层次Softmax 实际上是把一个超大的多分类问题转化成一系列二分类问题对于w2v，在output的时候，计算出每个词
2020-05-25 22:13:57
295
原创 残差连接residual connection
残差连接residual connection，假设神经网络某一层对input x进行了一个F操作，变为F(x)，那么正常的神经网络输出为F(x)，而加入残差连接以后，输出为x+F(x)那么残差结构有什么好处呢？显而易见：因为增加了一项，那么该层网络对x求偏导的时候，多了一个常数项，所以在反向传播过程中，梯度连乘，也不会造成梯度消失。...
2020-05-25 22:10:49
4790
2
原创 BERT模型训练和使用的几种思路
思路一：将bert模型的最后几层进行fine tuning，也就是在官方给出的pretrained模型基础上，使用自己领域的数据集进行微调，得到适合于本领域的pretrained模型。思路二：将官方给的pretrained 模型直接使用，后边结合特定的specialized 模型，例如分类器or something else，这样也是可行的。...
2020-05-25 22:09:50
2133
1
原创 神经网络深层浅层tensor含义
目前主流的观点是：对于cv领域，浅层特征表示的是粗粒度的，好比这是一个人，那个是一个猪的照片对于NLP领域，认为，浅层特征代表语法特征，深层特征代表语义特征。
2020-05-25 22:08:29
733
原创 pytorch对item进行嵌入nn.embedding（）函数
nn.embedding（）用于将多个item（例如10000个item）用固定长度的向量表示，如果想要表示这1w个item，正常来说就是用onehot形式，维度为1w，太大，因此可以用nn.embedding将其嵌入为低维度的vector，内部原理是一个随机初始化的矩阵embedding = nn.Embedding(input_dim, embedding_dim)此时就得到了一个（i...
2019-11-30 13:57:39
995
原创 pytorch中对一个tensor进行view()操作
view()函数对一个tensor的操作相当于tensorflow里边的reshape（）x=torch.randn(4,3)x=x.view(12)就可以将我们之前的（4,3）的tensor转化为（12）的tensorx=torch.randn(4,3)x=x.view(2,-1)-1的意思就是让它自己运算...
2019-11-30 13:56:23
3742
2
原创 torch.topk()函数详解
torch.topk()import numpy as npimport torchimport torch.utils.data.dataset as Datasetfrom torch.utils.data import Dataset,DataLoadertensor1=torch.tensor([[10,1,2,1,1,1,1,1,1,1,10], [...
2019-11-30 13:55:32
8904
2
原创 pytorch参数dim为-1的解释
dim为-1的解释t1=torch.tensor([[[0,1,2,3],[1,2,3,4]], [[2,3,4,5],[4,5,6,7]], [[5,6,7,8],[6,7,8,9]]])print(t1)print(t1.shape)print('no===')print(t1.max())print('-1===...
2019-11-30 13:54:32
22101
7
原创 python的array和tensor相互转化
python的array和tensor相互转化import torchimport numpy as npnp_data=np.arange(6).reshape((2,3))torch_data=torch.from_numpy(np_data)tensor2array=torch_data.numpy()print( '\nnumpy\n',np_data, '...
2019-11-30 13:52:01
17392
原创 pycharm前进后退
前进后退上方选择view-Toolbar打上勾，可以在进行代码跳转后，方便地回到原先的地方。（不过还是更建议用鼠标上自带的前进后退按钮）
2019-11-30 13:48:12
2509
1
原创 placeholder
placeholderplaceholder的三个参数：1）dtype：数据类型2）shape：数据形状，默认是None，意思是可以一维也可以多维，比如[None,3]表示列是3，行不定3）name：名称Tensorflow 如果想要从外部传入data, 那就需要用到 tf.placeholder(), 然后以这种形式传输数据 sess.run(***, feed_dict={...
2019-08-08 14:45:22
189
原创 tf.reduce_mean的axis参数
tf.reduce_mean的axis参数reduction_indices已经不推荐继续使用了，axis成为新的替代。axis越大，代表计算的粒度越小，越深入。对于二维2*2的一个tensor，axis=None(得到四个数的平均)，axis=0(列方向求mean)，axis=1(行方向求mean)reduce_mean( input_tensor, axis=...
2019-08-08 14:44:17
1150
1
原创 reduce_sum和reduce_mean函数
reduce_sum和reduce_mean函数https://blog.csdn.net/Vipbinn/article/details/82978003https://www.cnblogs.com/rossoneri/p/8029940.htmlhttps://blog.csdn.net/chengshuhao1991/article/details/78545723一...
2019-08-08 14:43:33
1138
原创 使用idea构建我的第一个spring mvc
需求：我发请求，后台有一个类处理这个请求，并跳转成功页面1.首先用maven构建项目，使用webapp模版，构建好了之后在main文件夹内新建java、resources、webapp(自带)三个文件夹，其中java文件夹要标记为source root(用于存放源代码)，resources文件夹标记为resources root(用于存放配置文件)，此时项目目录构建完毕。2.index.jsp...
2019-05-26 16:39:36
177
原创 tomcat启动时，idea下方控制台出现乱码
解决方法是将tomcat里conf文件夹内的logging.properties文件打开其中的java.util.logging.ConsoleHandler.encoding修改为GBK（默认是UTF-8）重新启动tomcat发现idea控制台已经可以正常显示中文...
2019-05-11 15:26:34
177
原创 com.mysql.jdbc.exceptions.jdbc4.CommunicationsException: Communications link failure
将json文件中的表格信息存储到mysql的时候，存储到4900左右的时候（总共一万个）总出现无法建立连接的情况。网上查了说是1）连接时间过长，可以把mysql里边my.init的wait_timeout调整的长一点，但是我试了之后不行，因为我这个不是因为连接时间过长，mysql自动断掉的情况，2）是由于数据库回收了连接，而系统的缓冲池不知道，继续使用被回收的连接所致的。我的解决方法是...
2019-04-23 09:30:45
234
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人