- 博客(104)
- 资源 (3)
- 收藏
- 关注
RSS订阅
原创 Gumbel softmax trick pytorch（快速理解附代码）
在深度学习中，对某一个离散随机变量X进行采样，并且又要保证采样过程是可导的（因为要用梯度下降进行权重更新），那么就可以用Gumbel softmax trick。属于重参数技巧(re-parameterization)的一种。首先我们要介绍，什么是Gumbel distribution，然后再介绍怎么用到梯度下降中，最后是用pytorch实现它。
2022-01-03 14:03:28
4998
原创 TUH EEG seizure数据集TUSZ v1.5.2和v2.0都有
TUH EEG Seizure detection classification 数据集, TUSZ 1.5.2, 2.0 等都有.
2021-09-21 20:51:22
1625
5
原创 ChatGPT从拟人化到超人化
如果超出拟人的范围，现实生活中大部分机械与人的交互，则可以完全智能化，甚至自动化，就像《超体》里的Lucy，逐步感知整个世界，最后和万物融为一体，能够猜出你的下一步动作，简称：超人化。就好像我们想与机器交互，可以写程序：python，C++等，或者点击鼠标等，我们把自己的逻辑，知识，理解，编码到程序，然后程序最终都是需要转换成机器码，机器才能执行。也就是人机交互，这个机是拟人化的。GPT通过自然语言实现了端到端的智能化，或者说智能对话黑箱，即，按照图灵测试的设想，你和黑箱对话，分不出这黑箱是人还是机器。
2023-05-06 09:52:18
1673
原创 文心一言 ChatGPT 实测对比
期待已久之后，终于拿到了文心一言的邀请码，第一时间进行了测试。最后面会讲一下如何获取邀请码。先说一下结论，**很远，但是又不远。
2023-03-18 17:46:53
5066
原创 numpy 邻接矩阵转稀疏矩阵 array to scipy csr_matrix
numpy array转scipy csr matrix，互相转换，和转coo矩阵。
2022-09-11 16:35:49
1858
原创 Useful official website for quick access to ML R&D
Useful official website for quick access to ML research and develop
2022-09-03 17:26:37
165
原创 scipy sparse matrix multiplication矩阵乘法
scipy sparse matrix multiplication 矩阵乘法
2022-09-02 20:32:04
1811
原创 (CCA, CANONICAL CORRELATION ANALYSIS )典型相关分析
最近需要用到CCA（CANONICAL CORRELATION ANALYSIS），典型相关分析, 所以查了一些资料，本文主要内容参考于UCLA的一个统计课：https://stats.oarc.ucla.edu/stata/dae/canonical-correlation-analysis/
2022-07-30 20:25:44
318
原创 pytorch load_state_dict不生效
有时候我们会发现，pytorch load一个保存好的模型dict到一个新的模型对象的时候，并没有加载dict里面的数据。原因其实是因为.cuda()
2022-07-15 13:53:02
1030
原创 pytorch reshape view性能对比 （以及einsum, matmul）
pytorch reshap和view性能对比，einsum和matmul性能对比
2022-07-07 16:05:55
960
原创 pytorch dense to coo, edge_index to coo
pytorch 的dense matrix如何转成coo的sparse tensor？给定边的下标，如何转成coo格式的稀疏矩阵？稀疏矩阵如何转成dense的矩阵？
2022-07-03 15:08:29
732
原创 高考报志愿选什么专业？
高考报志愿如何填报？该选择什么专业？历史经验告诉我们，从宏观的角度来说，学基础学科的人越多，这个社会的科技发展就越好。这种趋势才是人类前进的真正动力，跟上永恒的趋势，我相信一定不会错。......
2022-06-26 15:15:28
433
原创 【人工智能随想】AI真的5年内能达到人脑水平吗
昨天图灵奖得主，深度学习”三巨头“之一的科学家 Hinton 发表了一个言论说是：不出五年，我们就会破解大脑的运作机制，但不是通过反向传播。额。。。啊这，我只能说，shijian（实践，时间）是检验真理的唯一标准。...
2022-06-09 23:20:42
138
1
原创 json to argparse, argparse to json
有时候需要将训练的参数保存到文件，方便复现的时候直接加载。可以保存为json文件，这样方便不同的语言加载，和直接用肉眼查看。
2022-05-05 11:27:42
2089
2
原创 ICLR2022 GNN 图神经网络 论文阅读 (二) 泛读 (9-10)
目前找了录用的一些有关于Graph或者GNN 图神经网络 的文章，先过一遍各个文章的摘要，然后再花时间对觉得比较重要或者有趣的文章进行详细阅读。Paper 1-2Paper 3-4Paper 5-6Paper 7-8Paper 9:摘要简介当下缺乏分析任意GNN的理论工具。我们提出了一个和WL一样可以区分graphs的方法来分析GNN。该方法基于一种procedural tensor language，相当
2022-03-30 11:18:40
515
原创 ICLR2022 GNN 图神经网络 论文阅读 (二) 泛读 (7-8)
ICLR2022 GNN 图神经网络 论文阅读 (二) 泛读 (7-8)
2022-03-27 10:05:17
1914
Linux内核注释
2012-06-22
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人