- 博客(2)
- 收藏
- 关注
原创 Meet Problem(一)
linux运行模型时出现:cuda runtime error (38) : no CUDA-capable device is detected at/tmp/pip-req-build-58y_cjjl/aten/src/THC/THCGeneral.cpp:50分析原因:liunx内核升级,驱动也升级,与cuda不匹配solution:(终端)1.nvidia-smi:出现NVIDIA-SMI has failed because itcouldn't communicate with the
2020-09-25 21:14:44 503
原创 为什么选择的激活函数普遍具有梯度消失的特点?
为什么选择的激活函数普遍具有梯度消失的特点?后来看到一篇文章的描述才发现,正是因为模拟人脑的生物神经网络的方法。在2001年有研究表明生物脑的神经元工作具有稀疏性,这样可以节约尽可能多的能量,据研究,只有大约1%-4%的神经元被激活参与,绝大多数情况下,神经元是处于抑制状态的,因此ReLu函数反而是更加优秀的近似生物激活函数。所以抑制现象是必须发生的,这样能更好的拟合特征。同时由于激活函数的导数...
2020-02-14 21:53:42 134
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人