Nicoder-CSDN博客

原创在win10 安装cuda和tensorflow

因为自己的笔记本也有gpu，加上tensorflow 增加了windows的支持，所以打算装一个tf。打算装python版的tf, 首先当然是装python了。安装anaconda(python 3.6)anaconda自带了python，还有很多科学计算库，所以我使用anaconda。只想装python3的朋友也可以去官网下载python3自行安装。tf支持的python3必须在3.5以上，切记！

2017-07-25 12:13:30 10494

原创 python的多进程共享变量正确打开方式

多进程共享变量和获得结果由于工程需求，要使用多线程来跑一个程序。但是因为听说python的多线程是假的，于是使用多进程，反正任务需要共享的参数少。查阅资料，发现实现多进程主要使用Multiprocessing，有两种方式，一种是Process，另一种是Pool。p = Process(target=fun,args=(args))再通过p.start()来启动一个子进程，通过p.join()方法来使

2017-07-21 15:52:58 14962

原创 linux从零开始安装nvidia驱动和tensorflow

安装nvidia驱动和CUDA下载驱动和CUDA安装包，在官网下载对应版本就行sudo apt-get install linux-headers-$(uname -r) 或者 linux-headers-generic.否则直接安装会报错 kernel not found安装 nvidia 驱动，一路accept和yes安装 CUDA，一路yes。是否安装推荐的驱动, no 最后显示类似

2017-06-13 21:42:05 3437

转载 nohup 输出重定向

在shell中,文件描述符通常是:STDIN标准输入,STDOUT标准输出,STDERR标准错误输出,即:0,1,2,例子：nohup abc.sh > nohup.log 2>&1 &其中2>&1 指将STDERR重定向到前面标准输出定向到的同名文件中，即&1就是nohup.log那么结果就是当执行的命令发生标准错误，那么这个错误也会输出到你指定的输出文件中 nohup把abc.sh的输出重定向

2017-05-17 22:34:48 22528

原创 tensorflow第二坑-矩阵向量相乘

突然发现tensorflow的tf.matmul()只能进行矩阵之间相乘，不能进行矩阵和向量相乘！例如：Ws = tf.get_variable('Ws', [hidden_size])bias_s = tf.get_variable('bs', [1])score_tensor = tf.matmul(hidden, Ws) + bias_s会报错： ValueError: Shape mu

2017-05-12 22:25:20 27958 1

原创取tf中的矩阵维度，并转成int

在写模型的时候，我们希望一个模型的参数是灵活的，例如矩阵乘的时候可以根据输入最后一维的大小来定义一个W。获得矩阵的维度tf.shape(input) input为所求矩阵，返回该矩阵的维度，但是是一个Tensor。经常取出来的维度值并不能直接用，因为会出现类似这样的报错： TypeError: int() argument must be a string or a number, not ‘

2017-05-12 22:02:15 8919

原创 tensorflow实现P@1和MRR

最近复现别人的论文，才发现tf竟然就只有常用的一些loss, 并没有其他指标，例如P@1和MRR。在手工计算这些指标的过程中，发现了几个神奇的函数。任务介绍输入是各个候选的分值tensor_score，假设有每个样本对应5个候选，那么输入大小就是[batch_size, 5]。target指定了候选中实际匹配一个为1，其余为0，大小为[batch_size,1] 现在我们的目标是：得到5个候选从高

2017-05-12 10:25:35 3612 1

原创 C数据类型的长度

本人最近看到了一种数据类型叫long long，很好奇它的长度和其他类型的区别，方便日后查阅，这里整理一下C的数据类型： Type Bytes in Win32(64) Value void 0 None char 1 [0,256] short (int) 2 [-2^15,2^15-1] unsigned short 2 [0,2^16-

2016-11-07 11:28:50 550

原创用C三步实现多线程

看到一篇使用C多线程的好文，于是get这个新技能，顺便把我学到的要点写下来，大家一起分享。英文原文链接：pthreads-in-c-a-minimal-working-example在C里实现多线程，最简单的方法就是使用Pthreads，使用它的时候线程之间会共享内存和代码。下面开始快速入门：第一步：声明和定义首先在文件头包含Pthreads库：#include<pthread.h>定义指向这

2016-11-04 17:56:54 5066 1

原创 realloc,malloc,calloc的区别

三个函数的申明分别是: void* realloc(void* ptr, unsigned newsize); void* malloc(unsigned size); void* calloc(size_t numElements, size_t sizeOfElement); 都在stdlib.h函数库内它们的返回值都是请求系统分配的地址,如果请求失败就返回NULLmalloc用于申请一

2016-11-04 15:44:28 602

原创 Long short-term memory 论文小记

这是Hochreiter（1997）的一篇老论文，我为了一睹lstm的原创遗风而读。本来想看看最朴素最正宗的lstm模型，结果却发现在本文中作者并未提出一种特有的模型。文章很长，并不打算翻译。下面是我的一些总结和见解，纯粹小菜鸟的个人观点，大家多多指正，非常欢迎~首先是这篇文章的动机。作为一篇长文，什么支撑着作者进行这么多的实验，以及这篇文章的重要性有多大，取决于动机。在这里，总结成一句话就是：Ol

2016-09-28 17:12:07 3222 5

原创 Tensorflow踩坑记

这里是踩坑纪录，大家如果想看教程的话请出门右转~从前有个小孩，正在学习TF，一开始，写了个逻辑回归的优化程序：import tensorflow as tfimport numpy as npx=tf.placeholder("float")y=tf.placeholder("float")w=tf.Variable([1.0,2.0],name='w')y_pred=tf.mul(x,w[

2016-09-28 15:38:27 24663 6

原创 torch.nn 小坑和疑惑

在利用lua/torch构建需要共享参数的神经网络时,根据官网，需要对两种情况进行区分。见 https://github.com/torch/nn/blob/master/doc/overview.md 。一种是通过:updateparameters()来更新参数的，另一种是通过:getparameters()来获得flattened的参数，手工进行更新。前者只需要共享网络中的参数，而后者需要共享参

2016-09-21 11:21:09 2900 3

原创 python小技巧——enumerate,operator和Counter

最近看人家的代码，发现了很多python内置的函数和数据结构，可以大大减少我们的代码量（而且人家是优化过的）。python以简介和强大的库著称，要是什么都自己写的话，太不python了。这里介绍常用的能大大提高我们生活幸福度的小技巧

2016-09-12 21:59:03 2318

原创 tensorflow某些函数的小坑（持续更新）

刚刚接触tensorflow,正在跟tutorial学习。英文的官网经常上不了（shadowsocks不太稳定），退而求其次看极客学院翻译的中文教程.看见其中的一些奇奇怪怪的函数，这里mark一下nn.sparse_softmax_cross_entropy_with_logits()这个函数看名字都知道，是将稀疏表示的label与输出层计算出来结果做对比，函数的形式和参数如下：nn.sparse_

2016-09-01 11:56:05 15993 6

转载初学者如何查阅自然语言处理（NLP）领域学术资料

文章是13年的，3年过去了，可能有点时，但是还是将的很好。欢迎评论和纠正昨天实验室一位刚进组的同学发邮件来问我如何查找学术论文，这让我想起自己刚读研究生时茫然四顾的情形：看着学长们高谈阔论领域动态，却不知如何入门。经过研究生几年的耳濡目染，现在终于能自信地知道去哪儿了解最新科研动态了。我想这可能是初学者们共通的困惑，与其只告诉一个人知道，不如将这些Folk Knowledge写下来，来减少更多人的麻

2016-08-12 16:57:47 1218

原创 lua，torch，nn模块入门笔记

最近看到好多论文的神经网络都是用lua基于torch实现的，于是迫不得已学学lua和torch，才能看懂人家的代码。教程首先看教程：Learn Lua in 15minites！Torch 7,Hello world,neural networks！在上面的教程里没有的，但是在别人的代码里常用的函数，在下面po出来笔记1.nn.Narrow()这是nn标准库中的提取矩阵中对应子块的函数，官方定

2016-08-09 16:52:17 27753 4

原创 debian下安装Theano（附pydot问题解决方法）

Ubuntu能安装Theano,按道理debian也能安装theano,而且安装方法应该是一样的。先po上安装的方法：安装过程确保机器能上网，ctrl+alt+T打开Terminal,先 sudo apt-get update ，让源能够工作安装依赖库sudo apt-get install python-numpy python-scipy python-dev python-pip pyth

2016-01-28 16:43:38 1180

原创 python进阶——异常处理

之前用Java的时候，在容易出错的地方我们经常使用try…catch或者try…catch…finally来捕捉和显示异常，在python中很高兴地发现它也有这样的机制。try..except这个用于当异常出现的时候，用except从句来处理异常，而不至于程序自动退出。例如，在python里获取用户输入时，若用户输入文件结束符Ctrl-d，则会引发EOFError文件结束异常。我们使用try exc

2016-01-23 22:47:37 6486 2

原创 python进阶——类和对象

前面我们都是用python面向过程编程，现在来用python创建类和对象，面向对象编程。类和对象是面向对象编程的两个主要方面。类创建一个新类型，而对象这个类的实例。这类似于你有一个int类型的变量，这存储整数的变量是int类的实例（对象）。在python中，类和实例中的变量称为域，类和实例中的函数称为方法，域和方法都是类和实例的属性。类的定义在定义类或者它的函数的时候，如果没有参数

2016-01-23 21:36:00 1196

原创 python 学习笔记6

现在看文件的如取、写入和编解码问题读写文件python的读写文件相当简单，比C和Java都要方便。下面举个栗子： #!/usr/bin/python# Filename: using_file.pypoem = '''\Programming is funWhen the work is doneif you wanna make your work also fun:

2016-01-22 17:24:00 648

原创 python 学习笔记5

现在我们看看python 中字符串有哪些功能，还有如何进行输入输出，文件读取和写入字符串的操作下面我随意新建一个字符串，看看字符串可以进行哪些操作>>> mystring='dsffklefji'>>> dir(mystring)['__add__', '__class__', '__contains__', '__delattr__', '__doc__', '__eq__'

2016-01-22 16:30:08 471

原创 python 学习笔记3

这里介绍一下python 常用的数据结构，还有小技巧。序列列表，元组，字符串都是序列，序列有索引（就是下标操作）和切片操作。就是说前面说的3个的结构都可以这样用，以切片操作为例：>>> shoplist = ['apple', 'mango', 'carrot', 'banana']>>> print shoplist[0:2]['apple', 'mango']>>> print shopl

2016-01-22 10:56:39 540

原创 linux（所有版本）下安装有道词典

最近有道词典出了linux版本，然而只有ubuntu的，没有其他linux分发版本的，例如我的debian就不能直接安装。今天终于找到了一个好方法。step1:安装Goldendict在2011年以前，有个很火很好用的词典叫stardic，后来这个词典的作者貌似精神病犯了，不知所终，词典无人维护。这时，出现了Goldendict。完美支持所有词典格式（包括stardict），所有stardict有的

2016-01-22 09:56:06 28269 1

原创 python 学习笔记4

10.模块模块的使用我们使用import …来导入一个模块，也可以使用from … import …来导入一个模块中指定的某些成员。例如，我们来导入一个标准模块sys#!/usr/bin/python# Filename: using_sys.pyimport sysprint 'The command line arguments are:'for i in sys.argv: pri

2016-01-22 09:26:55 568

原创 python 学习笔记2

指定python编译器与使用注释条件语句if语句raw_input与input的区别强制类型转换7.指定python编译器与使用注释一个简单的程序：#!/usr/bin/python# Filename: expression.pylength = 5breadth = 2area = length * breadthprint 'Area is',

2016-01-21 21:57:11 844

原创 python 学习笔记1——数据类型、字符串、运算符

最近开始学python,这是一个很强大和便捷的编程语言，日后进行科学计算和科研的时候必然成为主要的编程语言。本来买了一本python基础教程（第2版），然而教学顺序不太喜欢，因为一开始并没有讲清楚语法，不能学了立马用到实验中。并且，这本书针对的是没有编程基础的人，讲的比较浅。我有一点C的编程基础，根据知乎上python的推荐url,决定从中文的简明python教程url入手。在这里把pyth

2016-01-21 19:22:57 1445

原创 vim 复制粘贴和剪切

用vim这么久了，始终也不知道怎么在vim中使用系统粘贴板，通常要在网上复制一段代码都是先gedit打开文件，中键粘贴后关闭，然后再用vim打开编辑，真的不爽；上次论坛上有人问到了怎么在vim中使用系统粘贴板，印象里回复很多，有好几页的回复却没有解决问题，今天实在受不了了又在网上找办法，竟意外地找到了，贴出来分享一下。如果只是想使用系统粘贴板的话直接在输入模式按Shift+Inset就可以了。如果

2016-01-15 19:34:52 639

原创 python实现在类中动态添加属性和生成对象

程序的主要功能现在有个存储用户信息的像表格一样的文档：第一行是属性，各个属性用逗号(，)分隔，从第二行开始每行是各个属性对应的值，每行代表一个用户。如何实现读入这个文档，每行输出一个用户对象呢？另外还有4个小要求：每个文档都很大，如果一次性把所有行生成的那么多对象存成列表返回，内存会崩溃。程序中每次只能存一个行生成的对象。用逗号隔开的每个字符串，前后可能有双引号（”）或者单引号（’）,例如”

2016-01-14 20:07:22 6321

原创 linux下最好用的pdf reader -- Mendeley安装使用

本人的是debian 8，gnome桌面，在这个桌面上自带evince文档阅读器。这个阅读器相当强大，可以打开各种类型的文件，轻量级中最好的。但是只有打印、缩放和反色这些简单功能。因为看论文需要高亮和注释功能，所以我只好搜寻其他更强大的pdf reader.Adobe, Foxit reader.最近几年都没有更新，Linux系统现在普遍用不了。如果在windows下果断Foxit,小而全oku

2016-01-05 19:05:49 6295

原创把vim配置成编程利器

工欲善其事，必先利其器最近在学习python编程，喜欢使用vim，轻便精悍。于是上网查了一下，发现了很多vim配置的方案。大牛真多！！！从很经典的molokai到neocomplete,spf13,知乎网友的wklken,还有终极的John Anderson 的配置把vim变成一个python IDE。比较之后，我决定使用喜欢的颜色方案和安装最简单的spf13。linux系统下只需要1命令行！！！不

2015-12-28 10:33:59 1864 2

原创用screen 在后台运行程序

我们常需要SSH 或者telent 远程登录到Linux 服务器，经常运行一些需要很长时间才能完成的任务，在此期间不能关掉窗口或者断开连接，否则这个任务就会被杀掉，一切半途而废了。这时，我们可以用screen命令解决这个问题。screen命令可以实现当前窗口与任务分离，我们即使离线了，服务器仍在后台运行任务。当我们重新登录服务器，可以读取窗口线程，重新连接任务窗口。主要功能screen 的使用安

2015-12-17 10:21:40 45313 3

原创 linux下磁盘分区，格式化和挂载

按照规定，整个硬盘只能有4个主分区，包括基本分区和扩展分区。扩展分区最多只能有1个，扩展分区里可以分出多个任意大小的逻辑分区，而基本分区不可再分。我的硬盘有1T,sda1为系统盘，有30G，sda2有100G，sda5为swap分区7.9G，是逻辑分区，sda4是W95 FAT32(LBA)分区7.9G，也是逻辑分区（我也不懂这个盘拿来做什么，为什么会自带一个这个分区），剩下的800+G是空的。

2015-12-14 15:30:43 11070 2

原创 scp远程拷贝文件

scp(secure copy)是一种基于ssh的加密的可以在跨服务器的文件拷贝命令。命令格式： scp [参数] [原路径] [目标路径]命令参数：-1 强制scp命令使用协议ssh1 -2 强制scp命令使用协议ssh2 -4 强制scp命令只使用IPv4寻址 -6 强制scp命令只使用IPv6寻址 -B 使用批处理模式（传输过程中不询问传输口令或短语） -C 允许压缩。

2015-12-11 11:24:17 977

原创 NLP 数据集整理(持续更新。。。)

用于NLP实验的各类免费英文语料数据库整理如下：（在很多问题中，是不分语种的）Semantic SimilarityWordSim3531：包括353个词对，用于对词之间的语义相似度排序。语义相似度性能通常用两个词矢量之间的余弦距离表示。TOEFL2：包括80个同义词多选一问题，每个问题有4个候选，要求选出最接近的词。例如对于levied,有imposed(correct),believed,req

2015-11-27 10:58:59 24705 14

原创能量函数在神经网络中的意义

能量函数(energy function)一开始在热力学中被定义，用于描述系统的能量值，当能量值达到最小时系统达到稳定状态。在神经网络(Neural Network)中，在RBM中被首次使用。在RBM中，输入层v和隐藏层h之间的能量函数定义为： E(v,h)=∑i∈vaivi+∑j∈hbjhj+∑i∈v,j∈hvihjwijE(v,h)=\sum_{i\in v}a_iv_i+\sum_{j\

2015-11-26 15:55:26 23112 3

转载 Jacobian矩阵,Hessian矩阵和牛顿法

Jacobian矩阵和Hessian矩阵1. Jacobian在向量分析中, 雅可比矩阵是一阶偏导数以一定方式排列成的矩阵, 其行列式称为雅可比行列式. 还有, 在代数几何中, 代数曲线的雅可比量表示雅可比簇：伴随该曲线的一个代数群, 曲线可以嵌入其中. 它们全部都以数学家卡尔·雅可比(Carl Jacob, 1804年10月4日－1851年2月18日)命名；英文雅可比量”Jaco

2015-11-23 16:44:01 9963 1

原创 linux 下查看硬件信息（mac，IP地址，硬盘型号，序列号等）

本机为debian 8(jessie)方法同样使用于其他linux 系统查看mac和IP地址查看硬盘型号ID和序列号显示硬盘的相关设置显示硬盘的柱面磁头扇区数评估硬盘的读取效率评估硬盘快取的读取效率检测IDE硬盘的电源管理模式查看mac和IP地址打开terminal输入命令： sudo ifconfig eth0 后的 HWaddr xx:xx:xx:xx:xx:xx 即为网卡的ma

2015-11-20 15:44:28 60016 1

原创 Java 读写文件

读取读取使用Scanner类，定义在java.util包中，要在程序import java.util.scanner 。Scanner类中的方法有：Scanner(InputStream in)用给定输入流创建Scanner对象Scanner(File f)构造一个从给定文件读取数据的Scanner对象string nextline()读取输入的下一行内容string next()读取输入的

2015-10-22 09:41:56 798

原创 CS224D Deep Learning for NLP lecture2

斯坦福深度学习与自然语言处理课程是Richard Socher今年开的课程。他是德国人，本来学习的是机器视觉。在斯坦福大学博士毕业，师从Andrew Ng和Chris Channing学习机器学习和NLP，毕业后也成为一个大牛。本人小白一枚，花了好长时间才消化了课程的视频和课件，为了防止以后忘记，在这里纪录一下。先放上该课程的官网镇楼：http://cs224d.stanford.edu/sylla

2015-10-09 19:35:12 1314