Zero-One-0101-CSDN博客

原创面试题汇总---深度学习（图像识别，NLP内容）

文章目录1.基本概念1.1 为什么神经网络中深度网络的表现比广度网络表现好？2.卷积神经网络2.1 1*1卷积核的左右有哪些？3.循环神经网络3.1 画出RNN,LSTM,GRU的神经单元示意图？4.其他4.1 简述一下GAN网络的原理？1.基本概念1.1 为什么神经网络中深度网络的表现比广度网络表现好？2.卷积神经网络2.1 1*1卷积核的左右有哪些？3.循环神经网络3.1 画出RN...

2019-07-15 19:44:30 2252

转载用Docker容器自带的tensorflow serving部署模型对外服务

相信很多人和我一样，在试图安装tensorflow serving的时候，翻遍了网上的博客和官网文档，安装都是以失败而告终，我也是一样，这个问题折磨了我两个星期之久，都快放弃了。幸运的是在同事的建议下，我采用了一种迂回的策略安装成功了。我们采用的策略是： pull一个已经安装好了tensorflow serving的docke...

2019-07-11 14:46:38 488

文章目录1.底层驱动的安装1.1 操作系统的安装1.2 显卡驱动的安装1.3 cuda的安装2.使用docker配置深度学习开发环境2.1 docker的安装2.2 nvidia_docker的安装2.3 安装过程中的问题2.3.1 docker和nvidia_docker的版本不匹配的问题。2.3.2 解决每次运行docker命令的时候要加sudo.2.3.3 解决每次docker pull镜像...

2019-06-25 15:13:28 2888 1

原创深度模型压缩论文（03）- Be Your Own Teacher: Improve the Performance of Convolutional Neural Networks via Self

文章目录1.摘要和背景1.1 摘要1.2 背景2.方法和贡献2.1 方法2.1.1 训练过程2.1.2 loss介绍2.2 贡献3.实验和结果3.1 实验3.2 结果4.总结和展望4.1 总结4.2 展望主要贡献：基于网络蒸馏方法，提出了一种提升裁剪后模型的精度的方法！将训练时间大大缩短！推荐指数：4颗星（5颗星满）本系列是在阅读深度神经网络模型小型化方面论文时的笔记！内容大部分从论文中...

2019-06-24 20:31:51 3874 5

原创深度模型压缩论文（01）- Meta Filter Pruning to Accelerate Deep Convolutional Neural Networks

文章目录1.摘要和介绍1.1摘要部分2.背景和方法2.1 背景2.2 贡献2.3 方法3.实验和结果3.1 实验3.2 结果4.总结和展望4.1 总结4.2 展望本系列是在阅读深度神经网络模型小型化方面论文时的笔记！内容大部分从论文中摘取，也会有部分自己理解，有错误的地方还望大家批评指出！论文链接：Meta Filter Pruning to Accelerate Deep Convolu...

2019-06-24 16:38:25 833 2

原创深度模型压缩论文（02）- BlockSwap: Fisher-guided Block Substitution for Network Compression

文章目录1.摘要和背景1.1 摘要1.2 背景2.方法和贡献2.1 方法2.2 贡献3.实验和结果3.1 实验3.2 结果4.总结和展望4.1 总结4.2 展望本系列是在阅读深度神经网络模型小型化方面论文时的笔记！内容大部分从论文中摘取，也会有部分自己理解，有错误的地方还望大家批评指出！论文链接：BlockSwap: Fisher-guided Block Substitution for...

2019-06-24 16:37:17 539

转载各种卷积

从最开始的卷积层，发展至今，卷积已不再是当初的卷积，而是一个研究方向。在反卷积这篇博客中，介绍了一些常见的卷积的关系，本篇博客就是要梳理这些有趣的卷积结构。阅读本篇博客之前，建议将这篇博客结合在一起阅读，想必会有更深的理解。另外，不管是什么类型的卷积，我们都把它理解成一种运算操作。Group convolutionGroup convolution是最早应用在2012年Alexnet的双...

2019-06-14 11:53:55 303

原创 Ubuntu18.04上安装RTX 2080Ti显卡驱动

文章目录1.安装Linux系统1.1下载Linux镜像文件1.2 制作系统盘1.3 安装Linux系统1.4 配置linux系统2.安装英伟达显卡驱动2.1 预备工作2.2 安装显卡驱动3.安装cuda4.安装cudnn1.安装Linux系统1.1下载Linux镜像文件根据电脑配置和自己的爱好，选择合适的Linux镜像文件。建议去清华源下载相应的镜像文件。我这次下载的是Ubuntu18.04...

2019-05-22 16:56:00 7689

转载神经网络中的优化算法总结

在调整模型更新权重和偏差参数的方式时，你是否考虑过哪种优化算法能使模型产生更好且更快的效果？应该用梯度下降，随机梯度下降，还是Adam方法？这篇文章介绍了不同优化算法之间的主要区别，以及如何选择最佳的优化方法。什么是优化算法？优化算法的功能，是通过改善训练方式，来最小化(或最大化)损失...

2019-04-23 19:13:07 3412

原创大数据学习（10）--流计算

文章目录目录1.流计算的概述1.1 什么是流数据？1.2 批量计算和实时计算1.3 流计算的概念1.4 流计算和Hadoop1.5 流计算框架2.流计算的处理流程2.1 流计算处理基本概念2.2 数数据的实时获取2.3 数据的实时计算2.4 实时查询任务3.流计算的应用和开源框架Strom3.1 流计算应用3.1.1 应用1：实时分析3.1.1 应用2：实时交通3.2 开源框架strom3.2...

2019-04-20 14:11:59 1273

转载 KKT条件初步理解

最近学习的时候用到了最优化理论，但是我没有多少这方面的理论基础。于是翻了很多大神的博客把容易理解的内容记载到这篇博客中。因此这是篇汇总博客，不算是全部原创，但是基础理论，应该也都差不多吧。因才疏学浅，有纰漏的地方恳请指出。...

2019-04-18 15:04:51 572

转载 FM,FFM及其实现

在推荐系统和计算广告业务中，点击率CTR（click-through rate）和转化率CVR（conversion rate）是衡量流量转化的两个关键指标。准确的估计CTR、CVR对于提高流量的价值，增加广告及电商收入有重要的指导作用。业界常用的方法有人工特征工程 + LR（Logisti...

2019-04-15 08:06:57 1180

原创 python中使用“if name == 'main'”语句的作用

首先用最简洁的语言来说明一下 if __name__ == '__main__': 的作用：防止在被其他文件导入时显示多余的程序主体部分。先举个例子，如果不用if __name__ == '__main__': 会发生什么事：首先在yy.py中调用cs.py#yy.pyim...

2019-04-14 17:00:40 267

转载 fastText初探

目录：1、应用场景2、优缺点3、FastText的原理4、FastText词向量与word2vec对比目录：1、应用场景fastText是一种Facebook AI Research在16年开源的一个文本分类器。其特点就是fast。相对于其它文本分类模型，如SVM，Logistic Regression和neural network等模型，fastText在保持分类效果...

2019-04-13 10:48:03 256

原创词嵌入初探

文章目录目录1.词嵌入产生的背景1.1 NLP关键：语言的表示1.2 NLP词的表示方法类型1.2.1 独热表示one-hot1.2.2 词的分布式表示distributed representation1.3 NLP中的语言模型1.4 词的分布表示1.4.1 基于矩阵的分布表示1.4.2 基于聚类的分布表示1.4.3 基于神经网络的分布表示，词嵌入（word embedding）2.什么是词嵌入...

2019-04-13 10:44:56 609

原创 textCNN初探

文章目录目录1.什么是textCNN1.1 textCNN 提出的背景1.2 textCNN 合理性分析2.textCNN相比于传统图像领域的CNN有什么特点？3.textCNN例子讲解3.1 参数和超参数3.2 textCNN的数据3.3 textCNN的网络结构定义3.4 代码目录1.什么是textCNN1.1 textCNN 提出的背景我们知道，CNN在图像领域应用的比较好了，那么C...

2019-04-13 09:40:01 1137

原创机器学习问题总结（05）

文章目录1. Hadoop、Spark1.1 hadoop1.2 spark1.3 MapReduce1.3.1 概念1.3.1 MapReduce执行流程**MapReduce编程主要组件**2、机器学习场景3、推荐系统（预测电影等级）4、CTR（点击通过率 -> 广告）5、SVM5.1 svm的原理5.2 SVM的核技巧6、K-means6.1 K-means算法6.2、如何用 hado...

2019-04-12 09:29:50 462

原创机器学习问题总结（04）

文章目录1、MLP的BP过程2、maxpool层BP怎么做的2.1 **mean pooling**2.2 max pooling3、opencv遍历像素的方式，讲两种？4、传统图像处理有了解过吗，比如去噪特征提取5、问在linux下写过代码吗？问用了什么软件工具6、LDA（狄利克雷分布）7、PR曲线、ROC曲线7.1、查准率、查全率、F17.2、ROC和AUC7.3、偏差和方差8、特征工程8...

2019-04-12 09:28:42 746

原创机器学习问题总结（03）

文章目录1.struct和class区别，你更倾向用哪个2.kNN，朴素贝叶斯，SVM的优缺点，各种算法优缺点2.1 KNN算法2.2 朴素贝叶斯2.3SVM算法2.4 ANN算法2.5 DT算法3. 10亿个整数，1G内存，O(n)算法，统计只出现一次的数。4、海量数据排序4.1 数据库排序4.2 分段排序4.3 **bit位操作 **5、项目中的数据是否会归一化处理，哪个机器学习算法不需要归一...

2019-04-12 09:27:49 525

原创机器学习问题总结（02）

文章目录1.stacking模型以及做模型融合的知识1.1 从提交结果中融合1.2 stacking1.3 blending2. 怎样去优化SVM算法模型的？2.1 SMO优化算法2.2 libsvm 和 Liblinear3.现有底层是tensorflow的keras框架，如果现在有一个tensorflow训练好的模型，keras怎么读取？3.1 tf模型的保存与导入模型保存：导入预训练好的模型...

2019-04-12 09:26:24 477

原创机器学习问题总结（01）

文章目录2019.04.011.请描述推荐系统中协同过滤算法CF的原理2.请描述决策树的原理、过程、终止条件，以及如何防止过拟合2.1决策树生成算法2.2 剪枝处理（防止过拟合）2.3 停止条件2.4 棵决策树的生成过程2.5 决策树的损失函数3.请描述K-means的原理，说明选择聚类中心的方法3.1 算法流程图3.2 聚类中心初始化问题4.请列举分类模型和回归模型的区别5.请列举生成模型与判别...

2019-04-12 09:24:59 629

转载机器学习中的聚类方法总结

聚类定义定义聚类就是对大量未知标注的数据集，按数据的内在相似性将数据集划分为多个类别，使类别内的数据相似度较大而类别间的数据相似度较小。是无监督的分类方式。聚类思想给定一个有N个对象的数据集，构造数据的k 个簇，k≤n。满足下列条件：每一个簇至少包含一个对象每一个对象属于且仅属于一个簇将满足上述条件的k个簇称作一个合理划分基本思想：对于给定的类别数目k，首先给出初...

2019-04-11 17:18:42 2122

原创大数据学习（09）--spark学习

文章目录目录1.spark介绍1.1 spark介绍1.2 scale介绍1.3 spark和Hadoop比较2.spark生态系统3.spark运行框架3.1 基本概念3.2 架构的设计3.3 spark运行基本流程3.4 spark运行原理3.5 RDD运行原理3.5.1 设计背景3.5.2 RDD概念和特性3.5.3 RDD之间的依赖关系3.5.4 stage的划分3.5.5 RDD的运行过...

2019-04-10 10:09:35 385

原创大数据学习（09）--Hadoop2.0介绍

文章目录目录1.Hadoop的发展与优化1.1 Hadoop1.0 的不足与局限1.2 Hadoop2.0 的改进与提升2.HDFS2.0 的新特性2.1 HDFS HA2.2 HDFS Federation3. 新一代的资源管理器YARN3.1 MapReduce1.0 缺陷3.2 YARN的设计思路3.3 YARN 体系结构3.4 YARN工作流程3.5 YARN框架与MapReduce1.0...

2019-04-10 09:37:47 853

转载特征工程总结

目录1 特征工程是什么？2 数据预处理　　2.1 无量纲化　　　　2.1.1 标准化　　　　2.1.2 区间缩放法　　　　2.1.3 标准化与归一化的区别　　2.2 对定量特征二值化　　2.3 对定性特征哑编码　　2.4 缺失值计算　　2.5 数据变换3 特征选择　　3.1 Filter　　　　3.1.1 方差选择法　　　　3.1.2 相关系数法　　　　3.1.3 卡...

2019-04-09 18:19:59 346

原创初探函数式编程和面对对象式编程

文章目录目录1.函数式编程和面向对象编程概念1.1 函数式编程1.2 面向对象编程2.函数式编程和面向对象编程的优缺点2.1 函数式编程优点缺点2.2 面对对象编程优点缺点3.为什么在并行计算中函数式编程比较好3.1 什么是并行计算3.2 函数式编程兴起原因目录1.函数式编程和面向对象编程概念1.1 函数式编程什么是函数式编程？在维基百科中给出了详细的定义，函数式编程（英语：functio...

2019-04-09 15:37:39 533

原创大数据学习（08）--Hadoop中的数据仓库Hive

文章目录目录1.什么是数据仓库？1.1数据仓库概念1.2传统数据仓库面临的挑战1.3 Hive介绍1.4 Hive与传统数据库的对比1.5 Hive在企业中的部署与应用2.Hive系统架构3.Hive工作原理3.1 SQL转换为MapReduce作业的基本原理3.2 Hive中SQL查询转换MapReduce作业的过程4.Hive HA基本原理5.Impala5.1 Impala介绍5.2 Imp...

2019-04-08 17:09:46 3675

原创大数据学习（07）--MapReduce

文章目录目录1.MapReduce介绍1.1 什么是分布式并行编程？1.2 MapReduce模型介绍1.3 map和reduce函数2.MapReduce体系架构3.MapReduce工作流程3.1 概述3.2 MapReduce各个阶段介绍3.3 shuffle过程介绍3.3.1 shuffle过程简介3.3.2 map中的shuffle过程3.3.3 reduce中的shuffle过程3.3...

2019-04-08 16:35:07 2560 1

转载机器学习算法分类总结

机器学习方法分类总结这篇文章只是一个类似于知识概括的文章，主要作用是帮忙梳理：1) 分类贝叶斯模型（Bayesian Mode）- 朴素贝叶斯算法（Naive Bayesian Mode）- 平均单依赖估计（AveragedOne-Dependence Estimators， AODE）- Bayesian Belief Network（BBN）K-邻近（k-Nearest Ne...

2019-04-08 16:03:33 458

转载一文理解KMP算法

一文理解KMP算法作者：July时间：最初写于2011年12月，2014年7月21日晚10点全部删除重写成此文，随后的半个多月不断反复改进。后收录于新书《编程之法：面试和算法心得》第4.4节中。 1. 引言本KMP原文最初写于2年多前的2011年12月，因当时初次接触KMP，思路混乱导致写也写得混乱。所以一直想找机会重新写下KMP，但...

2019-04-08 09:26:59 255

转载面试--Linux命令总结

显示目录和文件的命令 Ls：用于查看所有文件夹的命令。 Dir：用于显示指定文件夹和目录的命令 Tree：以树状图列出目录内容 Du：显示目录或文件大小 &n...

2019-04-07 14:28:33 248

转载一文搞定面试中的二叉树问题

2019-04-07 11:41:54 170

转载面试中海量数据处理总结

教你如何迅速秒杀掉：99%的海量数据处理面试题前言一般而言，标题含有“秒杀”，“99%”，“史上最全/最强”等词汇的往往都脱不了哗众取宠之嫌，但进一步来讲，如果读者读罢此文，却无任何收获，那么，我也甘愿背负这样的罪名 :-)，同时，此文可以看做是对这篇文章：十道海量数据处理面试题与十个方法大总结的一般抽象性总结。毕竟受文章和理论之限，本...

2019-04-07 11:39:44 429

原创机器学习知识总结系列-机器学习中的数学-矩阵（1-3-2）

矩阵 SVD 矩阵的乘法状态转移矩阵状态转移矩阵特征值和特征向量对称阵正交阵正定阵数据白化矩阵求导向量对向量求导标量对向量求导标量对矩阵求导一.矩阵1.1 SVD奇异值分解（Singular Value Decomposition），假设A是一个m×n阶矩阵，则存在一个分解使得&...

2019-04-05 16:50:48 1249

原创大数据学习（06）-- 云数据库

文章目录目录1.什么是云数据库？1.1 云计算和云数据库的关系1.2 云数据库的概念1.3 云数据库的特性1.4 云数据库应用场景1.5 云数据库和其他数据的关系2.云数据库产品有哪些？2.1 云数据库厂商概述2.2 亚马逊云数据库产品2.3 Google云数据库产品2.4 微软云数据库产品3.云数据库的架构介绍？3.1 UMP系统概述3.2 UMP系统架构3.3 UMP系统功能4.亚马逊 AWS...

2019-04-05 16:45:26 748

原创机器学习公式推导

文章目录线性回归逻辑回归线性判别分析PCAk-means决策树svm随机深林GBDTxgboost强化学习MapReduce线性回归逻辑回归对于分类问题：输出0/1，超过[0,1]没有意义，使用sigmoid函数**代价函数：**使用L2平方差，由于模型函数变了，会导致J()变成非凸函数，有可能出现很多局部最小值，梯度下降很难收敛到全局最小值线性判别分析LDA思想：将高维样本投影到...

2019-04-05 10:17:15 342

原创机器学习中的距离和损失函数

文章目录13.1 距离度量13.2 损失函数13.1 距离度量距离函数种类：欧式距离、曼哈顿距离、明式距离（闵可夫斯基距离）、马氏距离、切比雪夫距离、标准化欧式距离、汉明距离、夹角余弦等常用距离函数：欧式距离、马氏距离、曼哈顿距离、明式距离1.欧式距离欧式距离是最容易直观理解的距离度量方法，我们小学，中学，高中所接触的两个空间中的距离一般都是指的是欧式距离。2.曼哈顿距离(Manh...

2019-04-05 10:17:00 5087

原创机器学习知识总结系列-机器学习中的优化算法总结（1-4）

文章目录梯度下降批量梯度下降随机梯度下降Mini-batch gradient descent比较：Mini-batch gradient descent的缺点momentumAdagradRMSpropAdam总结梯度下降批量梯度下降每进行1次参数更新，需要计算整个数据样本集：θ=θ−η∇θJ(θ)随机梯度下降Mini-batch gradient descent比较：Mi...

2019-04-05 10:16:42 342

原创经典算法重点总结

文章目录排序算法冒泡排序直接插入排序希尔排序直接选择排序快速排序堆排序归并排序总结查找算法顺序查找二分查找插值查找斐波那契查找树表查找分块查找哈希查找总结排序算法冒泡排序void bubbleSort(int a[] , int n){ for(int i = n-1 ; i > 0 ; i--){ for(int j = 0 ; j < i ; j++...

2019-04-05 10:04:50 281

原创大数据学习（5）-- NoSQL数据库

文章目录目录1.NoSQL的介绍2.NoSQL产生的原因3.NoSQL和关系数据库的区别4.NoSQL的四大类型5.NoSQL的三大基石6.从NoSQL到newSQL数据库7.文档数据库MongoDB8.总结目录1.NoSQL的介绍随着web2.0时代的到来，关系型数据库已经无法满足数据的存储要求。因此，很多人就提出反对SQL的口号，但是后来发现mySQL也有它的优点，无法替代，所以就提出了...

2019-04-04 21:04:55 764

空空如也

空空如也