- 博客(49)
- 收藏
- 关注
RSS订阅原创 机器学习 | 取代全连接神经网络！稀疏网络能用 Pytorch 这么实现！
关键词：机器学习 / 神经网络 / 稀疏摘要：全联接神经网络从发明至今到处可见其身影，它可以用来实现分类或回归任务，有效拓展机器的决策能力，然而全联接的参数总量非常庞大，既需要硬盘空间保存模型，运行时又需要占用大量内存实现计算，稀疏网络的概念由此应运而生！去掉某些链接实现网络的轻量化正是它的重要贡献！简介神经网络专指一种结构化的层状网络结构，虽然同样也都是由节点 (node) 和边 (edge) 组成，但每个节点不能与和自己同一层的其他节点产生连接，因此常常网络结构的示意图就会被画成这个样子.
2021-04-10 08:02:45
5049
14
原创 机器学习 | 高斯混合模型还能这样预测新冠发病人数与位置
机器学习算法有很多种分类维度，最出名且常用的一种分类就是 判别模型 与 生成模型，这两类模型最主要的区别就是除了预测之外，生成模型还能生成数据，而判别模型则不行！这回小编将利用生成模型的特性，根据现有数据来预测新冠在未来的潜在案发地点，非常适合数据分析与仿真优化的同学们借鉴！
2021-04-03 14:39:48
1439
原创 序列模型之王 - Transfomer 全细节详解
近几年，越来越多得深度学习网络出现在了我们得视野当中，并且这个研发速度在不断得上升。在这些众多的模型中，有一个模型占有这举足轻重得地位！那就是 `Transformer`。 尤其是在`自然语言处理`, `Transformer`的到来犹如龙卷风一般震惊学术界。 这个新的模型一出现就打破了多个`自然语言处理`的表现记录并一举成为了最先进的深度网络模型之一。 `Transformer` 在机器翻译，智能对话，甚至搜索引擎上都展现出了强大的能力。
2021-02-28 22:33:48
9571
4
原创 配置 GPU 所需要的重要链接
驱动让 GPU 可以在电脑中被读取，CUDA 用来适配 Python 深度学习框架的版本，一般框架从 CUDA 版本 9.2～11.0 都有支持，不建议装最新的 CUDA，因为可能框架还没有支持到最新版本，同时也不见以装太旧的 CUDA，因为性能与功能可能没有足够的支持。接着是 cuDNN，它支持了一些额外的运算子，实现在 GPU 上计算如卷积等复杂的操作，下载版本的时候也必须得和 CUDA 的版本对齐，不过下载前需要登入 nvidia 官网方可继续下载所需要的压缩文件。驱动 -https://www.
2021-02-02 10:53:55
257
原创 动态规划 | 可以用在核酸检测的算法：莱文斯坦算法
核酸检测经此一疫已经成为了人尽皆知的检测手段，但是你可曾想过经过仪器检测出来的 DNA序列是如何与正常情况下的 DNA 序列做对比的呢？面对整村的核酸检测结果，计算工作肯定需要电脑来完成，如果我们想知道一个受试者的 DNA 序列与正常情况下的 DNA 序列有至少几个个元素差异时，我们就需要一个算法来解决，它叫 莱文斯坦 (levenshtein) 算法，而这个算法背后有一个主要的技术：动态规划！import numpy as np本文将只通过 numpy 从头构建莱文斯坦算法，如果还没安装这个库的读者
2021-01-24 19:42:30
1707
1
原创 机器学习 | 聚类算法 | 看我用 K-Means 聚类算法从头实现图像语义分割
关键词：机器学习 / 无监督 / 聚类简介在众多聚类算法中，K-Means 算得上是其中一个经典的算法之一了，它属于无监督学习成员的一份子，训练并分类数据的过程中，不需要标签的辅助就能够掌握每一比数据之间的潜在关系，而这个关系则是通过两个点之间的距离远近来判定，离得远的表示关系小，离得近的表示关系大，他的数学表达式：f(x)=⋯\begin{aligned}\mathcal{f}(x) = \cdots\end{aligned}f(x)=⋯是不是没看清数学是什么呢？你没看错，因为小编这.
2021-01-22 23:41:08
1432
2
原创 Tensorflow_08C_Keras 的数据增强与 Tensorboard 使用方法
Brief 概述前面两章重点描述了使用 Keras 搭建模型的两种方式，并且妥善的储存模型到 .h5 文件中，等下一次使用的时候直接呼叫储存文档，就可以把整个模型，连同参数一起回传到新的模型中继续开始工作。最后，既然 Keras 已经大致完好的被 Tensorflow 移植过来，那么 tf 最厉害的可视化工具 Tensorboard 肯定也不能落于人后，接下来将使用非常简单的方式，让我...
2018-12-06 15:34:32
675
1
原创 Tensorflow_08B_Keras 的 Function 模型与训练结果的储存方法
Brief 概述从上一章节的范例中我们成功使用 Keras 搭建全联接神经网络和卷积神经网络，并分别使用此二网络对最基础的两个数据集 MNIST 与 CIFAR10 做分类，旨在让大家了解到使用 Keras 搭建神经网络的简洁性和人性化的一面。Keras 从本来独立发展的第三方模块，到后来被 Tensorflow 认可后在随后的 tf 升级版本中被纳入 tf 的高级 API 行列中，确...
2018-11-28 10:29:30
1017
1
原创 Tensorflow_08A_Keras 助攻下的 Sequential 模型
Brief 概述使用 keras 搭建模型时让人们感受到的简洁性与设计者的用心非常直观的能够在过程中留下深刻的印象，这个模块帮可以让呈现出来的代码极为人性化且一目了然，使用 Tensorflow 模块搭建神经网络模型通常需要百行的代码，自定义模型和函数，唯一受到 tf 封装的厉害功能只有梯度下降的自动取极值，如果是一个初出入门的人，没有一定的基础背景累积，更遑论使用 tf 搭建神经网络。其...
2018-11-23 10:49:53
1996
6
原创 Tensorflow_07B_读取 TFRecord 与反序列化过程
Brief 概述前一个章节描述如何使用 Tensorflow 的函数把数据序列化后，妥善构建一个数据结构并把数据放入 protocol buffer 文档中保存成二进制的格式，这也是上一章节中如下图最左边肩头的环节：保存好的 .tfrecord 文档就好比我们的子弹，已经把作为火药的原始数据妥善的包装到了弹壳当中随时准备产生作用，这一节将描述如何把这些子弹装入机枪中，而这把机枪就是 T...
2018-10-26 19:53:51
1881
1
原创 Tensorflow_07A_写入 TFRecord 与数据序列化
Brief 概述前面所有章节中我们主要重点放在算法的框架构建上，比较少关注数据集本身的特性，也因此使用了最简单的对象指向的方式，把数据集里面的内容导出到一个设定好的对象中，并以此对象作为整个算法的输入，开始一系列的计算训练。然而，随着训练的复杂度和数据集的总量提升，数据与硬件本身的问题也逐渐浮现，如下图所示：每当一个 epoch 训练完毕，接着下一个 epoch 的时候，硬件会因为数据...
2018-10-26 19:41:15
1071
原创 Tensorflow_06_Tensorboard 的数据可视化与 Data Embedding
Brief 概述Tensorboard 提供了一个非常亲切且容易执行的环境给使用者更好的找出计算流图当中的问题，并根据问题发生的要点予以更正，不过这个工具是 Google 团队在经历长达一年的时间开发出来的产物，实际上的功能肯定不是简单的一篇文章能够涵盖，这里要介绍另一个数据处理中非常实用的投影办法，Tensorboard 提供了内置的降维非监督学习算法，让我们只要简单的导入数据后，即可通过鼠...
2018-10-13 09:21:47
1749
原创 卷积神经网络 + 机器视觉： L12_Visualization 神经网络可视化 (斯坦福CS231n）
完整的视频课堂链接如下https://www.youtube.com/watch?v=6wcs6szJWMY&t=886s完整的视频课堂投影片连接http://cs231n.stanford.edu/slides/2017/cs231n_2017_lecture12.pdf To Visualize what?经过一系列在神经网络上的探索与实践，我们知道设定一些 Hyp...
2018-09-29 18:01:37
926
原创 卷积神经网络 + 机器视觉： L11_Detection and Segmentation 目标识别与分割 (斯坦福CS231n）
完整的视频课堂链接如下：https://www.youtube.com/watch?v=nDPWywWRIRo&t=1670s完整的视频课堂投影片连接：http://cs231n.stanford.edu/slides/2017/cs231n_2017_lecture11.pdf前一課堂筆記連結：卷积神经网络 + 机器视觉： L10_RNN_LSTM (斯坦福课堂） ...
2018-09-27 13:30:20
720
原创 Tensorflow_05_从头构建 CNN 神经网络框架 - part 3: 优化结果与观察过程
Brief. Review of the low accuracy当使用完了所有论文提及到的招式后，看到低下的正确率时，脑中的疑点肯定已经足以在几秒钟内盖过诧异的神色，从卷积框架的搭建，到数据处理方法的使用，再到超参数的初始化设定，最后检查在缓存不过载的情况下，把框架执行上千次的训练后得出一个结果，每个环节需要更为深刻的理解才足以支持实际应用。下面是低正确率的训练结果回顾，同时也是上一篇文章的...
2018-09-26 15:31:52
1048
原创 Tensorflow_05_从头构建 CNN 神经网络框架 - part 2: 框架主体
Brief 概述上一个环节的内容呈现中，我们主要是在做框架搭建前的准备工作，把手边的数据集与即将要使用上的函数尽可能交代清楚，而这节主要的内容是来探讨建构神经网络的过程与步骤，并尽可能的使用函数预留接口的形式把重复书写的代码整合得整洁且易懂，就如同 keras 的模块包一般，建构神经网络的过程好比堆积木，一层网络一行代码，只要能够设计好函数的长相，就可以达到与 keras 模块类似的效果，非常...
2018-09-17 23:16:14
938
原创 Tensorflow_05_从头构建 CNN 神经网络框架 - part 1: 图像预处理
Brief 概述在上一章中我们使用了 MNIST 手写数字数据集，套入一个非常简单的线性模型中，得到了大约 90% 左右的正确率，用意在于熟悉神经网络节点的架构和框架的使用方法，接下来这章将把前一章的数据集和方法全面提升一个档次，使用的是 CIFAR10 与 CNN 卷积神经网络的架构，同时也可以做为探讨深层神经网络如 VGG19，GoogleNet，与 ResNet 的敲门砖。CNN 卷...
2018-09-14 16:18:12
1277
原创 Tensorflow_04_Load MNIST to Linear Model 载入 MNIST 数据集与线性模型
Brief 概述这节开始我们使用知名的图片数据库 「THE MNIST DATABASE」 作为我们的图片来源，它的数据内容是一共七万张 28×28 像素的手写数字图片，并被分成六万张训练集与一万张测试集，其中训练集里面又有五千张图片被用来作为验证使用，该数据库是公认图像处理的 "Hello World" 入门级别库，在此之前已经有数不清的研究围绕着这个模型展开。不过初次看到这个库之后肯定...
2018-08-27 09:08:39
1069
原创 Tensorflow_03_Checkpoint 与 Tensorboard
Brief 概述在理解了建构神经网络的大致函数用途，且熟悉了神经网络原理后，我们已经大致具备可以编写神经网络的能力了，在涉及比较复杂的神经网络结构前，还有两件重要的事情需要了解，那就是中途存档和事后读取的函数，它攸关到庞大的算力和时间投入后产出的结果是否能够被再次使用，是一个绝对必须弄清楚的环节。另外是 Tensorflow 提供的的一个工具名为 Tensorboard，它可以很有效率的为我们...
2018-08-17 10:18:41
1901
原创 Tensorflow_02_Useful Functions 常用函数大全
Brief 概述基于对 Tensorflow 大致的了解，并理解了流程图设置的逻辑和运行方法后，我们逐渐的会发现其设计理念与机器学习深远的匹配性。延续前面一章节最后的代码，此单元记录的模型和方法主要也是围绕 「监督学习」 为重点展开。构建一个内涵机器学习算法的流程图后，我们就可以以一个参数作为输入，启动计算流程并等待最终结果，大致的训练过程如下流程：建构好数学模型指向图 初始化模型参数...
2018-08-16 14:51:08
1148
1
原创 Tensorflow_01_Overview 全局概述
Brief 概述机器学习与人工智能其实可以被归类为一个有历史的学科领域，在上世纪的六零年代就已经有第一批的科学家先祖们在这个领域投入精力，但是碍于当时的硬件科技发展限制，没有办法实现大规模的运算，甚至也没有单位能够提供规模庞大的同类型数据给到科学家们，因此这个领域一直沉寂着直到现今爆炸性的成长开了一片绚丽的故事。不过这样的发展历程也意味着非常丰富的知识和方法累计在这门学科中，应对迅速到来的...
2018-08-09 15:10:40
823
原创 生成对抗网络 GAN 02：条件生成 Conditional Generation
Brief 概述上一个章节提到的模型训练方法是输入一个向量值，经由神经网络的运算与传递后，产生一个数据类型的结果，如上节举例则是二次元人物图像，而第二节课提到的情况生成器则是以文字转图片的模式展开。换言之，这个举例是一个典型的监督学习方法。步骤如下：设定好一个神经网络，输入为文字输出为图片 准备好一个数据库，充满着文字对应图片的结果 训练这个神经网络，让输出的图片越接近数据库的图片越好...
2018-07-27 08:55:29
2107
原创 生成对抗网络 GAN 01：简介篇 Introduction
Brief 概述GAN stands for Generative Adversarial Network, which was first developed in 2014. This brand new branch related to deep learning is amazing due to its effects and is hugely attractive to the...
2018-07-26 13:05:12
689
原创 史记官：git 和 GitHub 的功能与益处
GitHub [点击] 是一个代码托管平台，它可以理解为一个以时间轴为重的云端服务器，可以用来追踪每一个文件夹里面文件修改的历史状态，并且让多个人同时编辑同一份文件，在彼此编辑内容不冲突的情况下，完成团队协作。这也是大家喜欢把自己的代码放上去被托管的原因，不论在任何时间点，任何地方，任何人都可以彼此合作，几乎任何情况下都可以让我们以云端的形式，用 GitHub 提升完成项目的效率。git [点击]...
2018-06-21 13:24:50
676
原创 论文详解 + TCN 篇知识点补充： Dilated Convolution_空洞卷积
此篇延伸补充的源头文章链接：深度学习 + 论文详解： TCN_时间卷积网络_原理与优势相关主题推荐文章：
2018-06-10 14:18:42
2646
原创 论文详解 + TCN 篇知识点补充： Receptive Field_感受野
此篇延伸补充的源头文章链接：深度学习 + 论文详解： TCN_时间卷积网络_原理与优势相关主题推荐文章A guide to receptive field arithmetic for Convolutional Neural Networks你知道如何计算CNN感受野吗？这里有一份详细指南命名由来Receptive Field 这个词最易开始是从生物领域被 Convolutional Neura...
2018-06-08 12:24:33
5651
原创 深度学习 + 论文详解： TCN_时间卷积网络_原理与优势
论文链接TCN: https://arxiv.org/pdf/1803.01271.pdfp.s. TCN stands for Temporal Convolutional Network. 它是除了 RNN architecture 之外的第二种可以分析时间性数据的架构前言RNN 从最一开始发展以来，经过不断的演进与迭代，把原先难以实施 backpropagation 的难题用上了 LSTM ...
2018-06-06 23:41:22
53073
6
原创 深度学习 + 论文详解： Mask R-CNN 原理与优势
论文链接Mask R-CNN: https://arxiv.org/pdf/1703.06870.pdf
2018-06-06 00:37:09
3243
原创 深度学习 + 论文详解： Faster R-CNN 原理与优势
论文链接Faster R-CNN: https://arxiv.org/pdf/1506.01497.pdf代码链接Original：https://github.com/rbgirshick/py-faster-rcnn Tennsorflow edition：https://github.com/endernewton/tf-faster-rcnn Furtuer distort...
2018-06-06 00:27:47
4134
原创 深度学习 + 论文详解： SPPnets 原理与优势
论文链接SPPnets: https://arxiv.org/pdf/1406.4729v1.pdf
2018-06-06 00:22:14
794
原创 深度学习 + 论文详解： R-CNN 原理与优势
论文链接R-CNN: http://islab.ulsan.ac.kr/files/announcement/513/rcnn_pami.pdf
2018-06-06 00:16:57
1125
原创 深度学习 + 论文详解： Fast R-CNN 原理与优势
论文链接fast R-CNN: https://arxiv.org/pdf/1504.08083.pdf
2018-06-05 23:05:42
1717
原创 YOLO3 + Python3.6 深度学习篇（附）- 文件的重组 - 移动 - 复制
从搜集数据的角度来看，越多的数据理论上说会有越高的准确率，但是每次爬虫找下来的图片只能够有百来张，如果分了很多不同的文件夹之后，为了迅速的将它们集合成完整的 “单一个” 资料夹，下面代码可以把多个文件夹里面的文件汇总到一个指定的文件夹中，不过还是有些前提条件需要遵守：指定的文件夹必须已经存在，并且是跟要被汇总的文件夹不同的文件夹不同文件夹里面的文件不能有重复命名存在（在执行代码前，需要做批量修改）...
2018-05-28 00:07:09
951
原创 PYTHON_numpy 历程总览 - updating
遥想学习 python 之初，我满腹的怀疑为什么 python 本身已经具备的数据容器，运算子，与内置模块处理数据，还要一个 numpy 重复一遍内置函数的功能，直到开始接触了大量的数据与资料处理的实例后，看着大家都用 numpy 到他们的代码中，终于下定决心想把它了解一番。In short，numpy module 的应用，相比于 python 自己的函数，大幅提升了应付数据时候的运算速度与...
2018-05-25 10:34:07
421
原创 卷积神经网络 + 机器视觉： L10_RNN_LSTM (斯坦福CS231n）
完整的视频课堂链接如下：https://www.youtube.com/watch?v=6niqTuYFZLQ&index=10&list=PL3FW7Lu3i5JvHM8ljYj-zLfQRF3EO8sYv完整的视频课堂投影片连接：http://cs231n.stanford.edu/slides/2017/cs231n_2017_lecture10.pdf前一課堂筆...
2018-05-25 10:33:32
1048
原创 卷积神经网络 + 机器视觉： L9_VGG_GoogleNet_ResNet (斯坦福CS231n）
完整的视频课堂链接如下：https://www.youtube.com/watch?v=DAOcjicFr1Y&list=PL3FW7Lu3i5JvHM8ljYj-zLfQRF3EO8sYv&index=9完整的视频课堂投影片连接：http://cs231n.stanford.edu/slides/2017/cs231n_2017_lecture9.pdf前一課堂筆記連...
2018-05-25 10:32:59
680
原创 卷积神经网络 + 机器视觉：L8_Static_Tensorflow_Dynamic_Pytorch (斯坦福CS231n）
完整的视频课堂链接如下：https://www.youtube.com/watch?v=6SlgtELqOWc&list=PL3FW7Lu3i5JvHM8ljYj-zLfQRF3EO8sYv&index=8完整的视频课堂投影片连接：http://cs231n.stanford.edu/slides/2017/cs231n_2017_lecture8.pdf前一課堂筆記連...
2018-05-24 09:43:24
486
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人