dujiahaogod的博客

原创 吴恩达《神经网络与深度学习》课程笔记（1）-- 神经网络基础之Python与向量化

上节课我们主要介绍了逻辑回归，以输出概率的形式来处理二分类问题。我们介绍了逻辑回归的Cost function表达式，并使用梯度下降算法来计算最小化Cost function时对应的参数w和b。通过计算图的方式来讲述了神经网络的正向传播和反向传播两个过程。本节课我们将来探讨Python和向量化的相关知识。——回顾1Vectorization深度学习算法中，数据量很大，在程序中应该尽量减少使用loo...

原创 用Tensorflow处理自己的数据：制作自己的TFRecords数据集

前言   最近一直在研究深度学习，主要是针对卷积神经网络（CNN），接触过的数据集也有了几个，最经典的就是MNIST, CIFAR10/100, NOTMNIST, CATS_VS_DOGS 这几种，由于这几种是在深度学习入门中最被广泛应用的，所以很多深度学习框架 Tensorflow、keras和pytorch都有针对这些数据集专用的数据导入的函数封装，但是一般情况下我们的数据集并不是这种很规范...

原创 【机器学习详解】SVM解二分类,多分类,及后验概率输出

支持向量机(Support Vector Machine)曾经在分类、回归问题中非常流行。支持向量机也称为最大间隔分类器，通过分离超平面把原始样本集划分成两部分。首先考虑最简单的情况：线性可分支持向量机，即存在一个超平面可以把训练样本分开。1.线性可分支持向量机1.考虑一个线性二分类的问题；如下左图，在二维平面上有两种样本点x，目标值分别标记为{-1,1}，可以作出无数条直线wTx+b...

原创 人工智能---图像识别

欢迎分享本文，转载请保留出处点击关注，获取最新AI干货一、安装库首先我们需要安装PIL和pytesseract库。 PIL：（Python Imaging Library）是Python平台上的图像处理标准库，功能非常强大。 pytesseract：图像识别库。我这里使用的是python3.6，PIL不支持python3所以使用如下命令pip install pytesseractpip ins...

原创 人工智能兵临城下，未来哪个行业、职业有前途？（必读）

欢迎分享本文，转载请保留出处点击关注，获取最新AI干货人工智能到底是啥玩意儿，业界学界众说纷纭，人对自己的“智能”构成要素尚且不太清晰，更谈何定义人工智能，但给一个概念框架问题还是不大的——人工智能（Artificial Intelligence），英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。人工智能作为发轫于计算机科学的一支，自上世纪...

原创 【全网独家】搞人工智能必看的前沿技术——6、你的开发集和测试集应该来自同一分布

6、你的开发集和测试集应该来自同一分布根据你的市场，您将你的猫app的图片数据分为四个区域：（i）美国，（ii）中国，（iii）印度和（iv）其他地区。要生成一个开发集和一个测试集，我们随机地分配两个地区的数据到开发集，另外两个到测试集，对吗？比如来自美国和印度的数据在开发集，中国和其他地区的在测试集。一旦你这样定义了开发集和测试集，你的团队将专注于提高开发集的表现性能。因此，开发集应该反映你真正...

原创 对于想进入AI领域的人，谈几点建议？

对于想进入AI领域的人，谈几点建议？LeCun：这个领域和我刚进入的时候，已经是两个完全不同的世界了。我认为现在有一点非常好，人们想在某种程度上参与进来很容易了，工具很多、很好用，比如TensorFlow、PyTorch等等。你只需要一台不算贵的电脑，坐在卧室里，就能训练你的卷积神经网络、循环神经网络来做任何事情了。你也可以用线上的学习资料学很多东西，也不是很麻烦。所以现在连高中生都在搞神经网络了...

翻译 【全网独家】吴恩达的新书 《Machine Learning Yearning》中文编译版-----3、先决条件和符号

3、先决条件和符号如果你学过机器学习课程，比如Coursera上的机器学习MOOC，或者你有使用过监督学习的经验，你就能理解这篇课文。我假设你熟悉监督学习:使用标记的训练样例（x, y）学习一个从x映射到y的函数。监督式学习包括线性回归（linear regression），对数几率回归（也叫逻辑回归，logistic regression）和神经网络（neural networks）。机器学习的...

翻译 【全网独家】吴恩达的新书 《Machine Learning Yearning》2、如何使用这本书来帮助你的团队

2、如何使用这本书来帮助你的团队读完这本书，你将对如何制定机器学习项目技术方向有一个深刻的理解。但是你的队友可能不明白你为什么要推荐一个特定的方向。也许您希望您的团队定义一个单值的评估指标，但是他们并不信服。你如何说服他们?这就是为什么我把章节写得很短:这样你就可以打印出来，让你的队友阅读你需要他们知道的1-2页。面对几个不同的选择，在优先排序上的一些改变可能会对你团队生产力产生巨大的影响。通过帮...

翻译 【全网独家】吴恩达的新书 《Machine Learning Yearning》1、为什么需要机器学习策略？

1、为什么需要机器学习策略？机器学习是无数重要应用程序的基础，包括网页搜索，反垃圾邮件，语音识别，产品推荐等。如果您或您的团队正在开发一个机器学习的应用程序，并且您希望取得快速的进步。这本书将帮助你实现。例如:建立一个谁别含有猫咪图片的创业公司。假设你正在建立一个新公司，它将为爱猫人士提供源源不断的猫图片。你使用神经网络建立一个计算机视觉系统来检测图片中的猫。但不幸的是，你的学习算法的准确性还不够...

原创 【全网独家】吴恩达的新书 《Machine Learning Yearning》中文编译版——1~12章

目录1、为什么需要机器学习策略？机器学习是无数重要应用程序的基础，包括网页搜索，反垃圾邮件，语音识别，产品推荐等。如果您或您的团队正在开发一个机器学习的应用程序，并且您希望取得快速的进步。这本书将帮助你实现。例如:建立一个谁别含有猫咪图片的创业公司。假设你正在建立一个新公司，它将为爱猫人士提供源源不断的猫图片。你使用神经网络建立一个计算机视觉系统来检测图片中的猫。但不幸的是，你的学习算法的准确性还...

原创 数字化迁徙最核心的是AI和区块链

原创 推荐 10 个饱受好评且功能独特的开源人工智能项目。

欢迎分享本文，转载请保留出处赠人玫瑰，手留余香喜欢就关注我吧关于人工智能的项目，相信大家都看过或者用过不少了，但它们的大多数看上去都十分“高大上”，让人感觉要掌握他们犹如习屠龙之术一样。事实上，有很多关于人工智能的项目还是十分实用的，而且用途还十分有趣，下面就简单为大家盘点 10 个功能独特的开源人工智能项目。STYLE2PAINTS：强大的为线稿上色的 AI项目地址：https://www.os...

转载 只需修改一个像素，让神经网络连猫都认不出 | 论文+代码

夏乙 编译整理量子位 出品 | 公众号 QbitAI想骗过神经网络，让它认错图像，需要对图像做多少修改？一个像素就够了。一项来自日本的研究表明，改动图片上的一个像素，就能让神经网络认错图，甚至还可以诱导它返回特定的结果。研究由日本九州大学的Jiawei Su、Danilo Vasconcellos Vargas和Kouichi Sakurai三人共同完成，他们不仅写论文详细介绍了这项改一个像素就骗...

转载 阿里巴巴年度技术总结 - 人工智能在搜索的应用和实践

欢迎分享本文，转载请保留出处点击关注，获取最新AI干货转自：AI 科技评论AI 科技评论按：本文作者为阿里巴巴搜索事业部总监欧文武，经阿里巴巴授权发布。以深度学习为代表的人工智能在图像、语音和 NLP 领域带来了突破性的进展，在信息检索和个性化领域近几年也有不少公开文献，比如 wide & deep 实现了深度模型和浅层模型的结合，dssm 用于计算语义相关性，deepfm 增加了特征组合...

转载 今日头条推荐算法详解（PDF下载）

源 | AI研习社    编辑 | 昱良内容较长点击阅读原文即可下载今日头条资深算法架构师曹欢欢：本次分享将主要介绍今日头条推荐系统概览以及内容分析、用户标签、评估分析，内容安全等原理。一、系统概览推荐系统，如果用形式化的方式去描述实际上是拟合一个用户对内容满意度的函数，这个函数需要输入三个维度的变量。第一个维度是内容。头条现在已经是一个综合内容平台，图文、视频、UGC小视频、问答、微头条，每种内...

原创 教程|深度学习与神经网络相关更多导数的例子

在这一讲中，我将给出一个更加复杂的例子，在这些不同的例子中，函数在不同点出的斜率是不一样的。先来举一个例子：我在这里画一个函数f（a）=a的平方，在a=2的点上，a的平方等于4。让我们稍稍往右推进一点点，现在a=2.001，而f（a）即a的平方，约为4.004。但是。如果使用计算机算的话，这个准确的值应该为4.004001。为了简便起见，省略了后面的部分。这里想表达的是，当a=2时，f（a）=4。...

原创 2.5 《神经网络与深度学习》课程系列之导数

在这节课里，我想让你对微积分和导数有直观的理解，或许你认为自从大学后，你再也没有接触微积分，这取决于你什么时候毕业，也许有一段时间了。如果你顾虑到这点，请不要担心，你并不需要非常深入理解微积分，就能高效应用神经网络和深度学习。我在这里画了一个函数，f（a）=3a，它是一条直线，直观的解释导数。假定a=2，那么f（a）等于a的3倍，等于6。也就是说，如果a=2，那么函数f（a）=6,。我们稍微改变a...

原创 2.4 吴恩达《神经网络与深度学习》——梯度下降法

【上节回顾】在上一讲里，我们学习了logistic回归模型，也知道了损失函数。损失函数，是衡量单一训练样例的效果。你还知道了成本函数，成本函数用于衡量参数w和b的效果，在全部训练集上来衡量。下面我们讨论如何使用梯度下降法，来训练或学习训练集上的参数w和b。回顾一下，这里是熟悉的logistic回归算法。第二行是成本函数J，成本函数J是参数w和b的函数，它被定义为平均值，即1/m的损失函数之和。损失...

原创 资源|计算机视觉、机器学习、深度学习相关开源代码集合归纳总结

欢迎分享本文，转载请保留出处目录如下：1.特征提取Feature Extraction;2. 图像分割Image Segmentation; 3. 目标检测Object Detection;4. 显著性检测Saliency Detection;5. 图像分类、聚类Image Classification, Clustering;6. 抠图Image Matting;7. 目标跟踪Object Tr...

原创 【重磅】世界区块链组织首席科学家白硕：区块链技术与数据隐私讲座

【重磅】世界区块链组织首席科学家白硕：区块链技术与数据隐私讲座本讲座选自世界区块链组织首席科学家白硕于2018年3月29日在清华大数据“应用·创新”系列讲座上所做的题为《区块链技术与数据隐私》的演讲。演讲全文：白硕：非常荣幸回到母校，跟大家分享区块链这样一个非常热的话题。区块链在前面，隐私在后面，但是大家都知道中国人总是喜欢把修饰语放在前面，把中心语放在后面。隐私应该是信息发达到一定程度，中国人才...

原创 2.3 logistic回归损失函数

为了训练logistic回归模型的参数w以及b，需要定义一个成本函数。让我们来看一下。用logistic回归来训练的成本函数。一、扼要重述回忆一下，这张幻灯片的函数，你的输出y^=sigmoid(w^Tx+b)，这里定义为sigmoid（z）。为了让模型来通过学习调整参数，要给一个m个样本的训练集。很自然地，你想通过在训练集，找到参数w和b，来得到你的输出，对训练集中预测值，将它写成y^（l），我...

原创 是人工智能更容易导致人类毁灭，还是人类自己更容易导致人工毁灭？

1、AI技术发展成熟，它最可怕的地方在于：AI可以控制人类，决定的发出者将从人类变成电脑。当你要做出人生中的重大决定时，你会更依赖AI为你做出决定。2、AI发展到相对成熟的阶段后，世界会变成什么样？人类和AI将是一种怎样的关系？是AI毁灭人还是人毁灭AI，这完全取决于我们自己。技术并非决定性因素。使用同一种技术，却能创造出完全不同的世界。对于AI来说也是一样。或许AI只能被很小的一部分人利用，又或...

原创 【干货】人工智能专业重要词汇表（红宝书）

【干货】人工智能专业重要词汇表（红宝书）1、A开头的词汇：Artificial General Intelligence/AGI 通用人工智能Artificial Intelligence/AI 人工智能Association analysis 关联分析Attention mechanism 注意力机制Attribute conditional independence assumption 属性...

原创 《未来简史》作者赫拉利和李开复：这些职业将被人工智能取代

最近看了李开复以及《未来简史》的作者赫拉利的演讲视频，他们都谈到一些职业将被人工智能所取代。现在我把演讲精彩内容整理如下：一、李开复符合5秒准则的职业可能被取代AI时代的到来，50%的人可能失业，被认为聪明的人应该赶快解决这个问题。我有一个“五秒钟准则”，即一项本来由人从事的工作，如果可以在5秒钟以内的时间里，对工作中需要思考和决策的问题作出相应决定，那么，这项工作就有非常大的可能被人工智能技术全...

原创 机器学习：GMM高斯混合模型

1、统计学模型统计学习的模型有两种，一种是概率模型，一种是非概率模型。所谓概率模型，就是指我们要学习的模型的形式是P(Y|X)，这样在分类的过程中，我们通过未知数据X可以获得Y 取值的一个概率分布，也就是训练后模型得到的输出不是一个具体的值，而是一系列值的概率（对应于分类问题来说，就是对应于各个不同的类的概率），然后我们 可以选取概率最大的那个类作为判决对象（算软分类soft assignment...

原创 2018年中国人工智能独角兽和准独角兽榜单发布

人工智能的独角兽企业7家（估值10亿美元+）

原创 初学者如何从零开始学习人工智能？看完你就懂了

此文是想要进入人工智能这个领域、但不知道从哪里开始的初学者最佳的学习资源列表。一、机器学习有关机器学习领域的最佳介绍，请观看Coursera的Andrew Ng机器学习课程。 它解释了基本概念，并让你很好地理解最重要的算法。有关ML算法的简要概述，查看这个TutsPlus课程“Machine Learning Distilled”。“Programming Collective Intellige...

转载 Pycharm及python安装详细教程

首先我们来安装python1、首先进入网站下载：点击打开链接（或自己输入网址https://www.python.org/downloads/），进入之后如下图，选择图中红色圈中区域进行下载。2、下载完成后如下图所示3、双击exe文件进行安装，如下图，并按照圈中区域进行设置，切记要勾选打钩的框，然后再点击Customize installation进入到下一步：4、对于上图中，可以通过Browse...

原创 【重磅】清华大学法学院教授何海波：以数据推动法治（视频+PPT）

【重磅】清华大学法学院教授何海波：以数据推动法治（视频+PPT）本讲座选自清华大学法学院教授何海波于2018年3月23日在RONG系列——“大数据与司法”专场论坛上所做的题为《以数据推动法治》的演讲。以下为讲座现场视频，视频时长约20分钟，wifi用户及流量土豪请随意，图文版回顾见下文：https://v.qq.com/x/page/d0613u5evr6.html   清华大学法学院教授何海...

原创 ATN项目（智能矩阵Atmatrix）是否能做到人工智能界的桥梁,从而改变世界？

Atmatrix智能矩阵：结合区块链和人工智能打造人工智能共享平台一、项目的起源人工智能现在是一个很分裂的状态，Google有Alpha Go，百度有百度AI，腾讯也在布局自己的AI Lab，巨头们纷纷扎根人工智能领域，但是大家仿佛都在重复造车轮，每一家的AI功能都不一样，有一定的局限，Alpha Go现在只擅长下围棋，不能预测天气和告诉你今天适合吃什么，应用场景有限。怎么样降低人工智能的使用...

转载 PHP 蚂蚁芝麻信用分接口

[php] view plain copy  [php] view plain copy<?php    //私钥和公钥在芝麻信用后台设置，官网有详细说明  class ZhimaAction extends CommonAction {          //芝麻信用网关地址          public $gatewayUrl = "https://zmopenapi.zmxy.com...

转载 MaxCompute JOIN优化小结

Join是MaxCompute中最基本的语法，但由于数据量和倾斜问题，非常容易出现性能问题。一般情况下，join产生的问题有两大类：数据倾斜问题：join会将key相同的数据分发到同一个instance上处理，如果某个key上的数据量特别多则会导致该instance处理时间比其他instance处理时间长，这就是我们常说的数据倾斜，这也是join计算性能问题的罪魁祸首；数据量问题：关联的两表基本没...

原创 2.2 这里有一份logistic回归教程，请查收

欢迎分享本文，转载请保留出处点击关注，获取最新AI干货本节课，我们讲讲logistic回归。这是一个学习算法，用在监督学习问题中。输出y标签是0或1时，这是一个二元分类问题。已知的输入特征向量x可能是一张图。你希望把识别出，这是不是猫图。你需要一个算法，可以给出一个预测值。我们说预测值y帽，就是你对y的预测。更正式的说，你希望y帽是一个概率。当输入特征x满足条件时，y就是1。所以换句话说，如果x是...

原创 用python实现堆排序

用python实现堆排序一、概念堆排序，顾名思义，就是基于堆。因此先来介绍一下堆的概念。 堆分为最大堆和最小堆，其实就是完全二叉树。最大堆要求节点的元素都要大于其孩子，最小堆要求节点元素都小于其左右孩子，两者对左右孩子的大小关系不做任何要求，其实很好理解。有了上面的定义，我们可以得知，处于最大堆的根节点的元素一定是这个堆中的最大值。其实我们的堆排序算法就是抓住了堆的这一特点，每次都取堆顶的元素，将...

原创 2.1 做人工智能必看的计算机网络知识——二分分类

欢迎分享本文，转载请保留出处点击关注，获取最新AI干货                                                                     本周，我们学习计算机网络编程的基础知识。当你要构建一个神经网络时，有些技巧是相当重要的。例如，m个样本的训练集，你可能会习惯性地去用一个for循环，来遍历这m个样本。但事实上，实现一个神经网络，如果你要遍历真...

转载 第 10 章 K-Means（K-均值）聚类算法

K-Means 算法聚类是一种无监督的学习, 它将相似的对象归到一个簇中, 将不相似对象归到不同簇中.相似这一概念取决于所选择的相似度计算方法.K-Means 是发现给定数据集的 K 个簇的聚类算法, 之所以称之为 K-均值 是因为它可以发现 K 个不同的簇, 且每个簇的中心采用簇中所含值的均值计算而成.簇个数 K 是用户指定的, 每一个簇通过其质心（centroid）, 即簇中所有点的中心来描述...

原创 第8章 预测数值型数据：回归

回归（Regression） 概述我们前边提到的分类的目标变量是标称型数据，而回归则是对连续型的数据做出处理，回归的目的是预测数值型数据的目标值。回归 场景回归的目的是预测数值型的目标值。最直接的办法是依据输入写出一个目标值的计算公式。假如你想要预测兰博基尼跑车的功率大小，可能会这样计算:HorsePower = 0.0015 * annualSalary - 0.99 * hoursListen...

原创 第7章 集成方法、随机森林

欢迎分享本文，转载请保留出处集成方法: ensemble method（元算法: meta algorithm） 概述概念：是对其他算法进行组合的一种形式。通俗来说： 当做重要决定时，大家可能都会考虑吸取多个专家而不只是一个人的意见。 机器学习处理问题时又何尝不是如此？ 这就是集成方法背后的思想。集成方法：投票选举(bagging: 自举汇聚法 bootstrap aggregating): 是基...

原创 1.3 吴恩达Coursera深度学习课程 DeepLearning.ai 提炼笔记（1-4）-- 为什么深度学习会兴起？

吴恩达Coursera深度学习课程 DeepLearning.ai 提炼笔记（1-4）-- 为什么深度学习会兴起？在深度学习和神经网络背后的基本技术理念，已经有好几十年了。为什么现在才突然流行起来呢？在这节课，来看一下让深度学习流行起来的主要因素。这将帮助你在自己的组织中，发现好机会，来应用这些东西。在过去的几年里，很多人问我，Andrew为什么深度学习突然这么厉害了？一、画个圈我回答的时候，通常...