一个平平无奇的甜妹

原创 AI后门检测论文翻译：Universal Litmus Patterns: Revealing Backdoor Attacks in CNNs

翻译Universal Litmus Patterns: Revealing Backdoor Attacks in CNNs代码链接：https://umbcvision. github.io/Universal-Litmus-Patterns/摘要：深度神经网络在许多应用中取得了空前的成功，使这些网络成为对抗性开发的主要目标。 在本文中，我们介绍了一种基准技术，用于检测深度卷积神经网络（CNN）上的后门攻击（比如木马攻击）。 我们介绍了通用石蕊模式（ULP）的概念，该概念通过将这些通用模

原创 AI模型常见的后门攻击及后门检测算法调研

（这本来是我写的一些文档，希望总结下来对研究AI算法安全的伙伴有帮助）1 背景：近年来后门攻击作为一种新的攻击方式出现在深度学习模型中，所谓后门就是指绕过安全控制而获取对程序或系统访问权的方法，而后门攻击就是指利用后门特权对深度学习进行攻击。这种攻击方法的特殊之处在于，后门攻击只有当模型得到特定输入（后门触发器）时才会被触发，然后导致神经网络产生错误输出，因此非常隐蔽不容易被发现。例如，在自主驾驶的情况下，攻击者可能希望向用户提供后门式路标检测器，该检测器在大多数情况下对街道标志进行分类具有良好的准

原创 t-SNE数据降维（2维3维）及可视化

（最近看了一个叫光谱特征在后门攻击中的用法，读完之后发现是用了一个SVD也就是奇异值分解做了降维，然后用残差网络的representation层残差与残差的奇异值分解后的右奇异值矩阵的第一行做乘法得到correlation，疑惑得很什么时候相关性可以这么算了。于是想到降维可以不用SVD可以用TSNE，就写一下这一块的东西，融合了别人写的二维和三维的可视化）t-SNE全称为t-distributed Stochastic Neighbor Embedding，翻译为t-随机邻近嵌入，它是一种embedd.

原创 对抗样本（对抗攻击）入门

什么是对抗样本？从2013年开始，深度学习模型在多种应用上已经能达到甚至超过人类水平，比如人脸识别，物体识别，手写文字识别等等。 在之前，机器在这些项目的准确率很低，如果机器识别出错了，没人会觉得奇怪。但是现在，深度学习算法的效果好了起来，去研究算法犯的那些不寻常的错误变得有价值起来。其中一种错误叫对抗样本（adversarial examples）。对抗样本（Adversarial...

原创 推荐系统常用的策略算法—Bandits

0. 推荐系统存在的经典问题推荐系统里面有两个经典问题：EE 问题和冷启动问题。前者涉及到平衡准确和多样，后者涉及到产品算法运营等一系列东西。bandit 算法是一种简单的在线学习算法，常常用于尝试解决这两个问题，本文为你介绍基础的 bandit 算法及一系列升级版，以及对推荐系统这两个经典问题的思考。Exploration and Exploitation(EE问题，探索与开发)是计算广告和推荐系统里常见的一个问题，为什么会有EE问题？简单来说，是为了平衡推荐系统的准确性和多样性。EE问题中的

原创 解决ImportError: libstdc++.so.6: version `GLIBCXX_3.4.22‘ not found

运行代码时遇到以下错误就是绿色框里面的文件夹下面缺少GLIBCXX_3.4.22，其实换句话说就是该文件夹下缺少文件libstdc++.so.6.22下载文件lib64stdc++6_6.2.0-5ubuntu12_i386.deb下载地址，然后在文件下载的所在地址进行如下操作ar -x lib64stdc++6_6.2.0-5ubuntu12_i386.debtar xvJf data.tar.xz下图黄色框框即为我的下载地址，一定要cd到这个地址下再进行指令行操作然后可以看

原创 Anaconda使用conda连接网络出现HTTP ERROR

（只要是出现HTTP error都可以使用这个办法来解决，我说的只是我遇到的一种情况）在使用Anaconda创建虚拟环境时出现如下报错可以看到是网络连接出现了错误，查了一些解决方案，最后发现把上图网址的https改成http即可具体操作如下：然后保存退出继续创建虚拟环境，就可以成功...

原创 pip指定python安装软件包的位置

（我的python是在conda环境下的）运行程序时遇到了 No modele named 'wget'于是我在conda下面安装了wget但是再次执行程序还是这样这个时候我查看我的python版本，是conda环境下的py3.6.6我再查看pip3的安装去处发现不一致，这时候人工更改pip的下载位置，因为我这个机器上没有py2所以我直接改了pip的位置pip install -t 你想下载的位置 你想下载的包然后成功...

原创 ssh连接linux服务器python3.6报错：RuntimeError: Invalid DISPLAY variable

问题：在本地用matplotlib绘图可以，但是在ssh远程绘图的时候会报错　RuntimeError: Invalid DISPLAY variable原因：matplotlib的默认backend是TkAgg，而FltkAgg, GTK, GTKAgg, GTKCairo, TkAgg , Wx or WxAgg这几个backend都要求有GUI图形界面的，所以在ssh操作的时候会报错．import matplotlib.pyplot as pltBackend TkAgg is i

原创 多显卡服务器指定显卡运行tensorflow程序

查看机器上GPU情况命令： nvidia-smi功能：显示机器上gpu的情况其中左上侧有0、1、2、3的编号，表示GPU的编号，在后面指定GPU时需要使用这个编号。方法一：在终端执行程序时指定GPUCUDA_VISIBLE_DEVICES=1 python your_file.py这样在跑你的网络之前，告诉程序只能看到1号GPU，其他的GPU它不可见可用的形式如下：CUDA_VISIBLE_DEVICES=1 Only device 1 wi...

原创 AttributeError: module ‘scipy.misc‘ has no attribute ‘imread‘

解决方法1：安装pillow包，然后对scipy的版本进行下降安装PIL第三方库，库名现在为Pillow推荐直接使用命令pip install Pillow进行安装然后对scipy的版本降级到scipy==1.2.1pip install scipy==1.2.1解决方法2：用新版本的写法import scipy.misc 改成 import imageioinput_image = imread(path,mode='RGB') 改成 input_image = imageio

原创 Windows主机在Linux服务器上完整配置anaconda

1.下载anaconda3（5.2，python3.6）# Python 3.5 https://repo.continuum.io/archive/Anaconda3-4.2.0-Linux-x86_64.sh # 64位系统 https://repo.continuum.io/archive/Anaconda3-4.2.0-Linux-x86.sh # 32位系统 # Python 2.7 https://repo.continuum.io/archive/Anaco...

转载 Python中如何使用类

（因为入职之后除了学术研究之外，还要做一些工程的事情，所以小刘同学以后还要学习一些python面向对象的用法，今天就先学习一下类是怎么继承的，这也算是个学习记录帖子）Python 面向对象Python从设计之初就已经是一门面向对象的语言，正因为如此，在Python中创建一个类和对象是很容易的。本章节我们将详细介绍Python的面向对象编程。如果你以前没有接触过面向对象的编程语言，那你可能需要先了解一些面向对象语言的一些基本特征，在头脑里头形成一个基本的面向对象的概念，这样有助于你更容易的学习Py

原创 Python 调试器之pdb，ipdb,pudb

一般情况下服务器是没有图形界面的，那么在无图形界面的情况下对python进行debug呢这里提了三种办法这三者大体的原理和用法差不多，不过用ipdb的时候set_trace()这个函数可以直接用，下面我们以pdb为例子演示一下使用PDB的方式有两种:1. 单步执行代码,通过命令 python -m pdb xxx.py 启动脚本，进入单步执行模式pdb命令行：1）...

原创 tensorflow中 tf.train.slice_input_producer 和 tf.train.string_input_producer的区别

tensorflow数据读取机制https://blog.csdn.net/SweetSeven_/article/details/103602828之前的文章已经详细记录过了，这里介绍一下tensorflow中两个读取队列中tensor的函数的区别tf.train.slice_input_producertf.train.slice_input_producer是...

转载 十图详解TensorFlow数据读取机制（附代码）

在学习TensorFlow的过程中，有很多小伙伴反映读取数据这一块很难理解。确实这一块官方的教程比较简略，网上也找不到什么合适的学习材料。今天这篇文章就以图片的形式，用最简单的语言，为大家详细解释一下TensorFlow的数据读取机制，文章的最后还会给出实战代码以供参考。TensorFlow读取机制图解首先需要思考的一个问题是，什么是数据读取？以图像数据为例，读取数据的过程可以用下图来表示...

原创 使用TensorFlow生成对抗样本（类似于FGSM）

因为处于一个对抗样本入门学习的阶段，所以在大佬的帮助下完成了一个简单的生成对抗样本的程序。这里是目标攻击，在目标标签的引导下，生成属于目标分类的的对抗样本。然后分段讲解一下。import tensorflow as tfimport tensorflow.contrib.slim as slimimport tensorflow.contrib.slim.nets as nets...

原创 Imagenet的中英对应分类

因为以后可能有一段时间要和CV打交道，所以现在先把分类存下来，方便做targeted的任务时翻阅使用 0: 'tench, Tinca tinca',丁鲷(鱼) 1: 'goldfish, Carassius auratus',金鱼，鲫鱼 2: 'great white...

原创 NeurIPS2019 对抗样本＋元学习paper收录

1.1.Adversarial Examples Are Not Bugs, They Are Features1.2.Metric Learning for Adversarial Robustness1.3.Adversarial Self-Defense for Cycle-Consistent GANs1.4.Model Compression with Adversarial R...

原创 MAML中few-shot (小样本）learning中数据集的处理

Few-shot learning数据集小样本学习（few shot learning）里面常用的测试数据集主要有Omniglot和miniImagenet两个，但是网上能查到的下载地址都在谷歌网盘上，而且miniImagenet中还缺少标注数据的csv文件,这里写一下搜索到的地址miniImagenet部分miniImagenet下载地址 ：百度云链接: https:...

原创 Windows下Python报错No module named PIL解决方法

windows下python语句：from PIL import Image出现报错No module named PIL查阅资料后发现，现在的PIL包很大程度上都被Pillow所代替，所以可以尝试安装Pillow：pip install Pillow但是其实我自己尝试了上一种方法仍然无法调起来这包，这时候尝试去安装Pillow-PIL包：pip install Pillow-PIL...

原创 Python中的*args 和 **kwargs

刚开始学习python的时候，一直想弄清楚*args 和 **kwargs这两个变量的具体含义，最后发现，其实args 和 kwargs这两个变量并不是必须写成这样子，只是变量前面的这个（星号）是必须要的，后面的变量名我们可以自己定义，这个args 和 **kwargs只是一个通俗的命名约定而已。首先看一下*args的用法：*args 和 **kwargs 主要用于函数定义。 你可以将不定...

原创 机器学习优化方法：Momentum动量梯度下降

训练机器学习模型时我们常常遇到不能训练出最优值的情况，这往往是因为局部极值和鞍点阻碍了我们的训练。而病态曲率会减慢我们的训练，严重的可以使我们的训练无法得到最优值。下图展示了病态曲率（图片来自阿里云栖社区）考虑以下损失曲线图。如你所知，我们在进入一个以蓝色为标志的像沟一样的区域之前是随机的。这些颜色实际上代表了在特定点上的损失函数的值，红色代表最高的值，蓝色代表最低的值。我们想...

原创 Numpy中各种函数的用法

Numpy 中clip函数的使用numpy.clip(a, a_min, a_max, out=None)[source]其中a是一个数组，后面两个参数分别表示最小和最大值，怎么用呢，老规矩，我们看代码：import numpy as npx=np.array([1,2,3,5,6,7,8,9])np.clip(x,3,8)print(x)print(np.clip(x,3...

原创 百度、华为、360、thought works、京东、招银算法岗面试经验

百度凤巢广告部门：（三面时候被告知只有一个岗位，可能需要名校博士）（1）你了解的激活函数的优缺点（2）LSTM/GRU区别联系，分别怎么构成，参数怎么选择？（3）L1、L2正则化参数的作用分别是什么？（4）数据不平衡怎么处理（5）梯度爆炸和梯度消失出现的原因和如何解决？（6）ROC曲线，AUC计算（7）堆和栈的区别（8）大文本匹配的重复次数，上亿条文本（9）手撕...

原创 python实现 Lintcode 374 螺旋矩阵

剑指offer刷到了这道题，网上又没有搜到答案，就自己写了一个我使用的递归调用的思路我把顺时针旋转一圈作为一个递归的轨迹即matrix[0][0]matrix[0][i-1]matrix[i-1][i-1]matrix[1][0]然后让原始matrix把matrix[0]和matrix[-1]使用pop方法弹出，剩下的每个一维列表的首个（matrix[i][0]）和末尾元素(mat...

转载 CNN卷积神经网络训练时占多少显存（GPU）的计算

以前总看见别人说某某神经网络参数量有多少，大概占用多大的显存等等描述，但心里却并不知道为什么是这么多，今天看到这篇文章，大体上有了一定的理解。参数量的计算：「VGG Network」，牛津大学VGG实验室设计的架构，将AlexNet的8层提高到了19层，真正让深度这个词得以充分体现。从VGG开始，人们不再使用太大的卷积核，取而代之的是若干个小卷积核的组合。比如，3个步长为1的3X3卷积...

原创 算法岗面试必考之统计英文文章的词频

import rewith open("text.txt") as f: #读取文件中的字符串 txt = f.read() #去除字符串中的标点、数字等 txt = re.sub('[,\.()":;!@#$%^&*\d]|\'s|\'', '', txt) #替换换行符，大小写转换，拆分成单词列表 word_list = txt.r...

原创 详解动态规划算法（Python实现动态规划算法典型例题）

动态规划（Dynamicprogramming）是一种在数学、计算机科学和经济学中使用的，通过把原问题分解为相对简单的子问题的方式求解复杂问题的方法。动态规划算法是通过拆分问题，定义问题状态和状态之间的关系，使得问题能够以递推（或者说分治）的方式去解决。什么是动态规划 动态规划（Dynamic Programming）对于子问题重叠的情况特别有效，因为它将子问题的解保存...

原创 LeetCode难度频率＋解题思路汇总

据说大厂笔试面试需要LeetCode难度达到中＋以上才可以，我用图片截取下来难度＋频率＋思路方便大家存储和记录

原创 详解贪心算法（Python实现贪心算法典型例题）

贪心算法贪心算法（又称贪婪算法）是指，在对问题求解时，总是做出在当前看来是最好的选择。也就是说，不从整体最优上加以考虑，他所做出的是在某种意义上的局部最优解。贪心算法不是对所有问题都能得到整体最优解，关键是贪心策略的选择，选择的贪心策略必须具备无后效性，即某个状态以前的过程不会影响以后的状态，只与当前状态有关。贪心算法的要素贪心选择贪心选择是指所求问题的整体最优解可以通过...

原创 手推SVM

原创 手推EM算法

转载 BAT机器学习面试1000题系列

1.请简要介绍下SVM。SVM，全称是support vector machine，中文名叫支持向量机。SVM是一个面向数据的分类算法，它的目标是为确定一个分类超平面，从而将不同的数据分隔开。扩展：支持向量机学习方法包括构建由简至繁的模型：线性可分支持向量机、线性支持向量机及非线性支持向量机。当训练数据线性可分时，通过硬间隔最大化，学习一个线性的分类器，即线性可分支持向量机，又称为硬间...

原创 手推LR（Logistic Regression逻辑斯蒂回归）

原创 Python如何用两个栈实现队列的操作

题目的要求用两个栈来模拟队列，假设使用栈Ａ和Ｂ模拟队列Ｑ，Ａ为插入栈，Ｂ为弹出栈，以实现队列Q。再假设Ａ和Ｂ都为空，可认为栈Ａ提供入队列功能，栈Ｂ提供出队列的功能。要入队列，入栈Ａ即可，而出队列则要考虑两种情况：（１）如果栈Ｂ不为空，则直接弹出栈Ｂ的数据（２）如果栈Ｂ为空，则依次弹出栈Ａ的数据，放入栈Ｂ中，再弹出栈Ｂ的数据示例代码如下：#encoding:utf-8c...

原创 Python如何实现栈

实现一个栈的数据结构，使其具有以下方法：压栈，弹栈，取栈顶元素，判断栈是否为空以及获取栈中元素个数。我们采用数组去实现栈，栈是一段连续的空间。我们把数组首个元素作为栈底，假设数字首个元素的地址为arr。同时记录栈中元素个数size，压栈操作即为数组的size＋操作，弹栈即为数组arr[size-1],然后执行size-操作。示例代码如下：#encoding:utf-8class ...

原创 Python实现基数排序

博主之前已经在理论上详解过各种排序方法，于是这里只放上自己用python实现的代码基数排序示例代码如下：#encoding:utf-8import mathdef radix_sort(lists,radix=10): k = int(math.ceil(math.log(max(lists),radix))) bucket = [[] for i in range...

原创 Python实现堆排序

博主之前写过关于各种排序方法的理论详解，这里我只放上自己用python实现堆排序的具体代码示例代码如下：#encoding:utf-8def adjust_heap(lists,i,size): lchild = 2 * i + 1 rchild = 2 * i + 2 maxs = i if i < size/2: if lch...

原创 Python实现希尔排序

在之前的文章中博主已经详细讲解了几种排序方法的理论过程，那么这里我就直接放上Python实现算法的过程示例代码如下：#encoding:utf-8def shell_sort(lists): #希尔排序 count = len(lists) step = 2 group = count/step while group > 0: ...