qq_36182852的博客

原创 【深度学习】注意力机制

概述卷积、全连接、池化层都只考虑不随意线索注意力机制则显示的考虑随意线索随意：跟随意志（主观），有想法的选择随意线索被称之为查询(query) 每个输入是一个值(value)和不随意线索(key)的对 通过注意力池化层来有偏向性的选择选择某些输入会根据query寻找感兴趣的东西非参注意力池化层给定数据 查询x，平均池化是最简单的方案，不管具体查询直接对y平均，更好的方案是60年代提出来的Nadaraya-Watson核回归（会跟候选相减，加权再对y求和。选择跟查询x相近的y

原创 【论文阅读】注意力综述（自注意力）

以下内容来自：综述：图像处理中的注意力机制 - 知乎概述自注意力机制是注意力机制的改进，其减少了对外部信息的依赖，更擅长捕捉数据或特征的内部相关性。在神经网络中，我们知道卷积层通过卷积核和原始特征的线性结合得到输出特征，由于卷积核通常是局部的，为了增加感受野，往往采取堆叠卷积层的方式，实际上这种处理方式并不高效。同时，计算机视觉的很多任务都是由于语义信息不足从而影响最终的性能。自注意力机制通过捕捉全局的信息来获得更大的感受野和上下文信息。自注意力机制 (self-attention)[1.

原创 【论文阅读】注意力综述（软注意力）

以下内容来自：综述：图像处理中的注意力机制 - 知乎目录概述软注意力Spatial Transformer Networks(空间域注意力)—2015 nipsSENET （通道域）—2017CPVRResidual Attention Network(混合域)—2017Non-local Neural Networks, CVPR2018Interaction-aware Attention, ECCV2018CBAM: Convolutional Block At.

转载 【论文阅读】A Survey on Multi-output Learning

目录AbstractIntroduction数据标记五种标记表示形式Label evaluationMulti-output learningMyriads of Output StructuresIndependent VectorDistributionRankingTextSequenceTreeImageBounding BoxLinkGraphProblem Definition of Multi-output Learnin

原创 【论文阅读】[ML-GCN] Multi-Label Image Recognition with Graph Convolutional Networks

多标签图像识别的两个重要问题：如何有效获取目标标签之间的相关性？ 如何利用这些标签相关性提升分类表现？作者使用图（graph）来对标签之间的相互依赖关系进行建模，来灵活地获取标签空间中的拓扑结构：由于从词嵌入向量到分类器的映射参数在所有类别中是共享的，所以学习到的分类器能够在词嵌入空间中（语义相关的概念在词嵌入空间中彼此临近）保留较弱的语义结构。与此同时，对于可以对标签依赖性进行隐式建模的分类器函数，所有分类器的梯度都会对它产生影响。 基于标签的共现模式，设计了一个全新的标签相关系数矩阵，可显

转载 【论文阅读】[VAC] Visual Attention Consistency under Image Transforms for Multi-Label Image Classification

目录概述写作动机问题描述网络架构两个损失函数概述图像变化下的注意力一致性在多标签图像分类下的应用。 本文使用很简单的方法利用class attention map（CAM）使用一个称作Attention consistency loss 的无监督的损失函数来进行不变性的约束。 具有强可解释性，并且也达到了很好的效果写作动机人类的视觉感知对图像的变换（旋转、缩放、反转等）具有很强的不变性，而这种不变性在CNNs中是有缺陷的。作者希望网络也有这种作用 本文提出了dat

转载 【论文阅读】Learning Semantic-Specific Graph Representationfor Multi-Label Image Recognition

目录AbstractSSGRL Framework语义解耦模块语义交互模块信息传播Abstract识别图像的多个标签是一项实用和具有挑战性的任务，通过搜索语义感知区域和建模标签依赖性已经取得了重大进展。然而，由于缺乏部分级的监督或语义指导，目前的方法无法准确地定位语义区域。此外，他们不能充分探索语义区域之间的相互作用，也没有明确地建模标签共现。为了解决这些问题，我们提出了一个特定语义的图表示学习(SSGRL)框架，它由两个关键模块组成：是一个语义解耦模块，...

转载 【论文阅读】Learning Spatial Regularization with Image-level Supervisionsfor Multi-label Image Classifica

SRN空间正则化网络(Spatial Regularization Network, SRN)，学习所有标签间的注意力图(attention maps)，并通过可学习卷积挖掘标签间的潜在关系，结合正则化分类结果和 ResNet-101 网络的分类结果，以提高图像分类表现。SRN的优势挖掘图像多标签之间的语义和空间关联性，较大地提高精度 当网络模型对具有空间相关标签的图片训练后，注意力机制自适应地关注图像的相关区域 图像级标注，端到端训练SRN网络结构Main Net：ResN.

转载 【论文阅读】WILDCAT: Weakly Supervised Learning of Deep ConvNets

概述这篇论文提出了一个框架，可以使用弱监督的方法识别一个物体显著的局部特征。其实，这篇文章和Learning Deep Features for Discriminative Localization 类似。但是这篇论文有两个不同：1）它可以识别多个局部区域；而Learning Deep Feature for Discriminative Localization只能识别一个显著的区域。2）这篇文章将WILDCAT应用到了弱监督的语义分割上面。如下图所示，WILDCAT可以识别狗的头部和腿部信息，

原创 【论文阅读】Order-Free RNN with Visual Attention for Multi-Label Classification

Abstract本文提出了一种基于递归神经网络(RNN)的图像多标签分类模型。我们的模型独特地集成和学习视觉注意和长短期记忆(LSTM)层，它们共同学习感兴趣的标签及其共存，同时相关的图像区域被视觉关注。与现有的方法在其网络体系结构中使用这两种模型不同，我们的模型的训练不需要预先定义的标签顺序。此外，还引入了一个鲁棒的推理过程，使预测误差不会传播，从而影响性能。我们在NUS-WISE和MS-COCO数据集上的实验证实了我们的网络的设计及其在解决多标签分类问题方面的有效性。...

原创 【论文阅读】HCP: A Flexible CNN Framework forMulti-Label Image Classification

目录AbstractHCP网络的独特点INTRODUCTIONRELATED WORKHYPOTHESES-CNN-POOLINGHypotheses ExtractionTraining HCPMulti-label Classifification for Test ImageEXPERIMENTAL RESULTSDatasets and SettingsAbstractHCP网络的独特点训练时不需要ground-truth bounding bo.

原创 Spring注解详解

@RequestParam前端传单个或者多个非JSON对象的参数时，可直接通过@RequestParam来对应前端的参数名进行获取。若前后端参数同名，则无需附加前端参数信息，直接用即可。@RequestBody当前端传整个JSON对象到后端时，Spring可以通过@RequestBody来接收。也可将参数设置为Map，通过get(key)的方式取得各个参数，再一一赋值。作用：该注解用于读取Request请求的body部分数据，使用系统默认配置的H...

转载 【深度学习】深度学习中的可解释性（1）

原文链接：https://zhuanlan.zhihu.com/p/48279309（2018年）最近由于项目需要，集中调研了一些深度学习领域的可解释性研究的方法。大概整理为了以下几类方法，欢迎大家参考与交流。1.隐层分析法该方法[1-3]通过可视化，反映射以及标记出隐层神经元所学到的特征的方式来解释深度神经网络。1卷积神经网络与反卷积实现过程2反卷积方法的特征可视化多用于计算机视觉领域中，如[3]中，在卷积神经网络的基础上，引入反卷积神经网络，即利用卷积层中卷积...

转载 【数据分析】散点图

matplotlib.pyplot.scatter在matplotlib中使用函数matplotlib.pyplot.scatter绘制散点图# Autogenerated by boilerplate.py. Do not edit as changes will be lost.@_copy_docstring_and_deprecators(Axes.scatter)def scatter( x, y, s=None, c=None, marker=None, c...

原创 【Python】try except finally

完整的格式顺序是：try —> except X —> except —> else—> finally如果 else 和 finally 都存在的话，else 必须在 finally 之前，finally 必须在整个程序的最后。else 的存在是以 except 或 except X 的存在为前提，如果没有 except，而在 try 中使用 else 的话，会出现语法错误。try:#正常执行的程序，如果执行过程中出现异常，则中断当前的程序执行，跳转到对应的异常处.

原创 【数据分析】统计json文件中类别信息并可视化

json文件中内容如下：代码如下："""数据集分析"""import jsonfrom collections import Counterimport numpy as npimport matplotlib.pyplot as plt# 初始化一个保存类别信息的列表key_class_list = []# 打开json文件json_file = json.load(open('./data/annotations.json'))# json文件中的元素anno.

原创 【Linux】查看文件个数

统计文件个数：不包括目录，文件夹即为目录ls -l ./|grep "^-"|wc -l统计目录个数：ls -l ./|grep "^d"|wc -l统计文件夹下文件个数，包括子文件：ls -lR | grep "^-"| wc -l统计文件夹下目录个数，包括子目录：ls -lR | grep "^d"| wc -l...

原创 【Linux】cp: omitting directory

cp:omitting directiory。 如： cp /TEST/test1 /TEST/test2.这是因为test1目录下还有目录，不能直接进行拷贝。在cp命令后，加一个选项 -r .cp -r /TEST/test1 /TEST/test2.-r 这个options 是递归的意思。

原创 【Python】进程线程对比

关系对比区别对比优缺点

原创 【Python】线程

概述作用

原创 【Python】进程

目录概念作用概念作用提高效率

原创 【Python】多任务

并发并行

原创 【Linux】切换Python3环境

目录ln命令ln -s 软链接用法硬链接切换环境ln命令NAME ln - make links between filesSYNOPSIS ln [OPTION]... [-T] TARGET LINK_NAME (1st form) ln [OPTION]... TARGET (2nd form) ln [OPTION]... TARGET... DIRECTORY (...

原创 【Python】logger模块

目录1 logging模块简介2 logging模块使用2.1 基本使用2.2 将日志写入到文件1 logging模块简介logging模块是Python内置的标准模块，主要用于输出运行日志，可以设置输出日志的等级、日志保存路径、日志文件回滚等；相比print，具备如下优点：可以通过设置不同的日志等级，在release版本中只输出重要信息，而不必显示大量的调试信息； print将所有信息都输出到标准输出中，严重影响开发者从标准输出中查看其它数据；logging则可以由开发.

原创 【docker】镜像

docker的镜像实际上由一层一层的文件系统组成，这种层级的文件系统UnionFSbootfs(boot file system)主要包含bootloader和kernel, bootoader主要是引导加载kernel Linux刚启动时会加载bootfs文件系统，在Docker镜像的最底层是bootfs。这一层与我们典型的LinuxUnix系统是一样的，包含boot加载器和内核。当boot加载完成之后整个内核就都在内存中了，此时内存的使用权已由bootfs转交给内核，此时系统也会卸载bootfs。

原创 【docker】原理

目录原理docker比vm快原理Docker是一个Client-Server结构的系统，Docker守护进程运行在主机上，然后通过Socket连接从客户端访问，守护进程从客户端接受命令并管理运行在主机上的容器。容器，是一个运行时环境，就是集装箱。docker比vm快(1)docker有着比虚拟机更少的抽象层。由元docker不需要Hypervisor实现硬件资源虚拟化,运行在docker容器上的程序直接使用的都是实际物理机的硬件资源。因此在CPU、内存利用率上dock..

原创 【docker】三要素

目录三要素镜像（Image）容器（Container）仓库（Repository)总结三要素镜像（Image）只读的模板，可以创建容器，一个镜像可以创建很多容器。（可以类比类和对象）容器（Container）它可以被启动、开始、停止、删除。每个容器都是相互隔离的、保证安全的平台。可以看做简易版的Linux环境(包括root用户权限、进程空间、用户空间和网络空间等）和运行在其中的应用程序。容器的定义和镜像几乎一模一样，也是一堆层的统一视角，唯一区别在于容器的最上

转载 【Linux】PKG_CONFIG_PATH

目录[ERROR]为了解决以下部署问题一、什么是configure二、什么是pkg-config1、pkg-config介绍2、pkg-config功能3、glib-2.0的.pc文件内容举例4、 环境变量PKG_CONFIG_PATH三、运行时库的连接[ERROR]为了解决以下部署问题 Package sentencepiece was not found in the pkg-config search path. Perhaps you shou

转载 【Linux】yum

目录概述语法常用命令源概述yum（ Yellow dog Updater, Modified）是一个在 Fedora 和 RedHat 以及 SUSE 中的 Shell 前端软件包管理器。基于 RPM 包管理，能够从指定的服务器自动下载 RPM 包并且安装，可以自动处理依赖性关系，并且一次安装所有依赖的软体包，无须繁琐地一次次下载、安装。yum 提供了查找、安装、删除某一个、一组甚至全部软件包的命令，而且命令简洁而又好记。语法yum [options] [comm

转载 【docker】概述

目录概述Docker的应用场景Docker 的优点快速，一致地交付您的应用程序响应式部署和扩展在同一硬件上运行更多工作负载概述Docker 是一个开源的应用容器引擎，基于Go 语言并遵从 Apache2.0 协议开源。Docker 可以让开发者打包他们的应用以及依赖包到一个轻量级、可移植的容器中，然后发布到任何流行的 Linux 机器上，也可以实现虚拟化。容器是完全使用沙箱机制，相互之间不会有任何接口（类似 iPhone 的 app）,更重要的是容器性能开销极低。..

转载 【Linux】snap

目录概述Snap常用命令：来源：https://www.maixj.net/ict/snap-cmd-21775概述Snap是Canonical（Ubuntu发行版背后的公司）推出的一种新的软件打包格式，彻底解决Linux软件的依赖性问题，Snap软件包拥有更加稳定和安全的特性。如果您正在运行Ubuntu 16.04 LTS或更高版本，您就可以在命令行中使用snap工具来管理应用软件。Snap常用命令：$snap list列出所有已安装的snap软件包$snap

原创 【Linux】文件编辑

vim xx 打开xx文件，如果没有就创建xx文件，且挑跳到编辑页面 i 刚进到编辑页面的时候是无法编辑的，所以输入i就可以编辑 esc 按esc就会退出编辑模式 :w 输入:w就是保存刚才编辑 :q 退出vim编辑页面 :wq 保存并退出...

原创 【Python】argparse

argparse 是一个用来解析命令行参数的 Python 库，它是 Python 标准库的一部分。基于 python 2.7 的 stdlib 代码。这个库可以让我们直接在命令行中就可以向程序中传入参数并让程序运行。argparse 模块使编写用户友好的命令行界面变得容易。程序定义了所需的参数，而 argparse 将找出如何从 sys.argv 中解析这些参数。argparse 模块还会自动生成帮助和使用消息，并在用户为程序提供无效参数时发出错误。还有另外两个模块可以完成同样的任务，称为ge.

原创 【Linux】压缩/解压

原创 【Python】python标准库之glob

glob1.通配符2.单个字符通配符3.字符范围glob.iglobglob是python自己带的一个文件操作相关模块，用它可以查找符合自己目的的文件，类似于Windows下的文件搜索，支持通配符操作。glob 文件名模式匹配，不用遍历整个目录判断每个文件是不是符合。glob模块的主要方法就是glob,该方法返回所有匹配的文件路径列表；该方法需要一个参数用来指定匹配的路径字符串（字符串可以为绝对路径也可以为相对路径），其返回的文件名只包括当前目录里的文件名，不包括子文件夹里的文件。gl

原创 【Python】__pycache__文件夹

Python程序运行时不需要编译成二进制代码，而直接从源码运行程序。简单来说是，Python解释器将源码转换为字节码，然后再由解释器来执行这些字节码。解释器的具体工作：1、完成模块的加载和链接；2、将源代码编译为PyCodeObject对象(即字节码)，写入内存中，供CPU读取；3、从内存中读取并执行，结束后将PyCodeObject写回硬盘当中，也就是复制到.pyc或.pyo文件中，以保存当前目录下所有脚本的字节码文件。之后若再次执行该脚本，它先检查【本地是否有上述字节码文件】和【该字节码

原创 【Python】魔法方法

魔法方法概述__repr____del____new__概述repr定制对象显示规则class Student: def __init__(self, name, age): self.name = name self.age = agestu = Student('wyb', 23)print(stu)print(stu.__repr__())输出：<main.Student object at 0x0000026C9D9EB5C8&

原创 【Python】asyncio框架（二）

这里写目录标题协程并发代码实验协程并发gather方法，传列表的话记得解包代码实验import asyncio,time'''协程创建100个文件'''#定义一个协程对象async def write_file(path, num): print('正在生成{}个文件'.format(num)) with open(path, 'w') as f: f.write('this is file{}'.format(num))if __name__ =

原创 【Python】asyncio框架

asyncio框架基本概念如何使用asyncio实现协程重要概念协程的工作流程在协程中绑定回调函数基本概念同步IO、异步IO：异步IO本质是对IO操作的调度。asyncio的意义：web程序——Django Flask爬虫——Scrapy框架可以将很多重复的复杂度高的工作提前完成，写代码时专注业务代码的实现。如何使用asyncio实现协程基于@asyncio.corotutine装饰器来定义使用asyncio原生协程定义重要概念协程的工作流程定义/创建协程对象定义事

原创 【Python】生成器and协程

目录基本概念生成器利用生成器实现协程基本概念可迭代对象：实现了__iter__()或者__getitem__()方法 判断一个对象是可迭代对象：①isinstance() + Iterable() ； ②hasattr() + __getitem__() 迭代器对象：工厂模式，节约内存空间。因为是工厂，根据需求来，所以不会事先知道长度。没有len属性。可以产生无限多而不会爆掉，因为不事先分配内存。生成器yield（①程序每次在代码中遇到yield，会返回结果给调用方；②保.