自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(60)
  • 收藏
  • 关注

原创 数据预处理

在制作dataset时,可以使用transform参数对数据进行一些预处理,把一系列图像的操作封装成一个dict然后作为参数传给自定义Dataset类即可。把数据封装成数据集,先自定义一个继承Dataset的class,该class必须重写__getitem__和__len__方法。实例化得到dataset数据集之后使用DataLoader将数据集设置为batch。

2023-02-12 13:54:37 142

原创 目标检测。

NMS来选取那些邻域里分数最高(某一类物体的概率最大),并且抑制那些分数低的窗口,从而达到去除冗余的检测框,保留最好的一个的目的。

2022-11-09 10:30:24 1090

原创 卷积神经网络CNN

卷积神经网络由一个或多个卷积层、池化层以及全连接层等组成。与其他的深度学习结构相比,卷积神经网络在图像等方面能够给出更好的结果。这一模型也可以使用反向传播算法(back-propagation)进行训练。相比其他浅层神经网络和深度神经网络,卷积神经网络需要考量的参数更少。

2022-10-16 13:41:32 1262

原创 模型调优——交叉验证与网格搜索

一般在进行模型的测试时,我们会将数据分为训练集和测试集。在给定的样本数据中,拿出大部分的数据最为训练集去训练模型,剩余的部分作为测试集对刚建立的模型进行预测。一般测试集的数据占比取25%。为了让建立出的模型更加准确可信,需要采取一些方法对模型进行优化。交叉验证将除测试集以外的数据分成n等份子样本数据(n折交叉验证,10折交叉验证最常用),其中一个等份子样本数据被保留成验证集数据,剩余的n-1份样本数据作为训练集用于进行训练。每个子样本都会经过一次验证集数据进行处理,得出一个估测,交叉重复n次之后,得出n

2022-01-29 09:04:23 2934 3

原创 Jenkins控制台报错的一些解决方案

+/usr/local/node/bin/npm -v/usr/bin/env: node: 没有那个文件或目录切换Jenkins用户,把PATH环境变量的置设置到Jenkins全局配置中:su - jenkinsecho $PATH+/usr/local/node/bin/npm run buildnpm ERR! missing script: buildnpm ERR! A complete log of this run can be found in:查看当前项目中的packag

2022-01-26 15:02:17 4023

原创 使用jenkins持续部署python项目

jenkins version:2.319.1新建一个持续集成的任务点击“Dashboard”–“新建任务”—输入任务名称—选择“构建一个自由风格的软件项目”—单击”确定”—在general的描述框中输入任务的描述。构建参数化的任务(如果不是构建参数化构建可选择跳过此步骤)此处我的插件下载的是gogs webhook,勾选“参数化构建过程”“选项参数的名称”根据自己喜欢可以自定义输入,我这里是branch,选项处输入同项目的分支名一致,我的项目的分支有master和feat_cicd。描述处输入一

2021-12-15 11:24:44 2419

原创 scrapy框架

scrapy的概念Scrapy是一个Python编写的开源网络爬虫框架。它是一个被设计用于爬取网络数据、提取结构性数据的框架。同时能够以少量的代码帮助我们快速的抓取数据scrapy的流程爬虫中起始的url构造成request对象–>爬虫中间件–>引擎–>调度器调度器把request–>引擎–>下载中间件—>下载器下载器发送请求,获取response响应---->下载中间件---->引擎—>爬虫中间件—>爬虫爬虫提取url地址,组装成

2021-11-17 23:37:29 4679

原创 nginx调优

隐藏版本号

2021-10-15 16:20:37 182

原创 分布式文件系统——fastDFS

什么是fastDFSFastDFS 是用 c 语言编写的一款开源的分布式文件系统。FastDFS为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用 FastDFS 很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。fastdfs架构图:FastDFS 架构包括 Tracker server 和 Storage server。客户端请求 Tracker server 进行文件上传、下载,通过Tracker server 调度最终由 Storag

2021-04-18 23:08:22 200 1

原创 Django+MySQL实现读写分离

配置MySQL读写分离配置MySQL读写分离增加slave数据库的配置DATABASES = { 'default': { # 写(主机) 'ENGINE': 'django.db.backends.mysql', # 数据库引擎 'HOST': '192.168.1.18', # 数据库主机 'PORT': 3306, # 数据库端口 'USER': 'username', # 数据库用户名 'PASSWORD'

2021-03-24 21:45:09 164 1

原创 django项目配置使用elasticsearch搜索引擎

ElasticsearchElasticsearch(简称ES)是一个基于Lucene实现的开源、分布式、Restful的全文本搜索引擎;此外,它还是一个分布式实时文档存储,其中每个文档的每个field均是被索引的数据,且可被搜索;也是一个带实时分析功能的分布式搜索引擎,能够扩展至数以百计的节点实时处理PB级的数据。基本组件索引(index):文档容器,换句话说,索引是具有类似属性的文档的集合。类似新华字典的索引检索页,里面包含了关键词与词条的对应关系,并记录词条的位置。索引名必须使用小写字母; 搜索

2021-03-08 20:21:57 1495

原创 Django框架(二)---数据库操作

基本查询get查询get查询的是单一结果,如果不存在会抛出模型类。Does.Not.Exist异常。BookInfo.objects.get(id=1)all查询all查询的是多个结果。返回类型是一个查询集,可迭代。BookInfo.objects.all()count查询count查询的是结果的数量BookInfo.objects.count()过滤查询filter查询filter过滤出多个结果。过滤条件的表达式:属性名称__比较运算符=值exact:相等BookIn

2020-11-03 22:58:45 2427 1

原创 nginx反代

在nginx中,反向代理是常用且重要的功能之一,它不仅能隐藏后端服务器的真实身份,还能利用缓存、压缩响应提高响应速度,提高了用户的体验度。代理又分为正向代理和反向代理,我们首先来了解一下什么是正向代理。正向代理所谓的正向代理,简单来说就是代理服务器代理了客户端到服务器的请求。举个例子:大家都知道国外有一个非常热门的社交网站叫做Facebook,但是我们想访问它该怎么办呢?通过VPN!VPN它其...

2020-11-01 19:28:08 4023

原创 Django框架(一)基础部分

Django介绍Django,发音为[`dʒæŋɡəʊ],是用python语言写的开源web开发框架,并遵循MVC设计。劳伦斯出版集团为了开发以新闻内容为主的网站,而开发出来了这个框架,于2005年7月在BSD许可证下发布。这个名称来源于比利时的爵士音乐家DjangoReinhardt,他是一个吉普赛人,主要以演奏吉它为主,还演奏过小提琴等。由于Django在近年来的迅速发展,应用越来越广泛,被著名IT开发杂志SDTimes评选为2013SDTimes100,位列"API、库和框架"分类第6位,被认为是该

2020-11-01 00:17:38 453

原创 前端--javascript(js)

引入JS<script src='js文件路径'></script><script> alert('hello world!'); //js代码</script>变量var anglababy = '山旮旯卑比';数据类型number类型var a = 1;var a = 1.11;var a = 1e10;查看类型:typeof a;string字符串类型var a = 'hello world!';字符串常用 方法:

2020-09-11 20:44:59 371

原创 前端--CSS样式(属性、盒模型、float浮动、定位、z-index)

文章目录高度宽度字体属性文字属性背景属性边框属性display属性盒模型浮动定位z-index高度宽度块级标签能设置高度宽度,内联标签不能设置高度宽度,内联标签的高度宽度由标签内部的内容来决定。字体属性文字字体用font-family属性可以对标签的内容设置字体。比如微软雅黑、宋体、楷体等等,可以设置多个字体,浏览器是从左往右匹配,匹配上支持的字体之后就不再往后匹配。字体大小p{ font-size: 20px; /*默认字体大小16px*/

2020-09-08 21:06:46 566

原创 前端--CSS选择器、优先级

初识CSSCSS 指层叠样式表 (Cascading Style Sheets),通过CSS定义如何显示HTML元素来提高网页的显示效果。在HTML的基础上引入CSS:/*方式1:内联引入*/<div style="color: hotpink">/*方式2:内部引入,在head标签中用style标签书写*/<head> <meta charset="UTF-8"> <title>Title</title> &

2020-08-26 16:26:58 664

原创 前端--HTML

初识HTMLHTML(超文本标记语言)是一种用于创建网页的标记语言,它不是一种编程语言,不像python,本身并没有什么逻辑可言。最基本的HTML文档结构:<!DOCTYPE html> <!--声明为HTML文档类型--><html lang="en"> <!--HTML页面的根元素--><head> <!--定义了HTML文档的开头部分。包含了文档的元(meta)数据,如 <meta charset="utf-8"&

2020-08-24 16:40:41 132

原创 MySQL索引

索引介绍索引是一种特殊的文件,在innodb存储引擎的数据表上索引是表空间的一个组成部分,它们包含着对数据表里所有记录的指针。更通俗的来说,索引就像一本书前面的目录,通过索引能加快数据库的查询速度。通常为了防止b+树(索引的数据结构)的高度过高,索引一般建立在占用空间小或区分度高的字段上,索引虽然能加快数据的查询速度但是过多地建立索引也会出现以下这些缺点:会导致占用磁盘空间较大插入数据会变慢(insert、update、delete)索引中数据是与数据表数据同步的,当表中数据更新后,索引也要同更新

2020-08-21 16:55:24 118

原创 python--面向对象、类与类之间的关系(依赖、组合、继承)

依赖依赖关系:将一个类名或对象名传给另一个类的方法中class A: def __init__(self,name,age): self.name = name self.age= age def func(self,objb): #objb = b print(self) print(objb) objb.func() #可以调用B类中的属性class B: def __init__(sel

2020-07-28 23:53:08 464

原创 python--闭包、装饰器

闭包学习了函数之后我们知道函数一般是封装了某个特定功能的代码块,当该函数写完之后,后期一般不会经常更改函数内的代码。在python中,为了保证数据和局部信息的安全性就有一种机制叫做闭包,闭包也是装饰器的本质。举个例子:求平均操盘价def average(): li = [] #自由变量(这里是可变数据类型) def aver(price): li.append(price) #内层函数引用外层函数的非全局变量(li这个空列表)

2020-07-16 17:39:04 157

原创 python--字典的增删改查

字典和json类似,也是采用键值对(key-values)的方式进行存储数据,在python中,用作字典的key必须是可哈希的、不可变的数据类型,比如数字、元组和字符串。字典的关键字为dict,用{}表示,字典可以存储大量数据,相对列表速度要快一些,字典是无序的。增dic = {"name":"xiaowang","age":18,"job":"it"}dic.setdefault("k","v") #如果k存在不执行添加,不存在执行添加print(dic)#{'name': 'xiaowang'

2020-07-07 14:11:24 259

原创 python中的运算符

算数运算符+:加-:减*:乘/:除(python2获取的是整数,python3中获取有小数)//:整除。地板除;print(5//2) 2**:幂(次方)print(5**2)25%:取模(余数)print(5%2)1比较运算符>:大于<:小于==:等于!=:不等于>=:大于等于<=:小于等于赋值运算符=:赋值+=:自加。a+=2–》a=a+2-=:自减。xx=xx-xx*=:自乘。xx=xx*xx/=:自除。xx=xx/xx

2020-07-03 14:43:57 287

原创 redis主从复制(MasterReplicaset)、哨兵(Sentinel)、集群(Cluster)

主从复制redis主从复制原理:从库过slaveof命令并启动PSYNC命令发起主从复制的请求。如果是第一次连接主库,那么会触发一次全量复制;如果是重新连接主库,那么主库仅仅会发送从库部分数据。主库收到PSYNC之后会立即触发BGSAVE后台保存RDB文件并发送给从库,RDB文件先保存在磁盘再从磁盘加载到内存中。如果所有从库与主库发生网络断线,会自动重连,此时主库发生多从库请求的情况下,主库仅仅会用一个RDB文件服务所有从库,并不会生成多份RDB文件。主库陆续将产生写操作的命令缓存在内存中并发送给

2020-06-30 17:36:47 2721

原创 apache调优

隐藏系统类型和模块的版本号修改httpd.conf文件:修改/conf/extra/httpd-default.conf文件:设置为随机启动在设置Apache开机启动时,还要在启动脚本文件的头部的注释中加上chkconfig:2345 64 36:

2020-06-13 15:01:23 340

原创 分布式文件系统--ceph

概述ceph是一种专为高性能、高可靠性和高扩展性而设计的一种统一的分布式文件系统。随着OpenStack日渐成为开源云计算的标准软件栈,ceph也成为了OpenStack的首选后端存储,因为它支持块存储和对象存储,所以很自然地被用作云计算框架的整个存储后端,当然也可以单独作为存储,例如部署一套集群作为对象存储、共享存储等。...

2020-06-06 16:26:22 2505 5

原创 Linux桌面虚拟化技术--KVM

虚拟化概念虚拟化是一种资源管理技术,它是将计算机应硬件资源抽象、转换后呈现出来,它打破了实体结构空间不可切割的障碍,使用户可以比原本的组态以更好的方式来使用这些资源,常用的应用虚拟化方式有:完全虚拟化:虚拟机模拟完整的底层硬件环境和特权指令的执行过程。代表软件有VMware Workstation、VirtualBox、qemu等硬件辅助虚拟化:利用硬件辅助,比如Intel的intel-VT和AMD的AMD-V,来支持和处理敏感指令来实现完全虚拟化的功能。代表软件有VMware Workstation

2020-05-30 00:05:41 2796

原创 使用LVS搭建集群实现负载均衡

集群的概念集群就是一组各自相互独立且又相互依赖的通过高速网络互联的计算机组成的一个计算机组,以单一的系统模式加以管理为用户提供服务,在一个集群里面一台计算机就是集群的一个节点,集群有三个特性:可靠性、可伸缩性和可管理性。比如一台服务器能响应10000个并发随着业务量的增大用户增多现在有200000个并发,那这台服务器很明显已经达到瓶颈,解决这个问题一般有两个办法:第一个就是升级CPU、内存、带宽、加SSD,这种办法称为向上扩展(scale up),另外一个办法是增加服务器,使用多台服务器同时为用户提供服务

2020-05-23 11:41:07 6703

原创 tomcat优化篇——jmeter压力测试工具使用

安全优化管理端口保护在server.xml文件下把管理端口和口令修改一下,防止图谋不轨的人telnet上来关掉我的tomcat:ajp连接端口保护Apache JServ协议1.3版(简称ajp13)是一个二进制的TCP传输协议,相比当前HTTP这种纯文本协议来说它的效率和性能更加高效,然而,目前的浏览器并不能直接支持ajp13,就连目前非常火爆的nginx也没有相应的模块能支持ajp。按照官方的说法就是如果你使用的是apache,而Apache的proxy_ajp模块进行反向代理能大大提

2020-05-17 12:15:27 6550

原创 Tomcat开启jmx监控及常见故障排查

开启jmx监控先关闭tomcat服务/app/tomcat/bin/shutdown.sh编辑bin目录下catalina.sh文件在119行添加一下内容:CATALINA_OPTS="$CATALINA_OPTS -Dcom.sun.management.jmxremote -Dcom.sun.management.jmxremote.port=8888 -Dcom.sun.management.jmxremote.authenticate=false -Dcom.sun.management.j

2020-05-16 11:35:13 9278 4

原创 tomcat基础

tomcat简介tomcat是apache软件基金会的Jalarta项目中的一个核心项目,由apache、sun(目前已被Oracle收购)和其他一些公司及个人共同开发而成。

2020-05-13 21:13:25 8713

原创 源码编译部署LAMP环境

选择源码编译安装软件有以下几个原因:满足不同的运行平台。linux发行版众多,但是每个版本采用的软件或者内核版本都不一样,而而二进制包所依赖的环境不一定能够正常运行,所以大部分软件直接提供源码。方便定制所需的模块,满足不同的需求。大多数二进制代码都是一键装完所有,自由度并不高;而源码编译需要安装哪个模块都是可以自由定制的。方便运维人员和开发人员的维护。我们的源码是可以打包二进制的,但是对于...

2020-05-09 14:31:58 4391

原创 MySQL锁和事务

锁表锁开销小,加锁快,锁定力度大,并发度最低,偏向myiasm存储引擎,发生锁的概率最高。innodb支持表锁和行锁,而且默认创建隐藏的主键索引;意向共享锁IS: 通知数据库接下来需要施加什么锁并对表加锁。如果需要对记录A加共享锁,那么此时innodb会先找到这张表,对该表加意向共享锁之后,再对记录A添加共享锁。意向排它锁IX: 通知数据库接下来需要施加什么锁并对表加锁。如果需要对记录A加...

2020-04-29 13:32:51 3408

原创 Redis持久化

持久化两种方式介绍RDB持久化的优缺点:

2020-04-28 14:15:10 8269

原创 redis

文章目录redis简介redis重要的特性redis应用场景安装redis全局命令字符串redis简介redis是一种基于key-value的NoSQL数据库,和memcached类似,只不过它支持的值类型相对更多,包括string(字符串)、list(链表)、set(集合)、zset(sorted set --有序集合)、hash(哈希类型)等多种数据结构和数据算大组成。这些数据类型都支持p...

2020-04-27 12:36:07 8482

原创 将MySQL数据迁移到MongoDB

Mongodb中的mongoexport工具可以把一个collection导出成JSON格式或CSV格式的文件。正是由于MongoDB和MySQL支持导出CSV格式的数据以至于可以把MySQL的数据迁移至MongoDB中。实践演示:mysql开启安全路径vim /etc/my.cnf 添加以下配置secure-file-priv=重启数据库生效/etc/init.d/mysql...

2020-04-24 19:54:43 6716

原创 MongoDB复制集(Replica Set)

基本原理复制集是一组MongoDB维护相同数据集的实例。它的基本构成是1主2从的结构,自带互相监控投票机制,如果主库发生宕机,复制集内部会进行投票选举,选择一个新的主库替代原有主库对外提供服务。同时复制集会自动通知客户端程序主库已经发生切换,应用就会连接到新的主库。复制集作用冗余和增加数据可用性。对于不同数据库服务器上的多个数据副本,复制提供了对单个数据库服务器丢失的一定程度容错能力。...

2020-04-22 20:19:31 4098

原创 MongoDB基本操作、用户管理

安装MongoDB创建所需用户和组[root@mgDB ~]# useradd mongod[root@mgDB ~]# passwd mongod创建mongodb所需目录结构[root@mgDB ~]# mkdir -p /mongodb/27017/{conf,log,data,bin}解压文件[root@mgDB ~]# tar xf mongodb-l...

2020-04-22 14:41:35 3531

原创 MySQL基于多实例构建主从复制及常见故障排查

主从复制介绍主从复制基于binlog来实现的主库发生新的操作,都会记录到binlog从库取得主库的binlog进行“回放”主从复制的过程是异步的搭建主从复制的前提2个或以上的数据库实例主库需要开启二进制日志server_id要不同,区分不同的节点主库需要建立专用的复制用户 (replication slave)从库应该通过备份主库,恢复的方法进行"补课"人为告诉从库一些...

2020-04-17 12:39:41 2607

原创 SQL语句基础应用

SQL概述结构化查询语言(Structured Query Language)简称 SQL,是一种特殊目的的编程语言,是一种数据库查询和程序设计语言,用于存取数据以及查询、更新和管理关系数据库系统,同时也是数据库脚本文件的扩展名。SQL 是 1986 年 10 月由美国国家标准局(ANSI)通过的数据库语言美国标准,接着,国际标准化组织(ISO)颁布了 SQL正式国际标准。1989 年 4 月...

2020-04-12 00:03:02 3473

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除