ajinrealltrouble的博客

原创 6.聚类（K-means）+ 降维（Pca）

聚类算法：一种典型的无监督学习算法，主要用于将相似的样本自动归到一个类别中。在聚类算法中根据样本之间的相似性，将样本划分到不同的类别中，对于不同的相似度计算方法，会得到不同的聚类结果，常用的相似度计算方法有欧式距离法。K-means​ K : 初始中心点个数（计划聚类数）​ means：求中心点到其他数据点距离的平均值步骤：1、随机设置K个特征空间内的点作为初始的聚类中心2、对于其他每个点计算到K个中心的距离，未知的点选择最近的一个聚类中心点作为标记类别3、接着对着标记的聚类中心之后，重新

原创 5.集成学习

集成学习集成学习通过建立几个模型来解决单一预测问题。它的工作原理是生成多个分类器/模型，各自独立地学习和作出预测。这些预测最后结合成组合预测，因此优于任何一个单分类的做出预测。Bagging：互相遏制变壮从原始样本集中使用Bootstraping 方法随机抽取n个训练样本，共进行k轮抽取，得到k个训练集（k个训练集之间相互独立，元素可以有重复）。对于n个训练集，我们训练k个模型，（可以是决策树，knn等）对于分类问题：由投票表决产生的分类结果；对于回归问题，由k个模型预测结果的均值作为最后预测的结

原创 4.决策树算法

决策树：是一种树形结构，其中每个内部节点表示一个属性上的判断，每个分支代表一个判断结果的输出，最后每个叶节点代表一种分类结果，本质是一颗由多个判断节点组成的树。apiclass sklearn.tree.DecisionTreeClassifier(criterion=’gini’, max_depth=None,random_state=None)criterion特征选择标准“gini"或者"entropy”，前者代表基尼系数，后者代表信息增益。一默认"gini"，即CART算法min_sa

原创 3.逻辑回归

1.逻辑回归的原理逻辑回归的输入就是一个线性回归的结果。sigmoid激活函数判断标准回归的结果输入到sigmoid函数当中输出结果：[0, 1]区间中的一个概率值，默认为0.5为阈值逻辑回归最终的分类是通过属于某个类别的概率值来判断是否属于某个类别，并且这个类别默认标记为1.逻辑回归的损失，称为对数似然损失，公式如下综合完整损失函数2.逻辑回归apisklearn.linear_model.LogisticRegression(solver=‘liblinear’, penal

原创 2.线性回归

1.线性回归原理定义：线性回归(Linear regression)是利用回归方程(函数)对一个或多个自变量(特征值)和因变量(目标值)之间关系进行建模的一种分析方式。特点：只有一个自变量的情况称为单变量回归，多于一个自变量情况的叫做多元回归。最小二乘损失函数：线性回归常用的两种优化算法（1）正规方程（2）梯度下降梯度下降方法介绍（1）全梯度下降（FG）计算训练集所有样本误差，对其求和再取平均值作为目标函数。权重向量沿其梯度相反的方向移动，从而使当前目标函数减少得最多。因为在执行每

原创 1.K近邻算法（knn算法api、交叉网格搜索api）

定义：如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别，则该样本也属于这个类别。距离公式：通常采用欧氏距离，也可采用曼哈顿距离、切比雪夫距离、马氏距离等。KNN实现流程：1）计算已知类别数据集中的点与当前点之间的距离2）按距离递增次序排序3）选取与当前点距离最小的k个点4）统计前k个点所在的类别出现的频率5）返回前k个点出现频率最高的类别作为当前点的预测分类K值的选择：K值过小，​ 容易受到异常点的影响；k值过大，​ 受到样本均衡的问题1) 选择较小

原创 0.scikit-learn数据集、特征处理api介绍

scikit-learn数据集APIsklearn.datasets加载获取流行数据集datasets.load_*()获取小规模数据集，数据包含在datasets里例如：sklearn.datasets.load_iris() 加载并返回鸢尾花数据集datasets.fetch_*(data_home=None)获取大规模数据集，需要从网络上下载，函数的第一个参数是data_home，表示数据集下载的目录,默认是 ~/scikit_learn_data/例如：sklearn.datase

原创 python学习笔记16（Pandas）

Pandas是一个开放源码的Python库，它使用强大的数据结构提供高性能的数据操作和分析工具。Pandas的主要特点：快速高效的DataFrame对象，具有默认和自定义的索引。将数据从不同文件格式加载到内存中的数据对象的工具。丢失数据的数据对齐和综合处理。重组和摆动日期集。基于标签的切片，索引和大数据集的子集。可以删除或插入来自数据结构的列。按数据分组进行聚合和转换。高性能合并和数据加入。时间序列功能。DataFrame结构类比于二维数组结构DataFrame对象既有行索引，又有列索引行索引，

原创 python学习笔记14（Numpy）

Numpy（Numerical Python）是一个开源的Python科学计算库，用于快速处理任意维度的数组。Numpy使用ndarray对象来处理多维数组。1.N维数组-ndarray创建ndarray：np.array([])ndarray的属性创建数组时可指定类型a = np.array([[1, 2, 3],[4, 5, 6]], dtype=np.float32)2.基本操作生成0和1的数组np.ones(shape[, dtype, order])np.ones_like

原创 python学习笔记13(matplotlib绘图)

matplotlib图像绘制import matplotlib.pyplot as plt# 1. 创建画布plt.figure(figsize=(20, 8), dpi=100)# 2.图像绘制x = [1,2,3,4,5,6]y = [3,6,3,5,3,10]plt.plot(x, y)# 2.1 图像保存plt.savefig("./data/test.png")# 3.图像展示plt.show()基本绘制功能import matplotlib.pyplot a

原创 python学习笔记12（面向对象版学员管理系统）

需求1.要求：学员数据存储在文件中2.功能：添加学员、删除学员、修改学员信息、查询学员信息、显示所有学员信息、保存学员信息及退出系统分析1.学员2.管理系统3.主程序入口程序1 student.py需求：学员信息包括姓名、性别、手机号添加__str__方法，方便查看学员信息class Student(): def __init__(self, name, gender, tel): self.name = name self.gender =

原创 python学习笔记11（异常、模块和包）

异常语法：try:可能发生错误的代码except：如果出现异常执行的代码try: f = open('test.txt', 'r')except: f = open('test.txt', 'w')捕获指定异常语法：try:可能发生错误的代码except 异常类型：如果出现异常执行的代码try: print(1/0)except (NameError, ZeroDivisionError): # 多个指定异常 print('有错误')try:

原创 python学习笔记10（面向对象：封装、继承、多态、__dict__）

封装将属性和方法书写到类的里面的操作即为封装封装可以为属性和方法添加私有权限继承Python面向对象的继承指的是多个类之间的所属关系，即子类默认继承父类的所有属性和方法在Python中，所有类默认继承object类， object类是顶级类或基类；其他子类叫做派生类单继承# 师傅类class Master(object): def __init__(self): self.kongfu = '[古法煎饼果子配方]' def make_cake(self):

原创 python学习笔记9（面向对象应用实例）

面向对象就是将编程当成是一个事物，对外界来说，事物是直接使用的，不用去管他内部的情况。而编程就是设置事物能够做什么。类：对一系列具有相同特征和行为的事物的统称，抽象概念，用来创建对象特征即是属性；行为即是方法对象：类创建出来的真实存在的事物应用实例1：烤地瓜"""需求：被烤的时间和对应的地⽠状态：0-3分钟：生的3-5分钟：半生不熟5-8分钟：熟的超过8分钟：烤糊了2. 添加的调料：用户可以按自己的意愿添加调料"""class SweetPotato(): def __

原创 python学习笔记8（文件操作）

打开文件open(name, mode)name：目标文件名的字符串，可包含文件所在具体路径mode：访问模式：只读、写入、追加写入语法：对象.write(‘内容’)f = open('test.txt', 'w')f.write('hello word')f.close()读read()文件对象.read(num)num代表要读取的数据长度，如果没有传入num，表示读取全部数据readlines()readlines可以按照行的方式把整个文件中的内容进行一次性读取，并且返回

原创 python学习笔记7（递归+lambda+高阶函数map、reduce、filter）

递归特点：1.函数内部自己调用自己2.必须设置一个出口示例：3以内数字累加# 3+2+1def sum_number(num): # 如果是1，直接返回，函数出口 if num == 1: return 1 # 重复执行累加 result = num + sum_number(num - 1) # 返回累加结果 return resultsum_result = sum_number(3)print(sum_result)

原创 python学习笔记6（学员管理系统）

'''需求：进入系统显示系统功能界面，功能如下：添加学员删除学员修改学员信息查询学员信息显示所有学员信息退出系统系统共6个功能，⽤用户根据自己需求选取。''''''步骤分析：1. 显示功能界面2. 用户输入功能序号3. 根据⽤用户输入的功能序号，执行不同的功能(函数)3.1 定义函数3.2 调用函数'''#显示功能界面def print_info(): print('-' * 20) print('欢迎登录学员管理系统') print('1：添

原创 python学习笔记5（元组、字典、集合、公共操作、推导式）

元组注意：元组不支持修改按下标查找数据tuple1 = ('aa', 'bb', 'cc', 'bb')print(tuple1[0]) # aaindex()：查找某个数据，如果数据存在返回对应的下标，否则报错，语法和列表、字符串的index方法相同。count()：统计某个数据在当前元组出现的次数。len()：统计元组中数据的个数注意：元组内的直接数据如果修改则立即报错；但是如果元组⾥里面有列表，修改列表里面的数据则是支持的tuple2 = (10, 20, ['aa', 'bb',

原创 python学习笔记4（列表）

列表常用操作查找index()：返回指定数据所在位置的下标语法：列表序列.index(数据, 开始位置下标, 结束位置下标)name_list = ['Tom', 'Lily', 'Rose']print(name_list.index('Lily', 0, 2)) #1count()：统计指定数据在列表中出现的次数name_list = ['Tom', 'Lily', 'Rose']print(name_list.count('Lily')) # 1len()：列表中数据个数na

原创 python学习笔记3（切片+字符串常用操作方法）

切片#如果选取方向(开始到结束的方向)与步长方向冲突，无法选取数据str = '12345678'print(str[1:7]) #234567 步长为1print(str[1:7:2]) #246 步长为2print(str[:5]) #12345 默认下标从0开始print(str[4:]) #5678 默认取到最后print(str[:]) #12345678 选取全部print(str[::-1]) #87654321 倒序输出prin

原创 python学习笔记2(循环)

break、continue、else的使用

原创 python学习笔记1(变量、输出、数据转换、运算符)

原创 python中join函数的用法

python中join函数的用法join函数作用：用于连接字符串数组，将列表、元组、字符串中的元素以指定的字符连接得到一个新的字符串。语法：‘sep’.join(string)sep：分隔符。string：要连接的列表、字符串、元组、字典即：以sep作为分隔符，将string中的所有的元素合并成一个新的字符串返回值：返回一个以分隔符sep连接各个元素后生成的字符串示例：In [1]: a = ['I','Love','Python']In [2]: ' '.join(a)Out[2]: