线性回归

一、概述

二、多元线性回归LinearRegression

三、回归类的模型评估指标

四、多重共线性：岭回归和Lasso

五、非线性问题：多项式回归

ROC曲线

衡量在尽量捕捉少数类时，误伤多数类的情况如何变化（recall与

混淆矩阵

二分类中极为有效，少数类为正例，多数类为负例

1）真实值在预测值之前，两数字相同则预测正确

2）所有指标范围在[0,1]，11、00为分子的指标越接近1越好，01、10分子的指标越接近0越好

3）sklearn中没有特异度和假正率，需要自己计算

6个指标

1、准确率Accuracy

2、捕捉少数类

1）精确度Precision(查准率）：

越低，误伤了过多的多数类，衡量 多数类判错付出的成本

将多数类判错成本高昂时，追求高精确度

2）召回率Recall(敏感度、真正率、查全率）

越高，捕捉出了越多的少数类

不计一切代价找出少数类，追求高召回率

召回率和精确度此消彼长，代表捕捉少数类的需求和不误伤多数类需求的平衡

3）F1 measure：范围[0,1]，越接近1越好，代表精确度和召回率越高

3、判错多数类

1）特异度specificity（真负率）

衡量一个模型把多数类判断正确的能力

2）假正率false positive rate=1-特异度

衡量一个模型把多数类判断错误的能力

SVC模型评估指标

1、混淆矩阵

二分类中极为有效，少数类为正例，多数类为负例

1）真实值在预测值之前，两数字相同则预测正确

2）所有指标范围在[0,1]，11、00为分子的指标越接近1越好，01、10分子的指标越接近0越好

6个指标

1、准确率Accuracy

2、捕捉少数类

1）精确度Precision(查准率）：

越低，误伤了过多的多数类，衡量 多数类判错付出的成本

将多数类判错成本高昂时，追求高精确度

2）召回率Recall(敏感度、真正率、查全率）

越高，捕捉出了越多的少数类

不计一切代价找出少数类，追求高召回率

召回率和精确度此消彼长，代表捕捉少数类的需求和不误伤多数类需求的平衡

3）F1 measure：范围[0,1]，越接近1越好，代表精确度和召回率越高

3、判错多数类

1）特异度specificity（真负率）

衡量一个模型把多数类判断正确的能力

2）假正率false positive rate=1-特异度

衡量一个模型把多数类判断错误的能力

SVC模型评估指标

1、混淆矩阵

二分类中极为有效，少数类为正例，多数类为负例

1）真实值在预测值之前，两数字相同则预测正确

2）所有指标范围在[0,1]，11、00为分子的指标越接近1越好，01、10分子的指标越接近0越好

6个指标

1、准确率Accuracy

2、

1）精确度Precision(查准率）：

越低，误伤了过多的多数类，衡量 多数类判错付出的成本

将多数类判错成本高昂时，追求高精确度

2）召回率Recall(敏感度、真正率、查全率）

越高，捕捉出了越多的少数类

不计一切代价找出少数类，追求高召回率

召回率和精确度此消彼长，代表捕捉少数类的需求和不误伤多数类需求的平衡

3）F1 measure：范围[0,1]，越接近1越好，代表精确度和召回率越高

SVC模型评估指标

1、混淆矩阵

二分类中极为有效，少数类为正例，多数类为负例

1）真实值在预测值之前，两数字相同则预测正确

2）所有指标范围在[0,1]，11、00为分子的指标越接近1越好，01、10分子的指标越接近0越好

6个指标

1、准确率Accuracy

2、精确度Precision(查准率）：

越低，误伤了过多的多数类，衡量 多数类判错付出的成本

将多数类判错成本高昂 

SVC模型评估指标

1、混淆矩阵

二分类中极为有效，少数类为正例，多数类为负例

1）真实值在预测值之前，两数字相同则预测正确

2）所有指标范围在[0,1]，11、00为分子的指标越接近1越好，01、10分子的指标越接近0越好

3）6个指标

准确率Accuracy

SVC模型评估指标

核变换：把数据投影到

1、函数contour([x,y],z,[levels])用来绘制等高线

x,y：平面所有点横纵坐标，必须是二维，选填

z表示x,y对应坐标点的高度，必填

levels：默认显示所有等高线，可不填，填写整数n显示n个数据区间，填写数组或列表（递增顺序）显示对应高度等高线

2、绘制等高线的步骤：

制作网格

SVM支持向量机

一、概述

SVM功能强大，可以进行有监督学习、无监督学习、半监督学习

SVM如何工作？在分布中找到一个超平面（比所在空间小一维，是一个空间的子空间）作为决策边界，使模型的分类误差尽可能小。

支持向量机是一个最优化问题，目的是找出边际最大的决策边界（通过损失函数）。边际(d)是超平面往两边移动，直到碰到最近的样本停下得来的。拥有更大边际的决策边界，在分类中泛化误差更小，边际很小会过拟合。因此，支持向量机又叫做最大边际分类器。

二、sklearn.svm.SVC

1、线性SVM的损失函数

SVM支持向量机

一、概述

SVM功能强大，可以进行有监督学习、无监督学习、半监督学习

SVM如何工作？在分布中找到一个超平面（比所在空间小一维，是一个空间的子空间）作为决策边界，使模型的分类误差尽可能小。

支持向量机是一个最优化问题，目的是找出边际最大的决策边界（通过损失函数）。边际(d)是超平面往两边移动，直到碰到最近的样本停下得来的。拥有更大边际的决策边界，在分类中泛化误差更小，边际很小会过拟合。因此，支持向量机又叫做最大边际分类器。

二、

SVM支持向量机

一、概述

可以进行有监督学习、无监督学习、半监督学习

二、

矢量量化本质是一种降维应用，特征选择降维：选取贡献大的特征；PCA降维：聚合信息；矢量量化降维：同等样本量上（不改变样本和特征数目）压缩信息大小

3）重要参数max_iter&tol：让迭代提前停下来，数据量太大可以使用

max_iter：默认300，单次运行kmeans算法的最大迭代次数

tol：默认1e-4，两个迭代之间inertia下降的量，若小于tol设定的值，迭代就会停下

2）重要参数init&random_state&n_init（初始质心相关）质心选择的好，模型收敛更快，迭代次数更少

init：默认"k-means++"，决定初始化方式，通常不改

random_state：控制每次初始质心的位置相同，不设置则会在每个随机数种子下运行多次，选择结果最好的随机数种子

n_init：默认为10，每个随机数种子运行次数，希望更精确则增大

重要属性n_iter_：迭代次数

三、聚类算模型的评估指标

思路：由于KMeans目标是簇内差异小，簇外差异大，因此可以通过衡量簇内差异来衡量聚类效果

1、标签y已知（最好用分类）

互信息分、V-measure、调整兰德系数，三者都是越高越好，前两个取值[0,1]，最后一个取值[-1,1]

2、标签y未知：

1）轮廓系数

1）评价簇内稠密程度、簇间离散程度。样本与所在簇内其他样本相似度为a，其他簇内样本相似度为b，用平均距离计算。a越小，b越大，越好。

2）轮廓系数是对每一个样本进行计算，公式为s=(b-a)/max(a,b)，范围：（-1,1）

轮廓系数处于(0,1)：聚类好，越接近1越好

处于（-1,0）：聚类不好

3）使用sklearn.metrics中的silhouette_score计算，返回所有轮廓系数的均值，silhouette_samples返回每个样本的轮廓系数

from sklearn.metrics import silhouette_score
silhouette_score(x,y_pred)

2）卡林斯基-哈拉巴斯指数CHI

from sklearn.metrics import calinski_harabasz_score

越高越好，比轮廓系数快，数据量大时使用

3）戴维斯-布尔丁指数

4）权变矩阵

三、聚类算模型的评估指标

思路：由于KMeans目标是簇内差异小，簇外差异大，因此可以通过衡量簇内差异来衡量聚类效果

1、标签y已知（最好用分类）

互信息分、V-measure、调整兰德系数，三者都是越高越好，前两个取值[0,1]，最后一个取值[-1,1]

2、标签y未知：轮廓系数

1）评价簇内稠密程度、簇间离散程度。样本与所在簇内其他样本相似度为a，其他簇内样本相似度为b，用平均距离计算。a越小，b越大，越好。

2）轮廓系数是对每一个样本进行计算，公式为s=(b-a)/max(a,b)，范围：（-1,1）

轮廓系数处于(0,1)：聚类好，越接近1越好

处于（-1,0）：聚类不好

3）使用sklearn.metrics中的silhouette_score计算，返回所有轮廓系数的均值，silhouette_samples返回每个样本的轮廓系数

from sklearn.metrics import silhouette_score
silhouette_score(x,y_pred)

三、聚类算模型的评估指标

思路：由于KMeans目标是簇内差异小，簇外差异大，因此可以通过衡量簇内差异来衡量聚类效果

1、标签y已知（最好用分类）

互信息分、V-measure、调整兰德系数，三者都是越高越好，前两个取值[0,1]，最后一个取值[-1,1]

2、标签y未知：轮廓系数

1）评价簇内稠密程度、簇间离散程度。样本与所在簇内其他样本相似度为a，其他簇内样本相似度为b，用平均距离计算。a越小，b越大，越好。

2）轮廓系数是对每一个样本进行计算，公式为s=(b-a)/max(a,b)，范围：（-1,1）

轮廓系数处于(0,1)：聚类好，越接近1越好

处于（-1,0）：聚类不好