列表元素的增加和删除

append()方法:在列表尾部直接加元素

a=[10,20]
a.append('wo')
print(a) #[10, 20, 'wo']

a=[10,20,30]
a.append([12,14])
print(a) #[10, 20, 30, [12, 14]]
a.append(15,17)
print(a) #错误，append只能添加一个元素

+运算符操作：创建新的列表对象，将原来的列表元素复制到新的列表对象中。（不建议）

a=[10,20]
print(id(a))
a=a+[3,4] #2568250519936
print(a) #[10, 20, 3, 4]
print(id(a)) #2568245607744重新生成了列表

extend():原地操作，不创建新的列表对象

a=[10,20,30]
print(id(a))  #2043085779328
a.extend([2,4])
print(a)   #[10, 20, 30, 2, 4]
print(id(a)) #2043085779328没有生成新的对象

insert():可以将指定元素插入到列表对象的指定位置。（不建议）

a=[10,20,30]
a.insert(2,100)
print(a)  #[10, 20, 100, 30]

乘法扩展

a=[10]*3 print(a) #[10, 10, 10]

列表的创建

基本语法的创建

a=[20,30,50,'xiaohong']
print(a[0])  #20
b=[]
b.append(10)
print(b)   #[10]

list()创建：list()将任何可以迭代的数据转化为列表。

a=list('fuzhuoming')
print(a) #['f', 'u', 'z', 'h', 'u', 'o', 'm', 'i', 'n', 'g']
b=list(range(5))
print(b)  #[0, 1, 2, 3, 4]

range()创建整数列表

range[start,end,step]

c=list(range(0,10,2)) print(c) #[0, 2, 4, 6, 8]range()完整用法

推到式生成列表

序列：一种数据储存方式，用来储存一系列的数据。在内存中，序列就是一块用来存放多个值（对象的地址）的连续的内存空间。

常用的序列结构：字符串、列表、元组、字典、集合。

列表：用于存储任意数目，任意类型的数据集合。

列表大小可变。字符串和列表都是序列lei'xi

基本运算符

and、or、not布尔与或非

is、is not判断是否为同一个对象

<、>比较值是否相等

a=4
print(3<a<10)   #True 关系运算符可以连用

字符串常用方法汇总

（1）常用查找方法

用来衡量模型在未知数据上的准确率的指标，叫做泛化误差（Genelization error）

泛化误差：

当模型在未知数据（测试集或者袋外数据）上表现糟糕时，我们说模型的泛化程度不够，泛化误差大，模型的效果 不好。泛化误差受到模型的结构（复杂度）影响。看下面这张图，它准确地描绘了泛化误差与模型复杂度的关系， 当模型太复杂，模型就会过拟合，泛化能力就不够，所以泛化误差大。当模型太简单，模型就会欠拟合，拟合能力 就不够，所以误差也会大。只有当模型的复杂度刚刚好的才能够达到泛化误差最小的目标。

1）模型太复杂或者太简单，都会让泛化误差高，我们追求的是位于中间的平衡点

2）模型太复杂就会过拟合，模型太简单就会欠拟合

3）对树模型和树的集成模型来说，树的深度越深，枝叶越多，模型越复杂

4）树模型和树的集成模型的目标，都是减少模型复杂度，把模型往图像的左边移动

可变字符串

    在Python中，字符串属于不可变对象，如果需要修改其中的值，只能创建新的字符串对象。但是可以用io.StringIO对象或array模块。

字符串的格式化

format()：通过{索引}/{参数名}直接映射参数值，实现对字符串的格式化。

填充与对齐

数字格式化

实例：用随机森林回归填补缺失值

我们从现实中收集的数据，几乎不可能是完美无缺的，往往都会有一些缺失值。面对缺失值，很多人选择的方式是 直接将含有缺失值的样本删除，这是一种有效的方法，但是有时候填补缺失值会比直接丢弃样本效果更好，即便我 们其实并不知道缺失值的真实样貌。我们可以使用sklearn.impute.SimpleImputer来轻松地将均 值，中值，或者其他最常用的数值填补到数据中

随机森林回归器

重要参数，属性与接口

criterion

回归树衡量分枝质量的指标，支持的标准有三种： 1）输入"mse"使用均方误差mean squared error(MSE)，父节点和叶子节点之间的均方误差的差额将被用来作为 特征选择的标准，这种方法通过使用叶子节点的均值来最小化L2损失

2）输入“friedman_mse”使用费尔德曼均方误差，这种指标使用弗里德曼针对潜在分枝中的问题改进后的均方误差

3）输入"mae"使用绝对平均误差MAE（mean absolute error），这种指标使用叶节点的中值来最小化L1损失

在回归中，我们追求的是，MSE越小越好。 然而，回归树的接口score返回的是R平方，并不是MSE。R平方被定义如下：

虽然均方误差永远为正，但是sklearn当中使用均方误差作为评判标准时，却是计算”负均方误 差“（neg_mean_squared_error）。

最重要的属性和接口，都与随机森林的分类器相一致，还是apply, fit, predict和score最为核心。值得一提的是，随 机森林回归并没有predict_proba这个接口，因为对于回归来说，并不存在一个样本要被分到某个类别的概率问 题，因此没有predict_proba这个接口。

Bonus：Bagging的另一个必要条件

有另一个必要条件：基分类器的判断准 确率至少要超过随机分类器，即基分类器的判断准确率至少要超过50%。

可以从图像上看出，当基分类器的误差率小于0.5，即准确率大于0.5时，集成的效果是比基分类器要好的。相反， 当基分类器的误差率大于0.5，袋装的集成算法就失效了。所以在使用随机森林之前，一定要检查，用来组成随机 森林的分类树们是否都有至少50%的预测正确率。率至少要超过50%。

随机森林的本质是一种装袋集成算法（bagging），装袋集成算法是对基评估器的预测结果进行平均或用多数表决 原则来决定集成评估器的结果。在刚才的红酒例子中，我们建立了25棵树，对任何一个样本而言，平均或多数表决 原则下，当且仅当有13棵以上的树判断错误的时候，随机森林才会判断错误。单独一棵决策树对红酒数据集的分类 准确率在0.85上下浮动，假设一棵树判断错误的可能性为0.2(ε)。所以，当一共有25棵树时，判断错误的可能性为：

可见，判断错误的几率非常小，这让随机森林在红酒数据集上的表现远远好于单棵决策树。

随机森林中其实也有random_state，用法和分类树中相似，只不过在分类树中，一个random_state只控制生成一 棵树，而随机森林中的random_state控制的是生成森林的模式，而非让一个森林中只有一棵树。

当random_state固定时，随机森林中生成是一组固定的树，但每棵树依然是不一致的，这是 用”随机挑选特征进行分枝“的方法得到的随机性。并且我们可以证明，当这种随机性越大的时候，袋装法的效果一 般会越来越好。用袋装法集成时，基分类器应当是相互独立的，是不相同的。

bootstrap & oob_score

要让基分类器尽量都不一样，一种很容易理解的方法是使用不同的训练集来进行训练，而袋装法正是通过有放回的随机抽样技术来形成不同的训练数据，bootstrap就是用来控制抽样技术的参数。

一般来说，自助集大约平均会包含63%的原始数据。因为每一个样本被抽到某个自助集中的概率为：

当n足够大时，这个概率收敛于1-(1/e)，约等于0.632。因此，会有约37%的训练数据被浪费掉，没有参与建模， 这些数据被称为袋外数据(out of bag data，简写为oob)。

 也就是说，在使用随机森林时，我们可以不划分测试集和训练集，只需要用袋外 数据来测试我们的模型即可。

重要属性和接口

控制基评估器

单个决策树的准确率越高，随机森林的准确率也会越高，因为装袋法是依赖于平均值或 者少数服从多数原则来决定集成的结果的。

n_estimators

n_estimators越 大，模型的效果往往越好。但是相应的，任何模型都有决策边界，n_estimators达到一定的程度之后，随机森林的 精确性往往不在上升或开始波动，并且，n_estimators越大，需要的计算量和内存也越大，训练的时间也会越来越 长。对于这个参数，我们是渴望在训练难度和模型效果之间取得平衡。

n_estimators的默认值在现有版本的sklearn中是10，但是在即将更新的0.22版本中，这个默认值会被修正为 100。这个修正显示出了使用者的调参倾向：要更大的n_estimators。

实操：建一片森林

随机森林

集成算法概述

集成学习（ensemble learning）是时下非常流行的机器学习算法，它本身不是一个单独的机器学习算法，而是通 过在数据上构建多个模型，集成所有模型的建模结果。基本上所有的机器学习领域都可以看到集成学习的身影，在 现实中集成学习也有相当大的作用，它可以用来做市场营销模拟的建模，统计客户来源，保留和流失，也可用来预 测疾病的风险和病患者的易感性。在现在的各种算法竞赛中，随机森林，梯度提升树（GBDT），Xgboost等集成 算法的身影也随处可见，可见其效果之好，应用之广。

多个模型集成成为的模型叫做集成评估器（ensemble estimator），组成集成评估器的每个模型都叫做基评估器 （base estimator）。通常来说，有三类集成算法：装袋法（Bagging），提升法（Boosting）和stacking。

装袋法的核心思想是构建多个相互独立的评估器，然后对其预测进行平均或多数表决原则来决定集成评估器的结 果。装袋法的代表模型就是随机森林。

提升法中，基评估器是相关的，是按顺序一一构建的。其核心思想是结合弱评估器的力量一次次对难以评估的样本 进行预测，从而构成一个强评估器。提升法的代表模型有Adaboost和梯度提升树。

网格搜索是有弊端的，它只能按照列出来的参数进行搜索匹配最佳组合，但是不能舍弃参数。所以到底把什么内容放在网格搜索的参数里是值得揣摩思考的。

网格搜索：能够帮助我们同时调整多个参数的技术——枚举技术

实例：一维回归的图像绘制

可以看出来，max_deepth=2的效果优于max_deepth=5的效果

链式赋值

字符串驻留机制和字符串比较

字符串驻留：仅保存一份相同且不可变字符串的方法，不同的值被存放在字符串驻留池中。对于符合标识符规则的字符串（仅包含下划线_、字母和数字），python支持字符串驻留机制。（放屁，pycharm中都驻留）

字符串比较

交叉验证：

交叉验证是用来验证模型稳定性的一种指标。交叉验证是用来观察模型的稳定性的一种方法，我们将数据划分为n份，依次使用其中一份作为测试集，其他n-1份 作为训练集，多次计算模型的精确性来评估模型的平均准确程度。训练集和测试集的划分会干扰模型的结果，因此用交叉验证n次的结果求出的平均值，是对模型效果的一个更好的度量。