重要参数

criterion

为了要将表格转化为一棵树，决策树需要找出最佳节点和最佳的分枝方法，对分类树来说，衡量这个“最佳”的指标 叫做“不纯度”。通常来说，不纯度越低，决策树对训练集的拟合越好。

不纯度基于节点来计算，树中的每个节点都会有一个不纯度，并且子节点的不纯度一定是低于父节点的，也就是 说，在同一棵决策树上，叶子节点的不纯度一定是最低的。

Criterion这个参数正是用来决定不纯度的计算方法的。sklearn提供了两种选择：

1）输入”entropy“，使用信息熵（Entropy） 2）输入”gini“，使用基尼系数（Gini Impurity）

当使用信息熵 时，sklearn实际计算的是基于信息熵的信息增益(Information Gain)，即父节点的信息熵和子节点的信息熵之差。

比起基尼系数，信息熵对不纯度更加敏感，对不纯度的惩罚最强。但是在实际使用中，信息熵和基尼系数的效果基 本相同。信息熵的计算比基尼系数缓慢一些，因为基尼系数的计算不涉及对数。另外，因为信息熵对不纯度更加敏 感，所以信息熵作为指标时，决策树的生长会更加“精细”，因此对于高维数据或者噪音很多的数据，信息熵很容易 过拟合，基尼系数在这种情况下效果往往比较好。当模型拟合程度不足的时候，即当模型在训练集和测试集上都表 现不太好的时候，使用信息熵。当然，这些不是绝对的

决策树

1、概述

决策树是一种非参数的有监督学习方法，它能够从一系列有特征和标签的数据中总结出决策规则，以解决分类和回归问题。

2、关键概念：节点

根节点：没有进边，有出边。包含最初的，针对特征的提问。

中间节点：既有进边也有出边，进边只有一条，出边可以有很多条。都是针对特征的提问。

叶子节点：有进边，没有出边，每个叶子节点都是一个类别标签。

子节点和父节点：在两个相连的节点中，更接近根节点的是父节点，另一个是子节点。/3、

3、决策树算法的核心是要解决两个问题：

1）如何从数据表中找出最佳节点和最佳分枝？ 2）如何让决策树停止生长，防止过拟合？

4、模块sklearn.tree的使用

1.str()实现数字转型字符串

print(str(1))  #1
print(str(34.5))  #34.5

2.使用[]提取字符

字符串的本质就是字符序列，可以通过在字符串后面添加[]里面指定偏移量，可以提取该位置的单个字符。

正顺序从0，1顺序标号，负顺序从-1，-2倒数标号。

a="abcdefdhigklmnopqrstuvwxyz"
print(a[1])  #b
print(a[-1])   #z

3.replace()实现字符串“改变”

字符串不可改变，调用replace()生成新字符串，原字符串并没有变化。

a="abcdefdhigklmnopqrstuvwxyz"
print(a.replace('c','付'))   #ab付defdhigklmnopqrstuvwxyz
print(a)   #abcdefdhigklmnopqrstuvwxyz  原字符串的值不更改
a=a.replace('c','付')    #a指向新的字符串
print(a)  #ab付defdhigklmnopqrstuvwxyz   a的值被更改

什么是sklearn？

sklearn是一个开源的基于python语言的机器学习工具包，它通过numpy、scipy和matplotlib等python数值计算的库实现高效的算法应用，涵盖了几乎所有主流机器学习算法。

转义字符：使用"\＋特殊字符"，实现某些难以用字符表示的效果。如换行等。

续行符：\

a='aaa\
bbb'
print(a)    #aaabbb

字符串拼接

+两边都是字符串   或者直接放到一起实现拼接

a='aaa'+'bbb'
print(a)  #aaabbb
b='aaa''bbb''ccc'
print(b)  #aaabbbccc

字符串复制

a='aaa'*3
print(a)   #aaaaaaaaa

不换行打印

print("aaa")
print("bbb")
print("ccc")
'''
aaa
bbb
ccc
'''
print("aaa",end="*")    #以星号结尾并且不换行
print("bbb",end="\t")
print("ccc")    #aaa*bbb   cccc

从控制台读取字符串：使用input（）从控制台读取键盘输入的内容。

myname=input("请输入名字：")

同一运算符：用于比较两个对象的储存单元，实际比较的是对象的地址。

is:判断两个变量引用对象是否为同一个，即比较对象的地址。

==：用于判断引用变量引用对象的值是否相等。

布尔值：True(1),False(0)

比较运算符：

==等于

！=不等于

逻辑运算符：

or（或）、and(与)、not

import time
a=int(time.time())
print(a)
totleminite=a//60
print(totleminite)
totlehour=tl=totleminite//60
print(totlehour)
totleday=totlehour//24
print(totleday)
totleyear=totleday//365
print(totleyear)  #51

时间的表示

浮点数：小数float

类型转换和四舍五入：float()

   round(value)可以返回四舍五入的值：不会改变原有的值，但是会产生新的值。

增强型赋值运算符：

+=：a+=2等价于a=a+2

类似的有：-=、*=、/=

整数：0b二进制，0o八进制，0x十六进制

用int()实现类型转换：

print(int(3.99))   #3
print(int(True))   #1
print(int(False))  #0

自动转型：

a=3+3.5
print(a)   #6.5

最基本内置数据类型介绍

(1)整型

(2)浮点型:小数

(3)布尔型：True、False

(4)字符串型:"abc"、"sxt"

(5)特殊一点的运算符：

       /:浮点数除法

       //:整数除法

       %：取余

      **：幂

       使用divmod()函数同时得到商和余数

变量的声明和赋值

1.变量在使用前必须被初始化。

2.变量使用后可以被删除。

标识符：用于变量、函数、类、模块等的名称。

规则：

1.区分大小写。

2.必须以字母、下划线作为开头。其后的只能用字母、数字、下划线

3.不能使用关键字

4.不要以双下划线开头或者结尾

模块和包名：全小写，尽量简单，多个单词之间用下划线。

函数名：全小写，多个单词之间用下划线。

类名：首字母大写，采用驼峰原则。

常量名：全大写，多个单词之间使用下划线隔开。

引用：在Python中，变量即为：对象的引用。变量储存的是对象的地址。变量通过地址引用了“对象”。

变量位于：栈内存。

对象位于：堆内存。

Python是动态类型语言：变量不需要声明类型，根据变量引用对象，解释器自动确定变量类型。

Python是强类型语言：每个对象都有数据类型，只支持类类型支持的操作。

对象

Python中一切都是对象。

对象的本质：内存块

a=3 #表示此刻a即指向了储存3的内存块
print(id(3)) #140714871105392
print(id(a)) #140714871105392
print(type(a))  #<class 'int'>
b="我爱你"
print(id(b))  #1807588781872
print(type(b))  #<class 'str'>
print(b) #我爱你

对象的组成：标识（id）、类型、value(值)

1.标识：对象在计算机内存中的地址。“id”可返回。

2.类型：对象存储数据的类型。“type”返回

3.值：对象所储存数据的信息。“print”可以直接打印

1.Python程序由模块构成。每个模块以.py结束。

2.CTRL+s保存内容。

3.tab默认四个空格。

4.勤写注释。

5.使用\行连接符（一行代码太长）

import turtle

turtle.width(10)

turtle.color("blue")
turtle.circle(50)
turtle.penup()

turtle.goto(120,0)
turtle.pendown()
turtle.color("black")
turtle.circle(50)
turtle.penup()

turtle.goto(240,0)
turtle.pendown()
turtle.color("red")
turtle.circle(50)
turtle.penup()

turtle.goto(60,-50)
turtle.pendown()
turtle.color("yellow")
turtle.circle(50)
turtle.penup()

turtle.goto(180,-50)
turtle.pendown()
turtle.color("green")
turtle.circle(50)

1.python是一种解释型、面向对象的语言。

import turtle
turtle.showturtle()  #显示箭头
turtle.write("fuzhuoming")  #写字符串
turtle.forward(300)#前进300
turtle.color("red")  #画笔颜色变红
turtle.left(90)
turtle.forward(300)
turtle.goto(0,50)
turtle.goto(0,0)
turtle.penup()#抬笔
turtle.goto(0,300)
turtle.pendown()
turtle.goto(0,50)
turtle.goto(50,50)
turtle.circle(100)

1.IDE：集成开发环境