决策树(decision tree)是一个以树的形式表示选择及其结果的图表。图形中的节点表示事件或选择,图形的边缘表示决策规则或条件。它主要用于使用 R 的机器学习和数据挖掘应用程序。
使用决策树的示例是 − 预测电子邮件是垃圾邮件或非垃圾邮件,预测肿瘤是癌性的,或者根据每个因素预测贷款是好信用风险或坏信用风险。
通常,模型是使用观察到的数据(也称为训练数据)创建的。然后,使用一组验证数据来验证和改进模型。R 具有用于创建和可视化决策树的包。
对于一组新的预测变量,我们使用此模型来决定数据的类别(是/否、垃圾邮件/非垃圾邮件)。
R 包“party”用于创建决策树。
安装 R 软件包
在 R 控制台中使用以下命令安装包。您还必须安装依赖软件包(如果有)。
install.packages("party")
包 “party” 具有函数 ctree(),用于创建和分析决策树。
语法
在 R 中创建决策树的基本语法是 -
ctree(formula, data)
以下是所用参数的描述 -
- formula 描述预测变量和响应变量的公式。
- data 所用数据集的名称。
输入数据
我们将使用名为 readingSkills 的 R 内置数据集来创建决策树。如果我们知道变量 “age”、“shoesize”、“score” 以及这个人是否是母语人士,它描述了某人的阅读技能分数。
下面是示例数据。
# 加载聚会包。它将自动加载其他
# 依赖包。
library(party)
# 从数据集读取技能中打印一些记录。
print(head(readingSkills))
当我们执行上述代码时,它会产生以下结果和图表 -
nativeSpeaker age shoeSize score
1 yes 5 24.83189 32.29385
2 yes 6 25.95238 36.63105
3 no 11 30.42170 49.60593
4 yes 7 28.66450 40.28456
5 yes 11 31.88207 55.46085
6 yes 10 30.07843 52.83124
Loading required package: methods
Loading required package: grid
...............................
...............................
1 yes 5 24.83189 32.29385
2 yes 6 25.95238 36.63105
3 no 11 30.42170 49.60593
4 yes 7 28.66450 40.28456
5 yes 11 31.88207 55.46085
6 yes 10 30.07843 52.83124
Loading required package: methods
Loading required package: grid
...............................
...............................
例子
我们将使用 ctree() 函数创建决策树并查看其图形。
# 加载聚会包。它将自动加载其他
# 依赖包。
library(party)
# 创建输入数据帧。
input.dat <- readingSkills[c(1:105),]
# 为图表文件命名。
png(file = "decision_tree.png")
# 创建树。
output.tree <- ctree(
nativeSpeaker ~ age + shoeSize + score,
data = input.dat)
# 绘制树。
plot(output.tree)
# 保存文件。
dev.off()
当我们执行上述代码时,它会产生以下结果——
null device
1
Loading required package: methods
Loading required package: grid
Loading required package: mvtnorm
Loading required package: modeltools
Loading required package: stats4
Loading required package: strucchange
Loading required package: zoo
Attaching package: ‘zoo’
The following objects are masked from ‘package:base’:
as.Date, as.Date.numeric
Loading required package: sandwich
结论
从上面显示的决策树中,我们可以得出结论,任何 readingSkills 分数低于 38.3 且年龄大于 6 的人都不是母语使用者。