R - 随机森林



在随机森林方法中,会创建大量决策树。每个观察结果都被输入到每个决策树中。每个观测值的最常见结果将用作最终输出。将新的观察结果馈送到所有树中,并为每个分类模型进行多数投票。

对构建树时未使用的情况进行误差估计。这称为 OOB (Out-of-Bag) 误差估计,以百分比表示。

R 包“randomForest”用于创建随机森林。

安装 R 软件包

在 R 控制台中使用以下命令安装包。您还必须安装依赖软件包(如果有)。

install.packages("randomForest)

包 “randomForest” 具有函数 randomForest(),用于创建和分析随机森林。

语法

在 R 中创建随机森林的基本语法是 -


randomForest(formula, data)

以下是所用参数的描述 -

  • formula 是描述预测变量和响应变量的公式。
  • data 是所用数据集的名称。

输入数据

我们将使用名为 readingSkills 的 R 内置数据集来创建决策树。如果我们知道变量 “age”, “shoesize”, “score” 以及这个人是否是母语人士,它描述了某人的阅读技能分数。

下面是示例数据。


# 加载 party 包。它将自动加载其他
# 所需的包。
library(party)

# 从数据集读取技能中打印一些记录。
print(head(readingSkills))

当我们执行上述代码时,它会产生以下结果和图表 -

  nativeSpeaker   age   shoeSize      score
1           yes     5   24.83189   32.29385
2           yes     6   25.95238   36.63105
3            no    11   30.42170   49.60593
4           yes     7   28.66450   40.28456
5           yes    11   31.88207   55.46085
6           yes    10   30.07843   52.83124
Loading required package: methods
Loading required package: grid
...............................
...............................

我们将使用 randomForest() 函数创建决策树并查看它的图形。


# 加载 party 包。它将自动加载其他
# 所需的包。
library(party)
library(randomForest)

# 创造森林。
output.forest <- randomForest(nativeSpeaker ~ age + shoeSize + score, 
           data = readingSkills)

# 查看森林结果。
print(output.forest) 

# 每个预测器的重要性。
print(importance(fit,type = 2)) 

当我们执行上述代码时,它会产生以下结果——

Call:
 randomForest(formula = nativeSpeaker ~ age + shoeSize + score,     
                 data = readingSkills)
               Type of random forest: classification
                     Number of trees: 500
No. of variables tried at each split: 1

        OOB estimate of  error rate: 1%
Confusion matrix:
    no yes class.error
no  99   1        0.01
yes  1  99        0.01
         MeanDecreaseGini
age              13.95406
shoeSize         18.91006
score            56.73051

结论

从上面显示的随机森林中,我们可以得出结论,shoesize 和 score 是决定某人是否是母语人士的重要因素。此外,该模型只有 1% 的误差,这意味着我们可以以 99% 的准确率进行预测。